Учеников по всему миру начали обвинять в списывании из-за программ, которые сами ошибаются. В ответ школьники и студенты устраивают эксперименты, чтобы доказать: слепо доверять этим технологиям нельзя.
Что известно
Всё началось, когда в системы проверки на плагиат добавили новую функцию — поиск текста, написанного нейросетью. И тут же посыпались ошибки. Студентка РЭУ им. Плеханова написала диплом о личном опыте, но детектор нашёл в нём 34% «машинного» текста. А студентке из Кемерово пришлось переписывать работу 13 раз.
И это не только российская история. В США студентку Мойру Олмстед обвинили в использовании ИИ, потому что у неё слишком «правильный» и структурированный стиль письма. Программа решила, что так писать может только робот.
Ненадежность детекторов подтверждают и сами разработчики. Например, ранняя версия инструмента от OpenAI, создателей ChatGPT, правильно определяла ИИ-текст лишь в 26% случаев. Зато в 9% случаев она ошибочно клеймила работы, написанные человеком. Популярные сервисы вроде GPTZero и Copyleaks тоже неидеальны.
Почему это важно
Для ребёнка или подростка такое обвинение — огромный стресс. Вместо того чтобы обсуждать суть работы, ученик вынужден доказывать, что он не мошенник. Родителям же приходится вступать в конфликты со школой, требуя доказательств, которых, по сути, нет — есть только вердикт программы.
Учителя тоже в растерянности. С одной стороны, есть установка проверять работы, с другой — очевидные сбои, из-за которых страдают добросовестные ученики. Получается, детекторы могут наказывать не за списывание, а просто за определённый стиль письма, который кажется им «подозрительным».
Контекст
Пока взрослые спорят, доверять ли детекторам, 86% школьников уже используют нейросети для учёбы. Запрещать их бессмысленно, поэтому в образовании постепенно смещается фокус: с тотального контроля на адаптацию.
Педагоги начинают понимать, что нужно менять сами задания так, чтобы их было бесполезно «скармливать» нейросети. Некоторые даже идут на хитрость: вставляют в условия задачи скрытые инструкции, которые может увидеть только ИИ. Это показывает, что эпоха нейросетей требует от образования не новых запретов, а совершенно других подходов к проверке знаний.
Источник: Конфликт в образовании: студенты и школьники страдают из-за неточности ИИ-детекторов
