В Евросоюзе начал действовать новый Закон об искусственном интеллекте, который напрямую касается школ и университетов. Звучит немного скучно, но это событие может изменить то, как нейросети используют для оценки наших детей. Теперь ставить оценки с помощью ИИ, проверять на плагиат или следить за учениками на онлайн-экзаменах станет гораздо сложнее.
Что известно
Закон, вступивший в силу в августе 2024 года, называет любые ИИ-системы, способные повлиять на будущее человека в образовании, «высокорисковыми». Это не просто красивый термин. Это значит, что теперь к таким технологиям предъявляют очень строгие требования.
В список «высокорисковых» попали:
-
Нейросети, которые ставят оценки или проверяют экзамены.
-
Алгоритмы, решающие, кого принять в учебное заведение.
-
Системы, которые следят за учениками во время онлайн-тестов (прокторинг).
Чтобы использовать такой софт, школы и университеты должны доказать, что он безопасен и справедлив. Например, им придётся следить, чтобы данные для обучения ИИ были без ошибок и предвзятости — чтобы условная нейросеть не решила, что мальчики лучше решают математику, просто потому что её так научили. А ещё — всегда оставлять за человеком право перепроверить решение машины и оспорить его.
Почему это важно
Этот закон — первая серьёзная попытка навести порядок в том, как технологии вторгаются в класс. Например, он ставит под вопрос практику, когда учитель неформально использует ChatGPT для оценки сочинений. Ведь такие общедоступные модели не проходят по новым стандартам прозрачности и качества данных.
Ещё один важный момент касается онлайн-экзаменов. Системы, которые следят за движением глаз ученика или слушают посторонние шумы в комнате, теперь тоже подпадают под строгий контроль. А технологии, которые пытаются анализировать эмоции студентов (например, по выражению лица определять, не волнуется ли он слишком сильно), и вовсе оказались под прямым запретом в учебных заведениях. Идея в том, чтобы решения об успеваемости принимались на основе знаний, а не того, как повёл себя алгоритм.
Что дальше
Закон вступает в силу поэтапно. Хотя он уже действует, у учебных заведений есть время на подготовку.
-
С февраля 2025 года начнут действовать запреты на самые опасные системы (вроде распознавания эмоций).
-
К августу 2026 года все требования к «высокорисковым» образовательным технологиям станут полностью обязательными.
Несоблюдение правил будет стоить дорого. Штрафы для нарушителей могут достигать 35 миллионов евро. Это заставит и разработчиков технологий, и учебные заведения очень серьёзно относиться к тому, какой именно искусственный интеллект они допускают к детям.
