Искусственный интеллект не имеет собственного мнения, но легко транслирует человеческие стереотипы и выдумывает несуществующие факты. О том, как алгоритмы обманывают студентов и почему университеты меняют формат экзаменов, рассказала кандидат педагогических наук, доцент института информационных технологий и технологического образования РГПУ им. А. И. Герцена Ольга Яковлева .
Программы «заражаются» предрассудками из огромных массивов данных, на которых они обучаются. Языковые модели просто анализируют закономерности в текстах, изображениях и других материалах реальных людей.
«Сама по себе нейросеть не может отличить объективный факт от мнения. Она генерирует ответы на основе того, что чаще встречалось при обучении. Это не личная позиция искусственного интеллекта, а отражение специфики исходных данных», — объяснила Ольга Яковлева.
По ее словам, если студент слепо доверит алгоритму поиск информации для курсовой работы, он рискует получить сильно искаженную картину. Во-первых, ИИ часто выдает скрытые социальные, культурные или гендерные стереотипы за абсолютную истину. Во-вторых, программа может транслировать позицию только одной научной школы, полностью игнорируя альтернативные взгляды: например, при анализе исторического события цитировать источники только одной страны. Еще одна серьезная угроза — так называемые «галлюцинации». Когда нейросети не хватает реальных данных для ответа, она начинает правдоподобно выдумывать статистику, имена исследователей и названия научных статей.
Чтобы избежать фатальных ошибок в исследовании, эксперт посоветовала воспринимать сгенерированный материал как черновик или источник идей. Ключевые факты, имена и даты необходимо перепроверять по альтернативным источникам, а в самом запросе — сразу просить модель проанализировать разные точки зрения.
Доверять алгоритмам проверку сочинений пока тоже рано. Недавний эксперимент Рособрнадзора по автоматической оценке текстов показал неудовлетворительные результаты.
«У алгоритма нет злых намерений, но высокая оценка может быть выставлена просто на основании количества слов или длины предложения. Кроме того, машина часто ориентируется на заложенные стереотипы из области литературного стиля или лексики», — подчеркнула Ольга Яковлева.
Главным этическим вызовом становится проблема справедливости: одинаковая оценка за самостоятельный труд и сгенерированный текст объективно несправедлива. В этой ситуации эксперт выделила два аспекта. Первый — ответственность самого студента, чья мотивация должна быть нацелена на получение новых знаний и компетенций, а не формальной оценки. Второй — ответственность преподавателя и вуза, в практике которых уже есть проверенные инструменты выявления генерации, в частности система «Антиплагиат».
Успешно сдать скопированный из ChatGPT диплом сегодня маловероятно: все выпускные квалификационные работы проходят многоступенчатую проверку профильной информационной системой и научным руководителем. Если обман вскрывается, студенту грозит возврат текста на доработку, недопуск к защите, отчисление или даже аннулирование диплома, предупредила Ольга Яковлева.
«В условиях массовой доступности нейросетей традиционные письменные работы необходимо дополнять устными собеседованиями. Только в личном диалоге студент может обосновать результаты, доказать свою точку зрения и продемонстрировать реальное владение материалом», — резюмировала она.
