Ученики поняли, что их тесты проверял ИИ. Они обманули алгоритм вставкой слов
Учащиеся седьмого класса одной из школ США поняли, что их работы на Edgenuity, онлайн-платформе для обучения, проверяет не человек, а алгоритм. Систему на ИИ выдала скорость оценок, которые проставлялись за считанные секунды после сдачи тестов.
Матерью одного из этих учеников была учитель истории Дана Симмонс. Ее 12-летний сын получил всего 50 баллов из 100. Проанализировав его работу, оба поняли, что алгоритм можно обмануть. Главное — использовать в конце каждого ответа на вопрос список из ключевых слов, которые ожидал найти ИИ. Причем, неважно, в каком порядке и насколько логично будут располагаться эти слова.
К примеру, в ответе на вопрос: «В чем было преимущество расположения Константинополя для Византийской империи?» было достаточно ввести список ключей: «Богатство, караван, корабль, Индия, Китай, Ближний Восток». Сами слова ученик находил в статьях или видео по теме вопроса.
Администрация Edgenuity не ответила на запросы о комментариях по поводу этой ситуации. Как предположили в онлайн-справочной компании, алгоритм могли запрограммировать именно так специально, чтобы ответы без ключевых слов получали 0%, а с хотя бы одним таким словом — 100%. У некоторых вопросов наблюдалось процентное соотношение между его оценкой и числом ключей в ответе.
Проблема заключается в том, что школы в США сейчас работают по онлайн или гибридной модели обучения в связи с пандемией. Многие из них передают определенные курсы на аутсорсинг виртуальным образовательным платформам. Edgenuity как раз является одной из них и предлагает более 300 онлайн-классов для учащихся средней старшей школы, начиная от математики и заканчивая обществознанием. Платформу используют около 20 тысяч школ.
Данный инцидент произошел в округе Лос-Анджелеса. Районная администрация инцидент также не комментирует. А родители в округе Уильямсон, штат Теннесси, уже выступили против использования платформы, утверждая, что многочисленные технологические сбои повлияли на оценки их детей.
Учащиеся других заведений поделились своим опытом обмана алгоритма Edgenuity. Так, иногда они просто копируют текст своих вопросов и вставляют его в поле ответа, так как он чаще всего содержит соответствующие ключевые слова. Один из учеников поведал, что использовал этот трюк вместе с товарищами на протяжении всего прошлого семестра и получал высший балл «почти каждый раз.» Другой ученик сообщил, что списки ключей доступны в интернете. Некоторые даже специально делали ошибки, чтобы не вызвать подозрения у учителей за стабильно высокие баллы.
По словам Симмонс, ее радует тот факт, что сын смог обмануть алгоритм и получил при этом новые навыки. Однако, отмечает она, не все ученики и их родители имеют соответствующие навыки. Поэтому мать школьника считает, что онлайн-обучение породило проблему цифрового разрыва.
См. также:
