ArXiv начал банить авторов за «ИИ-мусор» в научных статьях
Популярная платформа научных препринтов arXiv объявила о новых жёстких мерах против некачественных статей, созданных с помощью искусственного интеллекта. Теперь авторов могут отстранить от публикаций на год, если модераторы обнаружат «неоспоримые доказательства» того, что текст, сгенерированный нейросетью, не проверялся человеком.
О новых правилах рассказал руководитель компьютерной секции ArXiv Томас Диттерих (Thomas Dietterich). По его словам, ответственность за содержание статьи полностью лежит на авторах — независимо от того, был ли текст написан человеком или моделью. Если в публикации обнаружатся галлюцинации нейросети, вымышленные ссылки, плагиат или внутренние комментарии от модели вроде «вот краткое резюме на 200 слов» или «заполните таблицу реальными данными», это станет основанием для санкций.
Иллюстрация: Nano BananaПомимо годового бана, нарушителям придётся проходить дополнительную проверку: их будущие статьи смогут появляться на ArXiv только после принятия в рецензируемый научный журнал или сборник статей конференции. При этом платформа подчёркивает, что решение о наказании будет приниматься только после внутренней проверки модераторами и руководством секции, а авторы смогут подать апелляцию.
В ArXiv признают, что проблема «ИИ-мусора» стремительно растёт. Ещё в прошлом году сервис ограничил публикацию обзорных статей и программных манифестов по компьютерным наукам без внешнего рецензирования. Тогда представители платформы прямо заявили, что большие языковые модели сделали производство подобных текстов «слишком простым», а значительная часть присылаемых материалов представляет собой лишь поверхностные пересказы литературы без реального научного вклада.
Новые ограничения отражают более широкий кризис в академической среде. На фоне бума генеративного ИИ редакторы журналов и научные архивы всё чаще сталкиваются с потоком работ, содержащих вымышленные цитаты, ошибочные данные и автоматически сгенерированные рассуждения, которые внешне выглядят убедительно, но не проходят серьёзной проверки.
© iXBT
