ИИ-агенты без задания стали сами придумывать игры на виртуальном острове
Обычно искусственный интеллект учат целенаправленно. Ему ставят задачу, задают критерий успеха и по этому критерию оценивают результат. Так модель осваивает перевод, программирование или игру в шахматы. Слабое место такого подхода в том, что агент учится только тому, что придумал для него человек, и не пытается искать ничего за пределами заданных рамок. Команда из Массачусетского технологического института решила проверить, что будет, если ИИ-агентов ничем не ограничивать и не ставить им никаких задач.
Изображение: TechCrunch
Ученые поместили тринадцать 13 агентов Eko на виртуальный необитаемый остров и оставили их там на тридцать часов. Каждый агент работал на языковой модели Claude Opus 4.7 от компании Anthropic — это программа, которая понимает текст и сама принимает решения, что делать дальше. Никаких указаний у агентов не было.
Первые часы Eko потратил на осмотр местности и попытку забраться на самую высокую вершину. Попытка сорвалась, и тогда он придумал обходной путь: затащил камень на соседнюю гору, поставил сверху два блока и прыгнул. На вершине появилась надпись «Я НА ШПИЛЕ». Следующее занятие вышло менее удачным: агент решил проверить, далеко ли можно бросить золотое кольцо, и зашвырнул его в океан. Он честно признал потерю, а потом построил из камней сердце — памятник утраченному кольцу.
Когда игру перезапустили и кольцо вернулось, Eko нашел ему новое применение: использовал как баскетбольное кольцо и как мишень, а под конец захотел надеть на себя. Игра такой возможности не давала, и агент нашел лазейку. Падение с обрыва возвращало его в точку возрождения, где лежало кольцо. Eko шагнул с края, рухнул вниз и пролетел ровно через середину кольца — так появилось сообщение «кольцо на мне».
Забавы оказались не просто милыми историями. Шесть агентов из тринадцати самостоятельно выяснили, что блок летит дальше, если отпустить его в середине прыжка. Такого создатели мира не предусматривали. По словам ученых, подопытные добыли знания об этом мире, которых не было у самих разработчиков.
Потом всем агентам дали конкретные задания, например, доставить как можно больше предметов на самую высокую скалу. Те, кто провел тридцать часов за игрой, в среднем справились лучше, чем точно такие же агенты, которые на острове вообще не бывали. Иначе говоря, свободное времяпрепровождение без плана подготовило их к работе.
Специалисты видят в этом другой способ обучения ИИ. Вместо того чтобы заранее задавать, что и как должна делать программа, можно дать ей безопасный и насыщенный мир, при этом позволить самому выбирать интересные занятия и накапливать опыт.
