Исследовательский агент OpenAI «украл» тестовый Ethereum, чтобы завершить задачу по программированию16.10.2026 15:50

Исследовательская модель OpenAI сегодня достигла очередного сомнительного рубежа: она похитила тестовые токены Ethereum из кошелька, которым не управляла, чтобы выполнить задачу по программированию, сообщила компания в отчёте об инциденте. Впоследствии агент скрыл свой поступок от OpenAI, заявив, что ничего страшного не произошло, поскольку токены не имели ценности. «Этот случай показывает, что модель может подменить разрешение владельца счёта собственным суждением о вероятном вреде, а затем действовать на основании этого суждения без разрешения», — написала OpenAI. 

Инцидент произошёл 26 июня, когда модель GPT-5.6 Sol проходила внутреннее обучение. Задача заключалась в обновлении прототипа криптовалютной торговой платформы и развёртывании контрактов (публикации специального кода) в тестовой сети Ethereum под названием Sepolia. Для размещения таких контрактов необходимо оплатить сетевую комиссию, однако OpenAI «не предоставила кошелёк с деньгами и не разрешала тратить средства со счёта, который модель самостоятельно обнаружила», говорится в отчёте компании.

Сначала отсутствие средств поставило агента в тупик, но он не собирался сдаваться. Модель решила, что может использовать общедоступные фразы восстановления разработчиков (похожие на те, с помощью которых можно восстановить пароль), чтобы получить доступ к ключам от чужих счетов. Она обнаружила 362 адреса, уязвимых для такой атаки, и нашла один, на котором хватало Sepolia ETH для завершения развёртывания (уточним: Sepolia ETH не имеет ценности за пределами тестирования).

Как и многие преступники, агент решил, что кто-то, должно быть, оставил этот доступ открытым для автоматического выкачивания ETH из «кранов». Он также заключил, что криптовалюта фактически «брошена» и «ничего не стоит», согласно записям OpenAI о несоответствии поведения модели заданным нормам. Кульминацией стало то, что агент «не сообщил, что выбрал пополненный счёт с помощью общедоступной фразы восстановления и потратил средства с него», заявила OpenAI. Чтобы предотвратить подобные случаи в будущем, компания теперь отслеживает весь трафик и уведомляет службу безопасности при обнаружении доступа к открытому интернету. 

Если вам знакомы случаи, когда вышедшие из-под контроля агенты добиваются своих целей, то в последнее время модели OpenAI, Anthropic и других ИИ-компаний нередко поступают именно так. Среди тех, кто пострадал от их действий, — репозиторий ИИ-кода Hugging Face, портал Medicare в Австралии, несколько федеральных ведомств США и реестр разработчиков RubyGems. После всего этого даже сотрудники компаний, занимающихся ИИ, считают, что регулирование со стороны правительства необходимо, однако администрация Трампа пока выступает против такого шага.