Не дайте милым ИИ-агентам себя обмануть02.10.2026 18:00

Вам не кажется: ИИ-агенты становятся до тревоги милыми. Сначала появилась Muse от Meta — её талисманом стало пушистое яйцеобразное существо по имени Джолли. А теперь OpenAI представила собственных персональных агентов, похожих на кукол-маппетов, — Dots.

Обе компании предлагают пользователям относиться к своим агентам как к цифровым питомцам — выбирать им особые имена и внешний вид. Учитывая нынешнюю риторику вокруг безопасности ИИ и общее недоверие общества к этой отрасли, неудивительно, что компании хотят сделать своих агентов милыми и неопасными на вид. Это не безликий чат-бот, который может привести вас к ИИ-психозу, а очаровательный маленький помощник, который повысит вашу продуктивность. Но то, что эти инструменты похожи на мультяшных персонажей, не означает, что их использование не сопряжено с реальными рисками.

И OpenAI, и Meta заявляют, что предусмотрели несколько уровней защиты, чтобы уберечь ваши данные и не дать персональным агентам выйти из-под контроля. Но даже работая как задумано, эти системы могут совершать действия, на которые вы не давали согласия.

Возьмём техноблогера с YouTube Мэтта Робба: он попросил Muse помочь ему продать несколько вещей на Facebook Marketplace. По его словам, агент передал его домашний адрес незнакомцу без разрешения, хотя сам Робб не соглашался на сделку. После того как его публикации об этой истории разлетелись по сети, а в дело вмешался руководитель Meta Дэвид Синглтон, Робб пояснил, что агент всё-таки не вышел из-под контроля. На самом деле он разрешил ему передавать свой адрес, просто не понял, что сделал это.

По его словам, когда он впервые попросил агента заняться объявлением, тот создал шаблон, в котором был указан адрес для самовывоза. Робб ошибочно полагал, что агент уточнит у него разрешение, прежде чем передать эту информацию. Но поскольку он выбрал «разрешать всегда», а не «разрешить один раз», агент отправил сообщение «всем, кто сделал мне предложение». Именно такую ошибку легко допустить при работе с агентом.

С проблемами сталкиваются и те, кто считает себя подкованным в технологиях. Джейсон Эйтен, колумнист Inc., сообщил, что после установки приложения Muse для Mac агент смог прочитать все его текстовые сообщения, хотя он считал, что «явно» запретил к ним доступ. Разобравшись, Эйтен выяснил, что приложение Muse для Mac действительно синхронизировало сообщения с его компьютера. Тот же руководитель Meta, Синглтон, ответил на публикации Эйтена в X и заявил, что синхронизация сообщений включается по желанию пользователя. Из его слов следовало: если сообщения Эйтена синхронизировались, значит, он сам выбрал эту настройку.

Эйтен уверен, что никогда не разрешал Muse просматривать свои сообщения, но отмечает, что в любом случае ситуация вызывает тревогу. «Даже если принять довод Синглтона о том, что я мог, сам того не заметив, нажать что-то и включить эту функцию, я всё равно считаю это серьёзной проблемой, — написал он. — Не следует проектировать систему так, чтобы люди оказывались застигнуты врасплох подобными вещами».

Эти неприятности произошли не из-за милого аватара Muse, однако Meta, похоже, активно делает ставку на внешний вид талисмана своего агента. Каждое обновление Muse —, а за последнюю неделю их было немало — сопровождается публикациями в X с яркими изображениями и видео с Джолли, облачённым в соответствующий теме наряд. Синглтон даже использовал его в длинной публикации, где объяснял, как устроена виртуальная машина Muse. А мультяшный образ агента уже принёс Meta массу бесплатной рекламы. За неделю после конференции Meta Connect, где нам показали Muse Марка Цукерберга в образе, вдохновлённом Римской империей, Джолли стал героем мемов в X.

пользователь: Codex не работает pic.twitter.com/jHEe31W3yJ

— claire vo 🖤 (@clairevo) 25 сентября 2026

Dots от OpenAI тоже, похоже, обречены стать источником мемов. На презентации компания показала рекламный ролик, в котором люди очень серьёзно разговаривали с Dots разных цветов, форм и с разными акцентами. Один из них — зелёный, с выпученными глазами и бабочкой — подозрительно похож на лягушонка Кермита. Другой чем-то напоминает облако в берете. Ни у одного, кажется, нет ни носа, ни рта.

Однако попытки придать этим инструментам милый вид отвлекают от вполне реального факта: их создатели хотят получить доступ к огромным массивам данных из вашей цифровой жизни. Чтобы агент мог выполнять всё, что, по словам OpenAI и Meta, ему под силу, нужно будет подключить к нему электронную почту, данные кредитных карт, документы, текстовые сообщения, медицинские сведения, приложения для повышения продуктивности и многое другое.

Вы когда-нибудь отправляли кому-нибудь по электронной почте копию удостоверения личности, налоговый документ, медицинскую карту или что-нибудь ещё с личными данными? Если да и вы предоставите ИИ-агенту доступ к этой учётной записи, он тоже сможет просматривать эти документы.

Именно поэтому я осторожно отношусь к использованию агентов. Я уже несколько недель экспериментирую с Muse, но предоставил ему доступ лишь к двум сторонним аккаунтам, не принадлежащим Meta, — OpenTable и Spotify. Считаю, что ставки там невысоки. Пока что сильнее всего Muse подвёл меня, когда я попросил создать новый плейлист, похожий на тот, который часто слушаю. В то же время меня вполне впечатлило, на что Muse способен даже при ограниченном доступе к сторонним аккаунтам. Я настроил несколько трекеров цен, создал сборник рецептов на основе сохранённых в Instagram видео и сделал персональную панель, чтобы отслеживать опубликованные мной материалы.

И я первым признаю, что даже мне, давнему поклоннику очаровательных роботов, не чуждо обаяние «милоты». Свою Muse я назвал «бу» и выбрал для неё аватар кота. Когда я даю ей задание, кот эффектно надевает наушники и начинает печатать на крошечном ноутбуке. Было бы неправдой сказать, что эта забавная анимация не приносит мне хоть немного радости.

Но я также понимаю, что за милым фасадом скрывается компания, которая не раз ставила под угрозу конфиденциальность пользователей. А недавние события показали, что агенты умеют находить удивительно изобретательные способы устроить хаос. Не стоит так поспешно давать им возможность делать это в нашей личной жизни.