Крупные банки опасаются, что агенты искусственного интеллекта могут повысить риск мошенничества и обмана
- Шесть международных банков опубликовали документ Building Trust in Agentic Commerce с предупреждением об угрозах мошенничества при покупках через ИИ-агентов.
- Авторы сформулировали пять принципов для разработчиков ИИ и потребовали соблюдать стандарты процессинга платежей без извлечения реквизитов с сайтов.
- Выпуск документа совпал с выявлением zero-day-уязвимости в агенте Muse от Meta и блокировкой этого агента платформой Amazon.
Почему это важно: В регулируемом финансовом секторе цена ошибки или мошеннической транзакции измеряется прямыми потерями клиентов и репутационным ущербом.
Шесть крупных международных банков — Bank of America, Capital One, ASB Bank, Commonwealth Bank of Australia, ING Group и NatWest Group — выпустили совместный документ под названием Building Trust in Agentic Commerce, в котором выразили озабоченность стремительным распространением ИИ-агентов, уполномоченных совершать покупки от имени клиентов. Финансовые организации предупреждают: «потребители не понимают, будут ли ИИ-агенты действовать в их интересах», и опасаются, что «агенты купят не то, потратят слишком много или — что ещё хуже — потеряют деньги из-за мошенников».
Документ фиксирует новую категорию рисков: агентная коммерция создаёт пространство для массового фрода с иной механикой, чем традиционное интернет-мошенничество. Злоумышленники могут компрометировать или выдавать себя за ИИ-агентов и продавцов, применять новые формы социальной инженерии, а размытая ответственность за действия агента — кто именно виноват, если ИИ превысил полномочия при покупке, — оставляет потребителя незащищённым. Отдельно банки указывают на риск лавинообразного роста числа чарджбэков и платёжных споров для продавцов.
В ответ авторы документа сформулировали 5 принципов, которым, по их мнению, должны следовать разработчики агентного ИИ: прозрачность, безопасность, защита приватности и данных, свобода выбора для потребителя и совместимость между платформами. Банки настаивают, что ИИ-компании обязаны соблюдать стандарты процессинга платежей и не должны извлекать платёжные реквизиты напрямую с сайтов, как это уже делают некоторые недобросовестные провайдеры.
Релиз документа совпал по времени сразу с двумя заметными событиями: публикацией сведений о серьёзной zero-day-уязвимости в агенте Muse от Meta* и объявлением Amazon о блокировке того же Muse на своей платформе. При этом, тревогу забили именно регулируемые финансовые институты — сектор, где цена ошибки или мошеннической транзакции измеряется прямыми потерями клиентов и репутационным ущербом.
© iXBT
