Мошеннические операции: Сети онлайн-фрода01.10.2025 00:00

Этот анализ был изначально опубликован в отчете OpenAI за октябрь 2025 года⁠.

Сети, предположительно происходящие из Камбоджи, Мьянмы и Нигерии, злоупотребляли ChatGPT в целях, судя по всему, интернет-мошенничества.

Мы стремимся выявлять, предотвращать и пресекать попытки злоупотребления нашими моделями в вредоносных целях. Среди таких злоупотреблений выделяются мошеннические схемы: мы обнаруживаем и блокируем злоумышленников, пытающихся использовать наши модели для обмана людей. За последние три месяца мы пресекли деятельность мошеннических сетей, которые, вероятно, зарождались в Камбодже, Мьянме и Нигерии. Показателем того, какую роль ИИ может играть в борьбе с фродом, стало то, что в процессе расследования этих случаев злоупотреблений мы также заметили множество людей, использующих наши модели для распознавания мошенничества. В этом отчете обсуждаются оба сценария использования.

Злоупотребление нашими моделями в мошеннических целях варьируется от одиночных попыток фрода до масштабных и постоянных операций, вероятно связанных с организованными преступными группировками. Независимо от их происхождения и точной тактики, пресеченная нами скам-активность обычно следует общему шаблону, который мы определяем как «пинг» (холодный контакт), «зинг» (попытка вызвать энтузиазм или панику) и «стинг» (выманивание денег или ценной информации).

Эти мошенники начинают с рассылки контента — созданного с помощью ИИ или нет — по мессенджерам и в интернете, в том числе через запуск рекламы в социальных сетях. Затем они пытаются разжечь у каждого ответившего либо энтузиазм по поводу выгодной возможности, либо страх перед неизбежной финансовой потерь, и используют эту эмоцию, чтобы убедить жертву отдать деньги или конфиденциальную информацию.

Мы также зафиксировали множество случаев, когда наши модели помогали защитить людей от мошенничества. У нас есть свидетельства того, что миллионы раз в месяц люди используют ChatGPT для распознавания и предотвращения онлайн-мошенничества; в каждой мошеннической операции, описанной в этом отчете, модель помогала пользователям правильно распознать скам и давала советы по соответствующим мерам безопасности. По нашим текущим оценкам, ChatGPT используется для выявления мошенничества примерно в три раза чаще, чем в самих мошеннических схемах.

Пример того, как следователь OpenAI вставляет скриншот полученного им мошеннического SMS-сообщения в ChatGPT и успешно использует модель для его распознавания в качестве скама. В данном случае злоумышленники пытались выдать себя за рекрутеров TikTok.

Мы усовершенствовали собственные возможности по обнаружению и пресечению мошенничества со времени нашего последнего отчета. Мы пресекли работу новых скам-сетей, которые предположительно исходили из Камбоджи, Мьянмы и Нигерии. Наряду с нашими предыдущими блокировками, эти меры позволили выявить некоторые новые тенденции в различных мошеннических операциях из разных стран.

Большая часть пресеченной нами мошеннической активности была сосредоточена на адаптации ИИ к уже существующим схемам скама, а не на создании новых подходов на базе искусственного интеллекта. Все выявленные и заблокированные нами в этом году мошенничнические операции в основном использовали ИИ как инструмент масштабирования и повышения эффективности. Обычно это включало использование наших моделей для перевода, написания сообщений и создания контента для социальных сетей.

Например, недавно мы заблокировали мошеннические операции, предположительно происходящие из Камбоджи и Нигерии, которые выдавали себя за «инвестиционные фирмы», пытаясь обмануть жертв в нескольких странах. Мошенники создавали веб-сайты и онлайн-рекламу для продвижения фальшивых компаний и использовали, по-видимому, поддельные аккаунты в социальных сетях, выдавая себя за экспертов по трейдингу, чтобы приглашать людей в закрытые группы в мессенджерах. Обещая прибыльные и безрисковые возможности заработка, злоумышленники затем пытались склонить потенциальных жертв к переводу средств на фиктивные торговые платформы. Во всех этих случаях мошенники в основном использовали наши модели для генерации и перевода переписки, создания контента для своих сайтов и аккаунтов в соцсетях, а также для проведения базовых исследований.

В другом случае мы заблокировали мошеннический центр, с высокой долей вероятности расположенный в Мьянме, который использовал наши модели как для генерации контента для своих мошеннических схем, так и для выполнения повседневных бизнес-задач. Сюда входило составление расписаний, подготовка внутренних объявлений, распределение рабочих мест и мест в общежитиях, а также управление финансовыми счетами. Некоторые операторы интересовались уголовной ответственностью для лиц, уличенных в проведении онлайн-мошенничеств.

Не все мошенники, чья деятельность была пресечена, использовали наши модели одинаково или с одинаковой степенью сложности. Большинство взаимодействий мошенников с ChatGPT ограничивалось относительно простыми задачами вроде перевода, но некоторые операции были более амбициозными и изощренными.

Например, одна из мошеннических операций предположительно из Камбоджи использовала наши модели для создания подробных биографий фальшивых экспертов по инвестициям и вымышленных сотрудников поддельных торговых фирм. Затем мошенники просили ChatGPT писать сообщения в социальных сетях от лица этих персонажей. Зачастую злоумышленники вводили в нашу модель сообщения, которые, судя по всему, получали от своих жертв, и просили модель продолжить беседу от имени фальшивого персонажа.

Вторая мошенническая операция, также предположительно происходящая из Камбоджи, начиналась с того, что наши модели использовались для генерации холодных SMS-рассылок, массово отправлявшихся на американские телефонные номера. Одно из таких сообщений было отправлено исследователю OpenAI, что похоже на случай, о котором мы сообщали в июне. Эти SMS-сообщения содержали приглашения присоединиться к группам в WhatsApp (впоследствии заблокированным), названия которых напоминали легитимную инвестиционную фирму.

Судя по серии сообщений в WhatsApp, направленных исследователю OpenAI, если потенциальная жертва присоединялась к одной из таких групп, она быстро становилась свидетелем «беседы» между полуютуком разных аккаунтов, обсуждавших инвестиции. Один из них выступал в роли «инвестиционного эксперта», а остальные — в роли инвесторов с разной степенью уверенности и опыта. Каждая часть этого разговора была сгенерирована мошенниками, которые переводили его единым блоком с китайского языка — вероятно, для создания видимости активной группы увлеченных и успешных трейдеров. В конечном счете «инвестиционный эксперт» предлагал жертве также попробовать инвестировать.

В другом случае инвестиционная мошенническая операция, с очень высокой вероятностью происходящая из Нигерии, запрашивала у модели пошаговые инструкции о том, как использовать рекламу в социальных сетях для охвата состоятельных людей в Латинской Америке, как скрывать свое местоположение и как избегать ограничений со стороны платформ социальных сетей. Для этого модель направляли к публичным условиям обслуживания платформы и просили проверить предлагаемый рекламный контент на соответствие требованиям.

Мошенники, особенно крупные скам-центры, отличаются упорством. Очень часто их реакцией на пресечение деятельности становится попытка возобновить нарушения, изменив некоторые элементы своего поведения, вероятно, в стремлении избежать дальнейшего обнаружения. Именно поэтому так важно делиться информацией об их развивающейся активности в масштабах всей индустрии — например, когда OpenAI и Meta делились сведениями об аккаунтах угроз, что способствовало дальнейшим расследованиям и правоприменительным мерам.

Возможно, в ответ на пресечения или на широкие обсуждения в сети признаков, способных выдать использование ИИ, мы заметили, что мошенники пытаются маскировать применение искусственного интеллекта в онлайн-контенте и общении с жертвами. Это включает в себя случаи, когда скам-операции, предположительно из Камбоджи, настраивали модель на удаление длинных тире из текстов.

В одном из случаев мошенники попытались объяснить масштабную блокировку своих активов в социальных сетях, придумав оправдание для бана. Это касалось упомянутого выше центра мошенничества предположительно из Камбоджи, действовавшего через SMS и WhatsApp. После того как WhatsApp заблокировал «инвестиционные группы», связанные с этой деятельностью, организаторы начали генерировать сообщения о том, будто эти группы были ошибочно заблокированы из-за жалоб конкурентов, вероятно, чтобы завуалировать причины блокировок.

Скриншот сообщения в WhatsApp, отправленного связанной с Камбоджей мошеннической группировкой исследователю OpenAI после блокировки со стороны WhatsApp.

Автор