Пресечение деятельности криминальной мошеннической группировки
OpenAI пресекла деятельность базирующейся в Камбодже мошеннической группировки, которая использовала ChatGPT для поддержки инвестиционных, романтических и игровых афер, а также схем с выдачей себя за правоохранительные органы.
Введение
Ранее в этом году мы пресекли деятельность мошеннической сети из Камбоджи, которая использовала ChatGPT для обеспечения инвестиционных, романтических и азартных афер, а также схем с выдачей себя за сотрудников правоохранительных органов. Мы начали расследование этой деятельности после получения информации от наших коллег из WhatsApp и с тех пор поделились дополнительными сигналами об угрозах с партнерами по индустрии и компетентными органами.
Эта операция иллюстрирует важную реальность современных мошеннических сетей: организованные преступные группы редко ограничиваются каким-то одним видом мошенничества. Вместо этого они оппортунистически используют любые нарративы, образы и тактики, которые считают наиболее эффективными для обмана жертв. В ходе наших расследований мы регулярно наблюдаем, как злоумышленники переключаются между типами мошенничества или комбинируют несколько техник в рамках одной операции.
Некоторые пользователи в этой сети также генерировали контент, указывающий на связь с торговлей людьми и принудительным трудом. Эти наблюдения согласуются с многочисленными публичными сообщениямиСМИ и правозащитников, в которых описывается деятельность организованных преступных групп в Юго-Восточной Азии, вербующих работников под обещаниями легального трудоустройства, а затем попадающих в кабальные условия и подвергающихся принуждению. Хотя мы не можем самостоятельно установить обстоятельства каждого вовлеченного лица, эта ситуация служит напоминанием о том, что сами исполнители мошеннических схем могут быть жертвами эксплуатации.
Субъект
Мы заблокировали скоординированную сеть учетных записей ChatGPT, которая, судя по всему, возникла в Камбодже и действовала в Пойпете или его окрестностях — городе в провинции Бантеаимеантьей, который в официальных отчетахнеоднократносвязывали с подпольными мошенническими центрами и операциями по торговле людьми.
Сеть использовала наши модели для создания фальшивых онлайн-персонажей и поддержки их работы, генерации и перевода сообщений, отправляемых потенциальным жертвам, создания рекламного контента для своих мошеннических схем, а также для помощи в повседневных операциях.
Как и в случае с прошлыми заблокированными мошенническими сетями, часть пользователей также применяла ChatGPT для административной работы: составления внутренних объявлений, перевода сообщений между сотрудниками и документирования вопросов, связанных с наймом, иммиграционным статусом, условиями труда и дисциплинарными взысканиями.
Характер поведения
Сеть одновременно осуществляла несколько видов мошенничества, часто смешивая элементы разных схем. Например, операторы использовали поддельные профили для знакомств, чтобы втереться в доверие, после чего предлагали мошеннические инвестиции в криптовалюту и спотовую торговлю золотом. Другие пользователи вели долгие романтические беседы под вымышленными именами, выдавали себя за представителей платформ онлайн-гемблинга, предлагающих фальшивые бонусы и выигрыши, или притворялись сотрудниками правоохранительных органов, заявляя жертвам о необходимости уплаты штрафов за совершение серьезных уголовных преступлений.
Несмотря на разнообразие сценариев, пользователи во всей сети демонстрировали одинаковые паттерны обманного поведения. В частности, они создавали фейковые профили знакомств, образы вымышленных инвестиционных экспертов и мошеннических представителей закона. Они также генерировали изображения поддельных документов, включая паспорта, юридические уведомления, подтверждения покупки акций и интерфейсы игорных платформ.
Как мы уже отмечали впредыдущихотчетах, при взаимодействии с жертвами мошенники следовали общей схеме, которую мы называем «крючок» (первичный контакт), «эскалация» (вызывание эмоций) и «удар» (выманивание денег).
- Крючок: сеть использовала ChatGPT для перевода и генерации бесед с жертвами в мессенджерах вроде WhatsApp и Telegram. Мошенники также создавали контент для социальных сетей и подбирали материалы для профилей знакомств в поддержку своих фальшивых образов.
- Эскалация: сообщения мошенников часто опирались на эмоциональное давление и техники выстраивания доверия. Среди них были обещания гарантированной доходности и «безрисковых» инвестиций, романтическая лексика, указания сохранять разговор в секрете, а также срочные призывы к действию до истечения срока действия вымышленных бонусов.
- Удар: мошенники инструктировали жертв вносить депозиты для получения якобы обещанных наград, оплачивать комиссии за активацию, погашать фиктивные штрафы, а затем предоставлять скриншоты переводов или данные учетных записей в качестве подтверждения оплаты.

Фальшивый интерфейс криптовалютной биржи, созданный с помощью ChatGPT мошенниками из этой сети.

Изображение, сгенерированное ИИ и созданное мошенниками для продвижения фальшивой инвестиционной схемы.
Признаки торговли людьми
Помимо мошенничества, некоторые пользователи генерировали контент, указывающий на причастность к другой запрещенной деятельности, которую мы выявляем и пресекаем, такой как торговля людьми или принудительный труд. Сюда входило создание рекламы в социальных сетях для вакансий операторов чата в Пойпете, обещающих оплату перелетов, проживания, питания, виз и разрешений на работу.
Другая активность была связана с администрированием работников внутри структуры. Пользователи вели учет долгов сотрудников, удержаний из зарплаты, дисциплинарных штрафов и выплат по кредитам, а также переводили обсуждения, касающиеся иммиграционного статуса, разрешений на работу, просрочки виз и стимулов для найма.
В некоторых диалогах также упоминались предполагаемые задержания, попытки побега и потенциальная уголовная ответственность для людей, ставших жертвами торговли людьми и принуждаемых к работе в мошеннических структурах. Хотя эти разговоры не позволяют нам установить обстоятельства конкретного человека, они согласуются с многочисленными публичными отчетамиСМИ и правозащитных организаций, описывающими деятельность ОПГ в Юго-Восточной Азии.


Изображения, сгенерированные ИИ, которые создавались мошенниками для рекламы работы в Камбодже в социальных сетях. Конфиденциальные данные скрыты силами OpenAI.
Масштаб последствий
Мы заблокировали учетные записи ChatGPT, связанные с этой операцией, поделились соответствующими индикаторами с партнерами по отрасли и компетентными органами, а также приняли меры, чтобы усложнить этим субъектам задачу повторного получения доступа к нашим продуктам и услугам.
Точный масштаб финансовых потерь, связанных с этой сетью, неизвестен, но, судя по собственным сообщениям мошенников, операция могла затронуть сотни жертв в рамках различных схем. В беседах пользователей упоминались случаи, когда отдельные жертвы теряли тысячи долларов, хотя мы не имеем возможности независимо проверить эти утверждения.
В более широком смысле данный случай подтверждает две тенденции. Во-первых, организованные мошеннические сети могут быть крайне диверсифицированными и реализовывать несколько схем обмана одновременно, а не ограничиваться узким спектром действий. Во-вторых, границы между онлайн-мошенничеством, организованной преступностью и торговлей людьми часто размыты. Следовательно, эффективное противодействие требует борьбы не только с мошеннической активностью, направленной на жертв, но и с криминальными организациями, которые ее организуют и извлекают из нее выгоду.
Автор
Полный текст статьи читайте на OpenAI
