Мошенничество с заданиями: вакансии по написанию фальшивых отзывов с использованием ИИ01.02.2025 00:00

Этот вариант использования изначально был опубликован в отчете OpenAI за февраль 2025 года⁠.

Мы заблокировали группу учетных записей ChatGPT, которые переводили короткие комментарии между урду и английским языком. Эта деятельность соответствовала мошеннической схеме с »заданиями⁠», в рамках которой жертвам предлагают высокооплачиваемую работу, но затем требуют внести собственные деньги в систему, прежде чем они смогут получить доступ к своим предполагаемым «заработкам». По имеющимся данным, эта деятельность исходила из Камбоджи. При таком мошенничестве жертвы обычно теряют как «заработок», так и собственные средства. Мы начали расследование этой деятельности после получения информации от Meta.

Эта сеть в основном использовала наши модели для перевода коротких комментариев (что соответствует переписке между мошенником и жертвами) с урду на английский и обратно. Мы выявили упоминания об обмене сообщениями в Telegram (по-видимому, их основной платформе), WhatsApp, SMS, а также на различных форумах по трудоустройству и в группах, где можно было размещать вакансии.

Мошенники выдавали себя за персонажей двух основных типов. Первыми были «рекрутеры»: их сообщения представляли собой рассылку объявлений о высокооплачиваемой удаленной работе. Вторые (они генерировали больший объем активности) — «наставники», которые продолжали общение после «рекрутеров» и обучали жертву выполнению обязанностей. «Наставники» очень часто ссылались на тренировочные сессии в Telegram.

Иногда мошенники также использовали наши модели для корректуры текстов на веб-сайтах. Эти сайты, судя по всему, имитировали названия и внешний вид люксовых дизайнерских, модных и туристических брендов. Персонажи-«наставники» заявляли, что ведут набор от имени этих брендов, что указывает на использование таких сайтов для придания мошенничеству большей убедительности.

Судя по нашим ограниченным возможностям наблюдения, мошенники следовали стандартному рабочему процессу по вовлечению целей в мошенническую схему:

1. Публикация вакансии: судя по промптам и генерациям, мошенники начинали с публикации предложений о работе на различных онлайн-форумах. В объявлениях обычно упоминалась удаленная работа и относительно высокая зарплата за небольшой объем труда — например, 300 долларов в день плюс бонусы за несколько часов работы. Объявления обычно размещались от лица «рекрутера».
2. Рекрутинг: затем мошенники создавали комментарии в роли «наставника» для связи с потенциальными сотрудниками через различные приложения для обмена сообщениями, заявляя, что работают совместно с «рекрутером». «Наставник» утверждал, что работает на один из люксовых брендов, для которого группировка создала сайт. Задание описывалось как размещение пятизвездочных отзывов на сайтах этих брендов якобы для повышения их клиентских рейтингов.
3. Убеждение: в создаваемых текстах мошенники часто уверяли жертв в легитимности работы, поскольку она выполняется в интересах давно существующей компании. Если цель проявляла беспокойство, мошенник заявлял, что сам тоже когда-то сталкивался с обманом, но эта возможность абсолютно безопасна.
4. Обучение: если жертва продолжала проявлять интерес, «наставник» предлагал ей пройти обучение, как правило, в Telegram. Сначала жертве предоставлялся доступ к «учебному аккаунту», где от нее требовалось выполнять по 25–35 заданий с отзывами в день. На «учебном аккаунте» отображался быстро растущий «заработок» жертвы.
5. Воодушевление: если жертва продолжала обучение, в генерациях предлагалось дать ей «особое» или «абсолютное» задание по написанию отзывов, за которое полагался повышенный бонус. «Наставник» подчеркивал редкость такой возможности и то, как повезло кандидату.
6. «Плата за активацию»: когда «заработок» жертвы достигала определенного уровня, «наставник» сообщал ей (согласно сгенерированным текстам), что для вывода средств необходимо внести «плату за активацию». При необходимости мошенник убеждал занять деньги у друзей или родственников.
7. Давление: если жертва отказывалась платить деньги, мошенник становился все более агрессивным, оказывая давление, сравнивая ее с другими, более эффективными работниками, и заявляя, что она потеряет свой заработок, если не внесет платеж.
8. Поиск отговорок: если появлялись признаки того, что жертва перевела деньги, мошенник придумывал серию оправданий тому, почему она не может вывести заработок, часто требуя внести еще больше средств.

Некоторые диалоги показали, що цели относились к происходящему крайне скептически, а часть комментариев, сгенерированных мошенниками, представляла собой реплики наставника, пытающегося выяснить, почему собеседник перестал отвечать. Это говорит о том, что у данной мошеннической схемы, вероятнее всего, был низкий общий показатель конверсии. Тем не менее, отдельные разговоры и сообщения в сети свидетельствуют о том, что по крайней мере некоторые жертвы действительно переводили деньги мошенникам. Мы не имеем возможности независимо проверять действия, происходящие за пределами наших инструментов.

Политика OpenAI строго запрещает использовать результаты работы наших инструментов в целях мошенничества или обмана. Мы стремимся сотрудничать с коллегами по отрасли и властями, чтобы понимать, как искусственный интеллект влияет на вредоносное поведение, и активно пресекать мошенническую деятельность, злоупотребляющую нашими сервисами. В рамках этого обязательства мы поделились информацией о заблокированных мошеннических сетях с коллегами из индустрии и компетентными органами для повышения нашей общей безопасности.

Автор