Эксперты: хакеры начали использовать ChatGPT для создания вирусов
Эксперты по кибербезопасности Check Point Research выяснили, что хакеры применяют ChatGPT для написания вредоносного кода и фишинговых электронных писем. При этом часть из них практически не имеют опыта в программировании.
Обсуждение кода от ChatGPT на хакерском форуме
Исследователи приводят в качестве примера скрипт на Python, который при некоторой доработке можно превратить в программу-вымогатель.
В другом случае скрипт на Python производит поиск файлов заданного типа, например, PDF, на локальной машине, а затем сжимает файлы и отправляет их на сервер потенциального злоумышленника.
Участник форума описывает программу-вымогатель на Python
Второй фрагмент кода, написанный на Java, тайно загрузил клиент SSH и telnet PuTTY и запустил его с помощью Powershell.
Скриншот с описанием программы на Java
Код Python сочетал в себе различные криптографические функции, в том числе подпись кода, шифрование и дешифрование. Одна часть скрипта сгенерировала ключ, используя криптографию на эллиптических кривых и кривую ed25519 для подписи файлов. Другая часть использовала запрограммированный пароль для шифрования системных файлов с помощью алгоритмов Blowfish и Twofish. Третья задействовала ключи RSA и цифровые подписи, подписывание сообщений и хеш-функцию blake2 для сравнения различных файлов.
Эксперты попытались самостоятельно использовать ChatGPT для написания вредоносного кода, и нейросеть справилась с этой задачей. Чат-бот составил фишинговое письмо и написал вредоносный VBA-макрос. Затем исследователи использовали инструмент Codex для разработки других типов вредоносных программ, включая обратную оболочку и скрипты для сканирования портов, обнаружения песочниц и компиляции их кода Python в исполняемый файл Windows.
Фишинговое письмо, сгенерированное ChatGPT
ChatGPT создал первую итерацию скрипта VBA
Более совершенная итерация VBA-макроса
Хотя условия ChatGPT запрещают подобное использование, исследователи без труда настроили запросы так, чтобы обойти эти ограничения.
ChatGPT разработала и в ноябре 2022 года выпустила компания OpenAI. Почти сразу после запуска администрация форума Stack Overflow временно запретила постить ответы, сгенерированные ChatGPT. Причина в том, что бот часто выдавал ответы, похожие на правильные, но вводящие в заблуждение.
В январе департамент образования Нью-Йорка запретил школьникам и учителям доступ к чат-боту ChatGPT в сетях и на устройствах государственных школ города.
