ИИ способен создавать вредоносный код для обхода любых антивирусов

Вредоносный код
Источник: Unsplash

Эксперты в области кибербезопасности обнаружили, что большие языковые модели, известные как LLM, способны создавать новый вредоносный код, который избежит практически любых способов обнаружения. При этом сам искусственный интеллект с трудом пишет подобные программы из-за установленных защитных ограничений, но зато может без проблем перерабатывать уже существующие вирусы, пока они не станут «чистыми».

По сути, технология машинного обучения трансформирует вредоносное ПО с помощью различных методов: изменения переменных, разделения строк, вставки лишнего кода и удаления проблемных символов. На выходе получаются гораздо более естественные программы, которые не привлекают столько внимания со стороны защиты.

«Таким образом, злоумышленники получают новый вариант вредоносного кода, который сохраняет то же поведение, что и исходный скрипт, но почти всегда имеет низкую оценку вредоносности. Алгоритм буквально меняет вердикт собственной модели классификатора ПО с вредоносного на доброкачественный в 88% случаев»

Интересно, что компания OpenAI только за последнее время заблокировала около 20 операций злоумышленников, которые пытались использовать ее платформу для разведки, поиска уязвимости и отладки скриптов. Но эти случаи — только вершина айсберга. По мнению экспертов, сейчас любой может использовать LLM для обхода обнаружения и создавать более 10 000 вариантов кода без изменения его функциональности.

Кстати, о вредоносных программах. Совсем недавно россиян предупредили о новом вирусе Mamont, который заманивает жертв в фейковые магазины выгодными ценами. При этом схема выглядит крайне правдоподобно — покупателям даже обещают, что оплата заказов состоится только при получении.

©  HI-TECH@Mail.Ru