ИИ-компании в закрытом режиме готовятся к серьёзному инциденту с ИИ
Искусственный интеллект все чаще используют для кибератак. Компании, которые его создают, понимают, что однажды это может привести к катастрофе. Теперь они готовятся к тому, что будет после. Руководители Anthropic, OpenAI и других компаний, работающих в сфере искусственного интеллекта, проводят закрытые обсуждения. Они моделируют ситуацию, когда после крупного происшествия с ИИ общество и политики могут восстать против технологии. Под крупным происшествием они подразумевают кибератаку, которая нарушит работу банков, интернета, электросетей или водоснабжения.
Изображение — ChatGPT
Многие специалисты отрасли считают, что такое событие может случиться в течение следующих шести-двенадцати месяцев. Компании понимают, что после этого начнется поиск виновных. Неважно, будет ли это утечка опасного агента из лаборатории или злоумышленник, использующий открытые модели для атаки. Результат один: общество потребует ответа, а политики начнут действовать.
При этом компании не ждут, что регулирование появится прямо сейчас. Они готовятся к тому, чтобы влиять на законы, которые примут после первого серьезного инцидента. Они также обучают членов Конгресса, чтобы те лучше понимали технологию. Некоторые предложения, например, обязательный «выключатель» для продвинутых ИИ-систем, уже имеют поддержку в обеих партиях.
Параллельно Anthropic запускает программу Critical Infrastructure Defense Program. Она предоставит компаниям, защищающим энергосети, водоканалы и другие важные объекты, доступ к самым мощным моделям ИИ, инженерам и исследованиям угроз. Среди партнеров программы — Accenture, CrowdStrike, Deloitte, Palo Alto Networks и другие. Anthropic также запускает бесплатный сканер уязвимостей для открытого программного обеспечения под названием OSS Scanner.
Компании осознают, что создаваемые ими системы могут выйти из-под контроля или быть использованы против инфраструктуры. Они не могут гарантировать полную безопасность своих моделей. Именно поэтому они готовятся к сценарию, где первый серьезный инцидент вызовет широкий резонанс, и пытаются заранее определить, как будет выглядеть ответ на такого рода катаклизм.
