Подготовка к злонамеренному использованию ИИ20.02.2018 08:00

Мы стали соавторами научной статьи, в которой прогнозируется то, как злоумышленники могут использовать технологии искусственного интеллекта в корыстных целях, а также рассматриваются потенциальные способы предотвращения и смягчения этих угроз. Этот документ стал результатом почти годовой непрерывной работы с нашими коллегами из Института будущего человечества, Центра изучения экзистенциальных рисков, Центра новой американской безопасности, Фонда электронных рубежей и других организаций.

ИИ бросает вызов глобальной безопасности, поскольку он снижает стоимость проведения многих существующих атак, создает новые угрозы и уязвимости, а также еще больше затрудняет определение источников конкретных атак. Учитывая изменения в ландшафте угроз, которые несет с собой ИИ, в отчете содержатся общие рекомендации, которые компании, исследовательские организации, отдельные практики и правительства могут предпринять для обеспечения более безопасного мира:

• Признание двойственного характера ИИ: ИИ — это технология, способная принести как огромную пользу, так и огромный вред. Нам всем вместе следует предпринять шаги для более тщательной оценки исследовательских проектов на предмет их искажения злоумышленниками, а также взаимодействовать с лицами, принимающими решения, для выявления областей особой чувствительности. Как мы пишем в статье: «Средства наблюдения можно использовать для поимки террористов или угнетения обычных граждан. Фильтры информационного контента могут применяться для сокрытия фейковых новостей или манипулирования общественным мнением. Правительства и влиятельные частные лица получат доступ ко многим из этих инструментов ИИ и смогут использовать их во благо или во вред обществу». Некоторые потенциальные решения этих проблем включают в себя оценку рисков перед публикацией определенных видов исследований, выборочный обмен некоторыми типами исследований, обладающими значительным компонентом безопасности или защищенности, среди небольшого круга доверенных организаций, а также изучение способов внедрения в научное сообщество норм, учитывающих проблемы двойного назначения.
• Опыт кибербезопасности: Сообщество специалистов по компьютерной безопасности разработало различные практики, актуальные для исследователей в области ИИ, которые нам следует рассмотреть для внедрения в наши собственные исследования. Они варьируются от «тестирования на проникновение» (red teaming) путем намеренных попыток сломать или подорвать системы до инвестиций в технологическое прогнозирование для выявления угроз до их возникновения, а также создания конвенций о конфиденциальном сообщении об уязвимостях, обнаруженных в системах ИИ, и так далее.
• Расширение дискуссии: ИИ изменит глобальный ландшафт угроз, поэтому нам следует привлечь к обсуждению более широкий круг представителей общества. К ним могут относиться участники гражданского общества, эксперты по национальной безопасности, представители бизнеса, специалисты по этике, широкая общественность и другие исследователи.

Подобно нашей работе над конкретными проблемами безопасности ИИ⁠, мы обосновали некоторые проблемы, вызванные злонамеренным использованием ИИ, на конкретных сценариях, таких как: убедительные рекламные объявления, сгенерированные системами ИИ и нацеленные на администратора систем безопасности; киберпреступники, использующие нейросети и методы «фазцинга» для создания компьютерных вирусов с возможностями автоматического создания эксплойтов; злоумышленники, взламывающие робота-уборщика для доставки взрывного устройства VIP-персоне; и авторитарные государства, использующие вездесущие системы наблюдения на базе ИИ для превентивного ареста людей, соответствующих профилю прогнозируемого риска.

Мы рады начать эту дискуссию с нашими коллегами, политиками и широкой общественностью; мы потратили последние два года на исследование и укрепление нашей внутренней политики в OpenAI и собираемся начать привлечение более широкой аудитории к этим вопросам. Мы особенно заинтересованы в том, чтобы работать с новыми⁠ исследователями, которые видят свой вклад как в политические дебаты вокруг ИИ, так и в совершение научных прорывов.