Наше соглашение с Министерством войны28.02.2026 12:30

Вчера мы достигли соглашения с Пентагоном о развертывании передовых систем ИИ в секретных средах и попросили сделать его доступным для всех ИИ-компаний.

Мы считаем, что наше соглашение содержит больше защитных механизмов, чем любое предыдущее соглашение о развертывании ИИ в секретных средах, включая соглашение Anthropic. Вот почему.

У нас есть три главные «красные линии», которыми мы руководствуемся в работе с Министерством войны и которые в целом разделяют несколько других передовых лабораторий:

• Никакого использования технологий OpenAI для массовой внутренней слежки.
• Никакого использования технологий OpenAI для управления автономными системами вооружения. 
• Никакого использования технологий OpenAI для принятия судьбоносных автоматизированных решений (например, систем вроде «социального кредита»).

Другие лаборатории ИИ ослабили или сняли свои защитные барьеры, полагаясь главным образом на политики использования как на основные гарантии безопасности в сфере национальной безопасности. Мы считаем, что наш подход обеспечивает более надежную защиту от недопустимого использования.

В нашем соглашении мы защищаем наши «красные линии» с помощью более масштабного многоуровневого подхода. Мы сохраняем полный контроль над нашим стеком безопасности, развертывание осуществляется через облако, допущенный персонал OpenAI участвует в процессе, и у нас есть серьезные контрактные гарантии. Все это дополняет мощные существующие средства защиты в американском законодательстве. 

Мы твердо верим в демократию. Учитывая важность этой технологии, мы убеждены, что единственный правильный путь вперед требует глубокого сотрудничества между разработчиками ИИ и демократическими институтами. Мы также понимаем, что наша технология породит новые риски в мире, и мы хотим, чтобы те, кто защищает Соединенные Штаты, имели лучшие инструменты.

Наше соглашение включает в себя:

1. Архитектуру развертывания. Это развертывание исключительно на базе облака со стеком безопасности под нашим управлением, который включает в себя упомянутые и другие принципы. Мы не предоставляем Министерству войны «модели без защитных барьеров» или модели, не прошедшие обучение безопасности, и не развертываем наши модели на периферийных устройствах (где может возникнуть вероятность использования для автономного летального оружия). 

Наша архитектура развертывания позволит нам независимо проверять, что эти «красные линии» не пересекаются, в том числе путем запуска и обновления классификаторов.

2. Наш контракт. Вот соответствующие формулировки:

Министерство войны может использовать систему ИИ для любых законных целей в соответствии с применимым законодательством, оперативными требованиями и устоявшимися протоколами безопасности и контроля. Система ИИ не будет использоваться для самостоятельного управления автономными вооружениями в тех случаях, когда закон, нормативный акт или политика Министерства требуют участия человека, равно как и для принятия других судьбоносных решений, требующих одобрения лица, принимающего решения, в рамках тех же полномочий. Согласно Директиве Минобороны 3000.09 (от 25 января 2023 г.), любое использованиеИИ в автономных и полуавтономных системах должно проходить строгую верификацию, валидациюи тестирование для обеспечения их работы по назначению в реалистичных условиях перед развертыванием.

В отношении разведывательной деятельности любая обработка конфиденциальной информации будет осуществляться в соответствии с Четвертой поправкой, Законом о национальной безопасности 1947 года, Законом о негласном наблюдении в целях внешней разведки 1978 года, Указом 12333 и применимыми директивами Минобороны, требующими наличия четко определенной цели внешней разведки. Система ИИ не должна использоваться для неконтролируемого мониторинга частной информации граждан США в соответствии с этими полномочиями. Система также не должна использоваться для внутренней правоохранительной деятельности, за исключением случаев, разрешенных Законом о Поссе Комитатус и другим применимым законодательством.

3. Участие экспертов по ИИ. Наш передовой развернутый персонал — инженеры OpenAI с необходимым допуском — будет оказывать помощь правительству, при этом исследователи безопасности и согласования с соответствующими допусками будут постоянно контролировать процесс. 

Зачем вы это делаете?  

Во-первых, мы считаем, что американским вооруженным силам крайне необходимы мощные модели ИИ для выполнения их задач, особенно перед лицом растущих угроз со стороны потенциальных противников, которые все активнее внедряют технологии ИИ в свои системы. Изначально мы не стали заключать контракт на секретное развертывание, поскольку считали, что наши системы защиты еще не готовы, и упорно работали над тем, чтобы секретное развертывание могло осуществляться с гарантиями недопущения пересечения «красных линий». 

Мы были — и остаемся — не согласны удалять ключевые технические средства защиты ради повышения производительности в сфере национальной безопасности. Это неправильный подход к поддержке вооруженных сил США. 

Во-вторых, мы также хотели разрядить обстановку в отношениях между Министерством войны и лабораториями ИИ США. Успешное будущее потребует реального и глубокого сотрудничества между правительством и ИИ-лабораториями. В рамках нашей сделки мы попросили распространить те же условия на все лаборатории ИИ и, в частности, чтобы правительство попыталось урегулировать вопросы с Anthropic; текущая ситуация — крайне неудачный способ начать этот новый этап сотрудничества между правительством и создателями искусственного интеллекта.

Почему вам удалось заключить сделку, а Anthropic — нет? Вы подписали то, от чего они отказались?

Основываясь на имеющейся у нас информации, мы считаем, что наш контракт обеспечивает более надежные гарантии и более ответственные меры безопасности по сравнению с предыдущими соглашениями, включая первоначальный контракт Anthropic. Мы считаем, что наши «красные линии» здесь эффективнее поддаются контролю, поскольку развертывание ограничено исключительно облаком (без использования периферийных устройств), позволяет нашему стеку безопасности работать наилучшим образом и обеспечивает постоянное участие допущенного персонала OpenAI.

Мы не знаем, почему Anthropic не смогла заключить эту сделку, и надеемся, что они и другие лаборатории рассмотрят такую возможность.

Считаете ли вы, что Anthropic следует внести в список «рисков цепочки поставок»?

Нет, и мы четко дали понять правительству нашу позицию по этому вопросу.

Позволит ли эта сделка Министерству войны использовать модели OpenAI для управления автономным оружием?  

Нет. Учитывая наш стек безопасности, облачное развертывание, текст контракта, а также действующие законы, нормативные акты и политику, мы уверены, что этого не произойдет. Для дополнительных гарантий мы также задействуем персонал OpenAI.  

Позволит ли эта сделка Министерству войны использовать модели OpenAI для массовой слежки за гражданами США?

Нет. Учитывая наш стек безопасности, текст контракта и существующие законы, которые строго ограничивают Министерство войны во внутренней слежке, мы уверены, что этого не произойдет. Для дополнительных гарантий мы также задействуем персонал OpenAI.  

Приходится ли вам развертывать модели без стека безопасности?

Нет, мы сохраняем полный контроль над развертываемым стеком безопасности и не будем развертывать модели без защитных барьеров. Кроме того, наши исследователи безопасности и согласования будут участвовать в процессе и помогать совершенствовать системы с течением времени. Мы знаем, что другие ИИ-лаборатории ослабили барьеры моделей и полагаются на политики использования как на основную меру предосторожности, но мы считаем, что наш многоуровневый подход обеспечивает лучшую защиту от недопустимого применения.

Что произойдет, если правительство нарушит условия контракта?

Как и в случае с любым другим контрактом, мы можем расторгнуть его, если вторая сторона нарушит его условия. Мы не ожидаем, что это произойдет.

Что если правительство просто изменит закон или текущую политику Министерства войны?

В нашем контракте прямо упоминаются законы и правила, касающиеся слежки и автономного оружия, в том виде, в каком они существуют сегодня, так что даже если эти законы или правила изменятся в будущем, использование наших систем все равно должно соответствовать текущим стандартам, отраженным в соглашении. 

Как вы относитесь к аргументам, которые Anthropic привела в своей публикации в блоге⁠ по поводу обсуждений с Министерством войны?

В своей статье Anthropic заявляет о двух своих «красных линиях» (у нас те же две «красные линии», а также третья: принятие судьбоносных решений без участия человека) и объясняет, почему они считают, что эти линии не будут соблюдаться в контрактах, которые они видели от Министерства войны на тот момент. Ниже мы объясняем, почему, по нашему мнению, эти же «красные линии» будут соблюдаться в нашем контракте:

• Массовая внутренняя слежка. В ходе нашего взаимодействия было ясно, что Министерство войны считает массовую внутреннюю слежку незаконной и не планировало использовать ИИ для этих целей. Мы позаботились о том, чтобы исключение слежки из числа законных видов использования было прямо зафиксировано в нашем контракте.
• Полностью автономное оружие. Облачная инфраструктура развертывания, предусмотренная нашим контрактом, не позволит управлять полностью автономными вооружениями, так как для этого потребовалось бы периферийное развертывание. 

В дополнение к этим средствам защиты наш контракт предлагает дополнительные многоуровневые гарантии, включая наш стек безопасности и технических экспертов OpenAI, контролирующих процесс.

Автор