Заявление Дарио Амодеи о наших переговорах с Министерством войны

Я глубоко убежден в экзистенциальной важности использования искусственного интеллекта для защиты Соединенных Штатов и других демократий, а также для разгрома наших противников-автократов.
Поэтому компания Anthropic проактивно работала над внедрением наших моделей в Министерстве войны и в разведывательном сообществе. Мы стали первой передовой компанией в сфере ИИ, внедрившей свои модели в секретные сети правительства США, первой, внедрившей их в Национальных лабораториях, и первой, предоставившей специализированные модели для клиентов в сфере национальной безопасности. Claude широко используется в Министерстве войны и других ведомствах национальной безопасности для критически важных задач, таких как разведывательный анализ, моделирование и имитация, оперативное планирование, кибероперации и многое другое.
Компания Anthropic также предпринимала шаги для защиты лидерства Америки в сфере ИИ, даже когда это шло вразрез с краткосрочными интересами компании. Мы приняли решение отказаться от нескольких сотен миллионов долларов выручки, чтобы заблокировать использование Claude компаниями, связанными с Коммунистической партией Китая (некоторые из которых были признаны Министерством войны китайскими военными компаниями), пресечь спонсируемые КПК кибератаки, направленные на злоупотребление Claude, а также выступить за жесткий экспортный контроль над чипами для обеспечения преимущества демократических стран.
Anthropic понимает, что военные решения принимает Министерство войны, а не частные компании. Мы никогда не возражали против конкретных военных операций и не пытались ограничить использование нашей технологии специальным образом.
Тем не менее, в ряде конкретных случаев мы считаем, что ИИ может подорвать демократические ценности, а не защитить их. Кроме того, некоторые сферы применения просто выходят за рамки того, что современные технологии могут делать безопасно и надежно. Два подобных сценария использования никогда не включались в наши контракты с Министерством войны, и мы считаем, что они не должны включаться и сейчас:
- Массовая внутренняя слежка. Мы поддерживаем использование ИИ для законных задач внешней разведки и контрразведки. Но использование этих систем для массовой внутренней слежки несовместимо с демократическими ценностями. Массовая слежка на базе ИИ создает серьезные, новые риски для наших фундаментальных свобод. Если подобная слежка в настоящее время является законной, то лишь потому, что законодательство еще не поспевает за стремительно растущими возможностями ИИ. Например, согласно действующему законодательству, правительство может приобретать из общедоступных источников подробные записи о передвижениях, интернет-серфинге и связях американцев без получения ордера — практика, которую разведывательное сообщество признало вызывающей обеспокоенность по поводу конфиденциальности и которая вызвала двухпартийную оппозицию в Конгрессе. Мощный ИИ позволяет собрать эти разрозненные, безобидные по отдельности данные в единую исчерпывающую картину жизни любого человека — автоматически и в огромных масштабах.
- Полностью автономное оружие. Частично автономное оружие, подобное тому, что используется сегодня в Украине, жизненно важно для защиты демократии. Даже полностью автономное оружие (то, которое полностью исключает человека из контура управления и автоматизирует выбор и поражение целей) может оказаться критически важным для нашей национальной обороны. Но на сегодняшний день передовые системы ИИ просто недостаточно надежны, чтобы управлять полностью автономным оружием. Мы не будем сознательно предоставлять продукт, который подвергает риску американских военнослужащих и мирных граждан. Мы предлагали напрямую сотрудничать с Министерством войны в сфере НИОКР для повышения надежности этих систем, но они не приняли это предложение. Кроме того, без надлежащего контроля на полностью автономное оружие нельзя полагаться в принятии критических решений, которые наши высококлассные профессиональные военнослужащие демонстрируют каждый день. Они должны развертываться с надлежащими предохранителями, которых на сегодняшний день не существует.
Насколько нам известно, эти два исключения до сих пор не являлись препятствием для ускорения внедрения и использования наших моделей в наших вооруженных силах.
Министерство войны заявило, что оно будет заключать контракты только с теми ИИ-компаниями, которые согласны на «любое законное использование» и удаление защитных механизмов в упомянутых выше случаях. Они пригрозили исключить нас из своих систем, если мы сохраним эти защитные механизмы; они также пригрозили присвоить нам статус «риска цепочки поставок» — ярлык, который обычно резервируется за противниками США и никогда ранее не применялся к американской компании, — а также задействовать Закон об оборонном производстве (Defense Production Act), чтобы принудительно удалить эти защитные механизмы. Эти последние две угрозы взаимоисключающие: одна объявляет нас угрозой безопасности, а другая называет Claude критически важным для национальной безопасности.
Как бы то ни было, эти угрозы не меняют нашей позиции: мы не можем по совести согласиться на их требование.
Это прерогатива Министерства — выбирать подрядчиков, наиболее близких к его видению. Но учитывая существенную ценность, которую технологии Anthropic приносят нашим вооруженным силам, мы надеемся, что они передумают. Наше твердое предпочтение заключается в том, чтобы продолжать служить Министерству и нашим военнослужащим при условии сохранения двух запрошенных нами защитных механизмов. Если Министерство решит отказаться от услуг Anthropic, мы приложим усилия для обеспечения плавного перехода к другому поставщику, избегая любых сбоев в текущем военном планировании, операциях или других критически важных миссиях. Наши модели будут доступны на предложенных нами масштабных условиях столько, сколько потребуется.
Мы по-прежнему готовы продолжать нашу работу по поддержке национальной безопасности Соединенных Штатов.
Полный текст статьи читайте на Anthropic
