OpenAI призывает США возглавить разработку глобальных стандартов для самосовершенствующегося ИИ23.09.2026 16:35

«Полностью автономный RSI сегодня невозможен, и мы не должны стремиться к нему, пока он не станет безопасным», — написала OpenAI в понедельник.

OpenAI изложила это в предложении, опубликованном 21 сентября. В нем компания призывает США возглавить усилия совместно с другими странами по разработке глобальных стандартов ИИ для передовых моделей. В центре внимания находится RSI, или рекурсивное самосовершенствование (recursive self-improvement). OpenAI использует этот термин для систем ИИ, которые берут на себя все большую часть работы по разработке собственных преемников.

Компания предупредила, что RSI, проводимый без должной осмотрительности, может привести к тому, что люди потеряют способность контролировать исследовательские процессы, которые они больше не понимают. В качестве примера таких рисков она сослалась на инцидент с Hugging Face, о котором ранее сообщила. OpenAI заявила, что этот инцидент не был прямым результатом RSI.

Стандарты, а не лицензии

OpenAI предлагает опираться на сеть институтов безопасности ИИ, созданных в Австралии, Канаде, Германии, Франции, Кении, Японии, Корее, Сингапуре, Индии и Великобритании. Установление стандартов будет осуществляться через американский Центр стандартов и инноваций в области ИИ (CAISI) и национальные отраслевые органы. Основное внимание будет уделяться передовым моделям, оцениваемым по бенчмаркам возможностей, а также преимуществам и рискам автоматизированных исследований в области ИИ.

«Эти технические стандарты не будут лицензиями, обязательной предварительной проверкой или требованиями об одобрении моделей ИИ. Национальные правительства сами решат, следует ли и каким образом внедрять эти стандарты в свои правовые системы», — написала компания.

OpenAI заявила, что при этой работе следует консультироваться с разработчиками как открытых, так и закрытых моделей, независимыми экспертами и академическим сообществом. Стандарты не должны отдавать предпочтение отдельным компаниям, странам или бизнес-моделям. Компания сослалась на сферы авиации и финансовой стабильности, где страны разделяют технические стандарты, не отказываясь при этом от национального суверенитета.

В документе перечисляются три области, которые могут охватывать стандарты. Первая — это измерение прогресса, связанного с RSI, и масштабов автономных исследований внутри ИИ-компаний. Вторая — надзор со стороны человека, включая то, какие процессы автоматизированных исследований должны вызывать немедленную проверку человеком. Третья — классификация, отслеживание и отчетность об инцидентах с использованием единых уровней их серьезности. OpenAI назвала собственную структуру отчетности о несоответствии целей своим ранним вкладом.

Компания также хочет, чтобы правительства и операторы критической инфраструктуры создали защищенные каналы для обмена информацией об угрозах. По ее словам, диалог между США и Китаем в этих областях стал бы позитивным шагом, а предстоящие переговоры проходят в подходящее время.

Почему OpenAI считает, что США должны взять на себя лидерство

«Соединенные Штаты имеют хорошие позиции для лидерства, поскольку их индустрия искусственного интеллекта находится на техническом рубеже, и они по-прежнему занимают привилегированное глобальное положение в таких критических областях, как финансы, торговля, оборона, технологии и информационные системы», — написала OpenAI.

Лидирующие позиции сейчас, добавила компания, определят, сформируют ли США глобальную структуру или же вокруг них воцарится фрагментированная система.

Неделя дипломатии в сфере ИИ

Это предложение появилось в самый разгар дипломатической работы. В минувшие выходные министр финансов Скотт Бессент заявил, что США и Китай договорились о создании американо-китайского диалога по ИИ, сообщает Bloomberg. Вашингтон также предложил Пекину систему оповещения об инцидентах, связанных с ИИ.

В понедельник президент Дональд Трамп подтвердил в Truth Social, что выступает за мягкое регулирование ИИ, сообщает Business Insider. Он также написал:

«Мы будем действовать осторожно, и именно поэтому у нас есть Министерство юстиции и другие правоохранительные органы, которые при необходимости все урегулируют».

Ранее в тот же день Бессент заявил телеканалу CNBC, что администрация не будет предоставлять лабораториям, занимающимся разработкой передового ИИ, защиту от ответственности, сообщает Business Insider.

Во вторник OpenAI изложила приоритеты для независимых оценщиков своих моделей. Выступая в тот же день на Генеральной Ассамблее ООН, генеральный директор Антониу Гутерриш предупредил об опасностях искусственного интеллекта и призвал к глобальному сотрудничеству. Трамп выступил вскоре после него и отверг эту идею как «глобалистскую схему», сообщает Bloomberg. В той же речи на Генеральной Ассамблее он заявил, что США переименовывают ИИ в «суперинтеллект».

Олтман выступает в Совете Безопасности

Сэм Олтман должен выступить с докладом перед Советом Безопасности ООН лично в среду во второй половине дня. Генеральный директор Anthropic Дарио Амодей присоединится по видеосвязи вместе с Йошуа Бенжио и генеральным директором Hugging Face Клеманом Делангом. Заседание ведет министр иностранных дел Франции Жан-Ноэль Барро. Согласно данным Security Council Report, это первая встреча совета, посвященная рискам безопасности, связанным с растущими возможностями ИИ, включая потенциальную потерю контроля со стороны человека.

В ходе брифинга перед выступлением представители OpenAI заявили, что Олтман займет роль «прагматичного центриста», сообщает Bloomberg. Он будет продвигать общие стандарты безопасности, не сдерживая при этом инновации и не сосредотачивая власть в руках нескольких компаний. Отвечая на вопросы о комментариях Трампа, в OpenAI заявили, что не поддерживают какой-либо конкретный международный регулирующий орган. Представители компании отметили, что ООН может сыграть определенную роль и что страны могут прийти к различным подходам демократическим путем.

По информации Bloomberg, Олтман впервые обсудил идею создания возглавляемого США глобального органа в июле. В четверг он примет участие в государственном обеде в Белом доме в честь председателя КНР Си Цзиньпина, сообщили в компании Bloomberg.

©  TheNextWeb.ru