Google, OpenAI и Anthropic планируют создать комитет по стандартам для передового ИИ
- Google, OpenAI и Anthropic рассчитывают к концу года или началу 2027 года создать орган по стандартам безопасности ИИ без госконтроля.
- Структура по модели FINRA будет определять стандарты тестирования моделей перед релизом, отчетности об инцидентах и сертификации сторонних аудиторов.
- Переход к саморегулированию произошел после того, как проект указа о федеральном надзоре не получил достаточной поддержки в администрации Трампа.
Google, OpenAI и Anthropic планируют создать собственный орган по стандартам безопасности искусственного интеллекта без государственного надзора, сообщило издание The Information в четверг. Эти три компании надеются запустить его до конца года или в начале 2027 года.
Согласно информации источников, знакомых с ситуацией, которые пообщались с журналистами The Information Лео Шварцем и Стефани Палаццоло, организацию планируют предварительно назвать Управлением по стандартам передового ИИ (Standards Authority for Frontier AI). Члены рабочей группы рассматривают несколько известных кандидатур на роль главного исполнительного директора. TNW не смогло независимо верифицировать этот отчет.
Саморегулятор по модели FINRA
В основу плана разработчики заложили модель FINRA — организации саморегулирования американских брокерских фирм. В отчетах, последовавших за материалом The Information, говорится, что структура будет устанавливать стандарты тестирования моделей перед их выпуском, отчетности об инцидентах безопасности и сертификации сторонних аудиторов. Ее полномочия по принуждению к исполнению пока не определены.
Согласно отчету, изначально лаборатории хотели создать орган с федеральным надзором. Этот план забуксовал, когда проект исполнительного указа Белого дома не получил достаточной поддержки внутри администрации Трампа.
Неделя призывов к стандартам
Этот план появился на фоне насыщенной событиями недели в сфере управления ИИ. 22 сентября 21 страна и ЕС призвали к международному надзору за передовыми системами ИИ. Днем позже Сэм Альтман заявил Совету Безопасности ООН, что OpenAI замедлит темпы работы, и призвал к установлению национальных и международных стандартов для передового ИИ.
OpenAI также попросила Вашингтон возглавить глобальное движение за стандарты в отношении самосовершенствующихся систем искусственного интеллекта.
Критики саморегулирования
В последние дни отраслевой самоконтроль подвергся критике. Билл Гейтс заявил на прошлой неделе, что саморегулирование недостаточно для ИИ. Бывший топ-менеджер Meta Ник Клегг заявил на конференции HumanX в Амстердаме, что лаборатории ИИ не могут продолжать регулировать сами себя.
На первом этапе новый орган будет охватывать только три передовые лаборатории. В отчетах Microsoft, Meta или xAI в качестве участников не упоминаются.
