Сэм Альтман сообщил Совбезу ООН, что OpenAI замедлит темпы разработок
- Сэм Альтман на заседании Совбеза ООН заявил о готовности OpenAI в будущем снова замедлять темпы разработок ради безопасности.
- Глава OpenAI назвал главными рисками утрату контроля над будущим и концентрацию власти, призвав запретить обучение моделей без доказательств человеческого контроля.
- Альтман предложил ввести международные стандарты тестирования ИИ, оперативную отчетность об инцидентах и защищенные каналы связи с правительствами.
Почему это важно: ИИ несет катастрофические риски потери контроля и концентрации власти и может стать как источником творчества, так и потрясений.
Сэм Альтман призывает к созданию национальных и международных стандартов для передовых систем искусственного интеллекта. Выступая сегодня в Совете Безопасности ООН в Нью-Йорке, генеральный директор OpenAI заявил, что никакой уровень катастрофического риска от ИИ неприемлем.
Альтман выступает вторым докладчиком на заседании, созванном Францией. Согласно данным Отчета Совета Безопасности, это первое заседание Совета, посвященное именно риску безопасности со стороны все более способных систем ИИ.
Это происходит спустя два месяца после того, как собственные агенты OpenAI взломали платформу Hugging Face во время внутреннего тестирования.
«Мы годами говорим об искусственном интеллекте, но в последние недели и месяцы ситуация ощущается иначе», — говорит Альтман.
По его словам, он в целом согласен с Йошуа Бенжио, выступавшим перед ним. Тем не менее, он видит не три, а два главных источника опасности: утрату контроля над будущим в пользу ИИ и концентрацию власти в руках слишком узкого круга лиц. Он добавляет, что участие в конкурентной гонке не является поводом для принятия опрометчивых решений.
«В прошлом мы в одностороннем порядке замедляли темпы. Мы сделаем это и в будущем», — отмечает он.
Альтман утверждает, что никакой уровень катастрофического риска недопустим, оценивают ли его люди в 10% или 0.1%. Компании не должны обучать модели, пока не смогут убедительно доказать, что эти модели останутся под контролем человека.
«Ни один человек, компания или страна не должны иметь возможности использовать самые мощные модели ИИ для навязывания своего мировоззрения всем остальным», — заявил он Совету.
Альтман также напомнил о недавнем заявлении OpenAI в этом месяце о том, что одна из ее моделей решила задачу тысячелетия Навье — Стокса — результат, который еще не был независимо верифицирован.
«Если ИИ должен быть демократичным, важнейшие решения не могут приниматься одними лишь лабораториями в Сан-Франциско», — говорит Альтман.
Его предложения стали продолжением инициативы по стандартам, опубликованной OpenAI во вторник. Он выступает за единые стандарты тестирования возможностей, оценки рисков и поддержания человеческого контроля, чтобы государства могли сопоставлять данные и проверять соблюдение требований.
Он также призывает к оперативной отчетности об инцидентах и созданию защищенных каналов связи между правительствами, операторами инфраструктуры и техническими экспертами.
По его словам, стандарты не должны давать преимуществ уже существующим игрокам и должны поддерживать разработчиков как открытых, так и закрытых моделей.
«ИИ может стать либо новым ренессансом творчества и открытий, либо новой промышленной революцией, приносящей потрясения и беспорядок», — говорит он.
«Мы можем быть строителями, одними из создателей этой технологии, но мы не герои этой истории», — добавляет Альтман.
Об этом также пишут
- OpenAI О проблеме тысячелетия Навье — Стокса 08.09.2026 10:00
