Наши принципы26.04.2026 16:00

Искусственный интеллект обладает потенциалом для существенного улучшения многих аспектов жизни общества.

Эта технология, как и предыдущие, предоставит людям больше возможностей и свободы действий; то, что люди смогут делать с помощью ИИ, намного превзойдет то, чего можно было добиться с помощью паровых двигателей или электричества.

Мы предвидим мир с повсеместным процветанием на уровне, который сейчас трудно вообразить, мир, в котором значительно возрастут индивидуальный потенциал, возможности и самореализация. Множество вещей, о которых мы раньше позволяли себе мечтать лишь в научно-фантастических произведениях, могут стать реальностью, и большинство людей смогут жить более осмысленной жизнью, чем это доступно сегодня.

Но этот исход не гарантирован. Власть в будущем может либо сосредоточиться в руках небольшой горстки компаний, использующих суперинтеллект и управляющих им, либо принадлежать людям на децентрализованной основе. Мы считаем второй вариант намного лучше, и наша цель — предоставить по-настоящему общий искусственный интеллект в руки как можно большего числа людей. Как и настоящее, будущее не будет исключительно плохим или хорошим, но решения, которые мы принимаем сейчас, могут помочь максимизировать благо.

Наша миссия — гарантировать, что ОИИ (AGI) приносит пользу всему человечеству. Вот принципы, которыми мы руководствуемся в своей работе.

1. Демократизация. Мы будем противостоять тенденции этой технологии концентрировать власть в руках избранных.

Это означает, что помимо предоставления всем доступа к ИИ, нам необходимо гарантировать, что ключевые решения об ИИ принимаются посредством демократических процессов и на основе эгалитарных принципов, а не исключительно лабораториями искусственного интеллекта.

2. Расширение возможностей. Мы верим, что ИИ способен помочь каждому достичь своих целей, узнать больше, стать счастливее и реализовать себя, а также воплотить свои мечты в жизнь, и что общество в целом выиграет от этого.

Для достижения этого необходимо позволить людям исследовать открывающийся перед нами огромный потенциал, и мы должны создавать продукты, которые это обеспечивают. Пользователи должны иметь возможность стабильно решать всё более ценные задачи с помощью наших сервисов.

Мир разнообразен, и у людей разные потребности. Мы хотим предоставить нашим пользователям необходимую им автономность и разрешить всё, что разумно возможно.

Хотя мы хотим предоставить нашим пользователям очень широкую свободу в использовании наших сервисов и твердо верим, что ИИ в целом принесет огромную пользу, мы несем ответственность за создание и внедрение технологий таким образом, чтобы минимизировать вред. Сюда, конечно, входит предотвращение катастрофического ущерба, а также минимизация локальных угроз и предотвращение потенциальных разрушительных социальных последствий. Это будет означать следование принципу осторожности в условиях неопределенности и ослабление ограничений по мере появления новых данных.

3. Всеобщее процветание. Мы хотим будущего, в котором каждый сможет жить прекрасной жизнью.

Предоставив каждому простые в использовании системы искусственного интеллекта с огромными вычислительными мощностями, мы верим, что люди найдут новые способы создания ценности и кардинально улучшат качество жизни для всех, особенно благодаря научным открытиям.

Чтобы процветание было полностью реализовано и широко разделялось всеми, мы считаем, что: 1) нашим правительствам, возможно, придется рассмотреть новые экономические модели, чтобы гарантировать участие каждого в создании открывающейся перед нами ценности, и 2) нам необходимо построить колоссальные объемы инфраструктуры ИИ и разработать новые технологии, позволяющие радикально снизить затраты на эту инфраструктуру.

Многие из наших шагов, которые могут показаться странными — покупка огромных объемов вычислительных мощностей при относительно небольшой выручке, вертикальная интеграция ради снижения издержек и упрощения использования наших технологий, стремление строить дата-центры по всему миру и многое другое — обусловлены нашей фундаментальной верой в будущее всеобщего процветания.

4. Устойчивость. ИИ принесет с собой новые риски, и мы будем работать с другими компаниями, экосистемами, правительствами и обществом над их устранением. Мы направим значительную часть ресурсов нашего Фонда на поддержку этой работы.

Ни одна лаборатория ИИ не сможет обеспечить благополучное будущее в одиночку. Например, могут появиться чрезвычайно способные модели, облегчающие создание нового патогена, и нам нужен общественный подход для защиты от этого с помощью универсальных контрмер против патогенов. В качестве другого примера: по мере роста возможностей моделей в области кибербезопасности нам необходимо оперативно использовать эти модели для защиты открытого программного обеспечения и критической инфраструктуры, одновременно обучая модели помогать каждому создавать более безопасный софт.

Это является расширением нашей давней стратегии итеративного развертывания; мы считаем, что общество должно справляться с каждым новым уровнем возможностей ИИ, осваивать его, интегрировать и находить лучший путь вперед вместе. Этого нельзя сделать в вакууме; общество и технологии эволюционируют совместно, а для этого требуется время.

Мы не подразумеваем это как нашу единственную стратегию безопасности; нам также необходимо создавать безопасные системы и продолжать масштабную работу над техническим выравниванием (alignment).

Мы ожидаем, что будут периоды, когда нам потребуется сотрудничать с правительствами, международными агентствами и другими разработчиками ОИИ, чтобы убедиться в том, что мы достаточно успешно решили серьезные проблемы выравнивания, безопасности или социальных последствий, прежде чем двигаться дальше в нашей работе.

5. Адаптивность. Мы по-прежнему считаем, что единственный способ справиться с вызовами весьма непредсказуемого будущего — быть готовыми пересматривать свои позиции по мере поступления новой информации. Мы также признаем, что OpenAI играет гораздо более весомую роль в мире, чем несколько лет назад, и мы будем открыто говорить о том, когда, как и почему меняются наши операционные принципы. В качестве конкретного примера: хотя мы уверены, что всеобщее процветание останется крайне важным, мы можем представить периоды в будущем, когда нам придется пожертвовать частью возможностей ради повышения устойчивости.

Развитие искусственного интеллекта преподнесло множество сюрпризов, и новые еще впереди. По мере развития технологий их эмерджентное поведение будет становиться все более трудным для прогнозирования. Мы принимаем эту неопределенность⁠, осторожно наращивая возможности, итеративно внедряя системы и извлекая уроки из их взаимодействия с реальным миром.

Было время, когда мы опасались выпускать веса GPT‑2, так как не были уверены в том, каким будет их влияние на общество. Оглядываясь назад, это, очевидно, были напрасные волнения, но они привели нас к открытию стратегии итеративного развертывания, которая стала одним из важнейших наших достижений.

__

Мы вступаем в очень важный этап по мере дальнейшего совершенствования технологий. Критика в наш адрес по поводу каждого принятого решения вполне обоснована; учитывая масштаб того, что мы делаем, мы заслуживаем пристального внимания. Мы будем не во всем правы, но мы будем быстро учиться и корректировать курс.

Мы полны решимости внести свой вклад в то, чтобы сделать будущее лучше прошлого; мы счастливы заниматься столь важной работой.

Автор