Десять лет11.12.2025 00:00

OpenAI добилась большего, чем я осмеливался мечтать; мы затеяли нечто безумное, маловероятное и беспрецедентное. Начав в условиях глубокой неопределенности и вопреки всем разумным шансам, благодаря упорному труду теперь мы имеем реальный шанс добиться успеха в нашей миссии.

Ровно десять лет назад мы объявили миру о нашей инициативе, хотя официально приступили к работе⁠ лишь несколько недель спустя, в начале января 2016 года.

Десять лет — это очень долго в каком-то смысле, но в масштабах того, как обычно меняется траектория развития общества, — совсем недолго. Хотя повседневная жизнь кажется не слишком отличной от той, что была десять лет назад, пространство возможностей перед нами сегодня выглядит совершенно иначе по сравнению с тем временем, когда 15 ботаников сидели в кругу и пытались понять, как добиться прогресса.

Когда я смотрю на фотографии тех первых дней, меня больше всего поражает то, какими молодыми все выглядят. Но затем меня поражает то, насколько неразумно оптимистичными и счастливыми все выглядят. Это было безумно веселое время: хотя нас крайне не понимали, у нас была глубокая убежденность, ощущение того, что это настолько важно, что стоит упорно трудиться даже при минимальных шансах на успех, а также очень талантливые люди и предельная концентрация.

Шаг за шагом мы обретали понимание происходящего по мере того, как у нас появлялись некоторые победы (и множество поражений). В те дни было трудно определить, над чем конкретно стоит работать, но мы создали невероятную культуру, способствующую открытиям. Глубокое обучение явно было отличной технологией, но развивать ее без опыта практического применения в реальном мире казалось неправильным. Я пропущу истории обо всем, что мы сделали (надеюсь, кто-нибудь когда-нибудь напишет об этом книгу), но у нас был прекрасный дух — мы всегда просто преодолевали очередное препятствие на нашем пути: куда исследования могут привести нас дальше, как раздобыть деньги на более мощные компьютеры или что-то еще. Мы стали пионерами технической работы по обеспечению безопасности и надежности ИИ на практике, и эта ДНК сохраняется по сей день.

В 2017 году мы получили несколько фундаментальных результатов: наши успехи в Dota 1v1, где мы вывели обучение с подкреплением на новый уровень масштабирования. Нейросеть неконтролируемого анализа настроений (unsupervised sentiment neuron), где мы увидели, как языковая модель безоговорочно усваивает семантику, а не только синтаксис. И наш результат по обучению с подкреплением на основе отзывов людей (RLHF), продемонстрировавший зачатки пути к согласованию ИИ с человеческими ценностями. К этому моменту инновации были далеко не завершены, но мы знали, что нам нужно масштабировать каждый из этих результатов с помощью колоссальной вычислительной мощности.

Мы продолжили работу, усовершенствовали технологию и три года назад запустили ChatGPT. Мир обратил на это внимание, а после запуска GPT-4 — и вовсе привлекли к себе колоссальное внимание; внезапно ОИИ перестало быть безумной идеей. Последние три года были чрезвычайно напряженными, полными стресса и тяжелой ответственности; эта технология интегрировалась в мир с такими масштабами и скоростью, которых не знала ни одна технология раньше. Это потребовало невероятно сложного исполнения, для которого нам пришлось на ходу развивать новые навыки. Превращение из ничего в огромную компанию за этот период времени далось непросто и потребовало принятия сотен решений в неделю. Я горжусь тем, сколько из них команда приняла правильно, а те, в которых мы ошиблись, — в основном моя вина.

Нам приходилось принимать решения нового типа; например, размышляя над тем, как сделать ИИ максимально полезным для мира, мы выработали стратегию итеративного развертывания, успешно выпуская ранние версии технологии в мир, чтобы люди могли сформировать интуитивное понимание, а общество и технология могли эволюционировать вместе. В то время это вызвало много споров, но я считаю, что это было одно из лучших наших решений, ставшее стандартом индустрии.

Спустя десять лет после основания OpenAI у нас есть искусственный интеллект, который справляется с самыми сложными интеллектуальными соревнованиями лучше большинства наших самых умных людей.

Мир смог использовать эту технологию для совершения экстраординарных вещей, и мы ожидаем еще большего в предстоящем году. Мир также проделал хорошую работу по минимизации потенциальных рисков, и нам нужно продолжать работать над этим.

Я никогда еще не был так оптимистичен в отношении наших дорожных карт исследований и продуктов, а также общего видения нашей миссии. Я считаю, что еще через десять лет мы почти наверняка создам суперинтеллект. Я ожидал, что будущее покажется странным; в каком-то смысле повседневная жизнь и то, чем мы дорожим больше всего, изменятся очень мало, и я уверен, что мы по-прежнему будем гораздо больше сосредоточены на поступках других людей, чем на действиях машин. С другой стороны, люди 2035 года будут способны на то, что, как мне кажется, мы сейчас даже не можем легко вообразить.

Я благодарен людям и компаниям, которые оказали нам доверие и используют наши продукты для достижения великих целей. Без этого мы бы так и оставались технологией в лаборатории; наши пользователи и клиенты сделали на нас раннюю и порой неразумно смелую ставку, и наша работа не достигла бы такого уровня без них.

Наша миссия — гарантировать, что искусственный интеллект общего назначения принесет пользу всему человечеству. Нам еще многое предстоит сделать, но я очень горжусь траекторией, по которой ведет нас команда. Мы уже сегодня наблюдаем огромную пользу от того, как люди используют эту технологию, и мы знаем, что в ближайшие пару лет нас ждет гораздо больше.

Автор