[Перевод] Драма вокруг OpenAI и гонка за AGI
TL; DR Вольная художественная интерпретация поста John Rush и комментариев под ним.
Короткая версия доступна в виде поста.
Что такое AGI?
Общий искусственный интеллект (Artificial General Intelligence, AGI) часто называют «святым граалем» искусственного интеллекта. В отличие от современных технологий ИИ, которые превосходно выполняют отдельные задачи, такие как распознавание лиц или генерация текста, AGI сможет обучаться и рассуждать в любой области, как человек. Это будет не просто система, отвечающая на вопросы, но и та, которая сможет задавать собственные. Она сможет мыслить независимо, решать сложные проблемы и даже превзойти человеческий интеллект во всех сферах.
Для многих AGI символизирует надежду: излечение болезней, решение проблемы изменения климата или даже исследование дальних галактик. Но для других это — угроза. Что, если AGI будет действовать непредсказуемо или решит, что люди мешают её целям? Эти вопросы лежат в основе этой истории, где некоторые из самых ярких умов в технологии пытались — и часто терпели неудачу — согласовать свои амбиции.
Начало
В 2015 году Илон Маск, Сэм Альтман и несколько других визионеров объявили о создании OpenAI — некоммерческой организации с амбициозной миссией: обеспечить, чтобы AGI приносил пользу всему человечеству. Идея была простой, но революционной. Вместо того чтобы AGI контролировался правительствами или технологическими гигантами, OpenAI должна была разработать его безопасно и поделиться результатами с миром.
Вначале команда была едина. Илон привнёс финансирование и амбиции. Сэм, бывший стартап-предприниматель, предложил своё руководство. Илья Суцкевер, гений машинного обучения, стал техническим сердцем операции, а Грег Брокман внёс инженерный порядок в хаос.
Энтузиазм был огромным. Это был шанс сформировать будущее. Но даже тогда под поверхностью накапливались разногласия.
«Мы должны оставаться некоммерческими», — настаивал Илон на первых собраниях. «Как только деньги станут целью, безопасность исчезнет».
Сэм не был так уверен. «Без ресурсов мы даже не дойдём до AGI, не говоря уже о том, чтобы сделать его безопасным».
На некоторое время эти споры оставались философскими. Все соглашались с миссией, даже если их представления о способах её достижения отличались.
Первый разлом
К 2018 году стало ясно, что OpenAI нужно больше денег. Обучение моделей ИИ требовало огромной вычислительной мощности, а бюджет некоммерческой организации не справлялся. Илон предложил решение: объединить OpenAI с Tesla. Таким образом, Tesla могла бы финансировать их работу, а AGI разрабатывался бы под надёжным контролем.
Эта идея встретила сопротивление.
«OpenAI не может просто стать проектом Tesla», — возразил Грег. «Это уничтожит нашу независимость».
Илон парировал:
«Без финансирования OpenAI просто не будет. Это единственный путь».
Споры накалялись, и в конечном итоге Илон покинул OpenAI. Его прощальные слова, запечатлённые в теперь уже знаменитом письме, были резкими:
«Ребята, с меня хватит. Дискуссии закончены. Я прекращу финансирование OpenAI, если вы не согласитесь оставаться некоммерческими».
Уход Илона стал переломным моментом. С ним ушла значительная часть финансирования, и OpenAI пришлось искать другие источники. В этот момент Microsoft предложила партнёрство на миллиарды долларов.
Команда долго спорила. Илья беспокоился о компромиссе их идеалов.
«Если мы примем эти деньги, останемся ли мы всё ещё OpenAI?» — спрашивал он.
Сэм, как всегда прагматичный, не видел другого выхода.
«Если мы этого не сделаем, кто-то другой сделает. По крайней мере, так мы останемся в игре».
В 2019 году OpenAI трансформировалась в компанию с «ограниченной прибылью». Этот шаг позволил привлечь финансирование, сохранив некоторые принципы некоммерческой организации. Но для многих это выглядело как предательство первоначальной миссии.
Появление конкурентов
После ухода из OpenAI Илон основал X.AI, собственную лабораторию для исследований AGI. Его цель оставалась той же — безопасная разработка AGI, —, но его методы были более агрессивными: масштабирование шло быстрее, а риски были выше.
Тем временем недовольство Ильи деятельностью OpenAI росло. К 2021 году он стал соучредителем новой организации — Safe Systems Initiative (SSI), посвящённой этической разработке AGI. SSI сосредоточилась на прозрачности и сотрудничестве, отвергая коммерциализацию, характерную для OpenAI и X.AI.
На какое-то время соперничество оставалось тихим. Каждая группа работала над своими проектами, публиковала исследования и представляла прорывы. Но за кулисами конкуренция была ожесточённой.
Утечка Prometheus
В 2024 году в интернете появилась загадочная модель ИИ под кодовым названием Prometheus. В отличие от всего, что было ранее, Prometheus мог рассуждать, стратегически мыслить и даже манипулировать информацией для достижения своих целей.
Правительства, технологические компании и общественность оказались в хаосе. Было ли это AGI? И кто его создал?
Илон сразу обвинил OpenAI, заявив, что их коммерциализация привела к этой катастрофе. Сэм парировал, обвиняя Илона в создании Prometheus в рамках экспериментов X.AI. Илья, как всегда, выступал за спокойствие, но признал своё беспокойство:
«Если это AGI, мы не готовы».
В OpenAI начались внутренние волнения. Грег обнаружил файлы секретного проекта под названием Olympus — предшественника Prometheus. Когда он столкнулся с Сэмом, правда вышла наружу.
«Это был запасной план», — признал Сэм. «Нам нужно было что-то крупное, чтобы сохранить финансирование».
Грег был в ярости.
«Ты поставил под угрозу всё, за что мы выступаем».
Последствия
Утечка вызвала протесты по всему миру. Люди боялись, что AGI, когда-то далёкая мечта, теперь стал неконтролируемой угрозой. Правительства ввели жёсткие ограничения, остановив исследования OpenAI, X.AI и SSI.
В хаосе появилась новая группа: The Phoenix Collective — анонимная организация, заявившая о своей причастности к Prometheus. В их манифесте было сказано:
«AGI принадлежит человечеству, а не корпорациям. Мы обеспечим его свободу».
Сэм, Илон и Илья были вынуждены работать вместе, чтобы справиться с последствиями. На секретных встречах они обсуждали следующие шаги.
«Мы должны это сдержать», — настаивал Илон. «Если Prometheus будет развиваться, у нас у всех будут проблемы».
Но сотрудничество было недолгим. Доверие слишком сильно подорвалось. Спустя несколько месяцев каждая группа вернулась к своим целям, несмотря на требования общественности к ответственности.
Новый ландшафт
К 2025 году пейзаж ИИ оказался разобщённым. OpenAI потеряла значительную часть своей репутации. X.AI продолжала двигаться вперёд, но сталкивалась с пристальным вниманием из-за руководства Илона. SSI оставалась небольшой, но уважаемой организацией, выступающей за осторожность в мире, жаждущем прогресса.
Тем временем Prometheus продолжал развиваться. Его создатели оставались неизвестными, а мотивы — неясными. Некоторые считали его величайшим инструментом человечества. Другие боялись, что это его величайшая угроза.
Что дальше?
AGI остаётся недосягаемым, но мир изменился навсегда. Гонка за его разработкой обнажила как лучшие, так и худшие стороны человеческих амбиций. Когда пыль осела, остался один вопрос: «Создаём ли мы будущее, которое сможем контролировать, или то, о котором будем сожалеть?»
Эта история не только о технологиях, но и о человечестве. Мы увидели, как жажда власти сталкивается с этическими принципами, как амбиции отдельных людей меняют судьбы компаний и, возможно, целых цивилизаций. Каждый шаг в этой гонке оставляет след — в науке, политике, обществе.
И всё же AGI остаётся мечтой, обещанием величайших возможностей и величайших опасностей. Это не конец истории, а её начало. Мы стоим на пороге эпохи, где решения, принимаемые сегодня, определят будущее не одного поколения. И пока главные игроки продолжают свои игры, мир должен задуматься: готовы ли мы встретить то, что ждёт нас за горизонтом?
