«Безумный стартап»: план OpenAI в 2017 году выставить AGI на аукцион для правительств
- В 2017 году Грег Брокман и Илья Суцкевер предложили выставить права на будущий AGI OpenAI на аукцион для правительств.
- По словам автора, среди возможных участников назывались США, Китай и Россия; OpenAI заявила, что не рассматривала продажу AGI Китаю или России.
- OpenAI отказалась от плана после финансирования Microsoft; Дарио Амодеи возражал, что он усилит гонку вооружений.
Почему это важно: Разногласия вокруг плана были одним из нескольких споров, после которых Амодеи ушёл из OpenAI и основал Anthropic.
В 2017 году сооснователи OpenAI Грег Брокман и Илья Суцкевер предложили выставить на аукцион права на будущий AGI компании для правительств, в том числе США, Китая и России. Кевин Руз рассказывает об этом плане в отрывке из своей книги, опубликованном во вторник в The Atlantic. Дарио Амодеи выступил против. Как пишет Руз, это был один из нескольких споров, из-за которых Амодеи ушёл из компании и основал Anthropic.
Отрывок, опубликованный в The Atlantic, взят из готовящейся к выходу книги Руза The AGI Chronicles. Пять человек, знакомых с планом, рассказали о нём автору.
«План с участием стран»
Идея возникла, когда Илон Маск отдалялся от OpenAI, а лаборатории требовалось новое финансирование, пишет Руз. Сначала речь шла о создании международной коалиции для управления рисками, связанными с AGI. Но к той зиме, когда Брокман и Суцкевер представили план сотрудникам, он превратился в стратегию привлечения средств, которую внутри компании называли «планом с участием стран».
По словам двух человек, знакомых с ходом их мыслей, эта пара ожидала, что правительства отберут AGI у создавших его компаний. Поэтому они задались вопросом: почему OpenAI не продать его сейчас, когда компании нужны деньги?
«Это звучало так, будто технари предлагали безумный стартап-проект: у них был какой-то сумасшедший план, а в конце выходило: «Пусть за это заплатит правительство», — рассказал Рузу один из слушавших презентацию.
OpenAI «недолго рассматривала возможность превратить компанию в международный кооперативный проект», но «не рассматривала возможность продажи AGI Китаю или России», — сообщил Рузу представитель OpenAI.
OpenAI отказалась от этого плана после того, как получила финансирование от Microsoft.
Согласно отрывку, в декабре 2017 года Амодеи написал Брокману, Суцкеверу и другим руководителям компании, выразив возражения.
«На мой взгляд, этот план не уменьшит, а усилит гонку вооружений, потенциально позволит совершать зверства и нарушать права человека… и подорвёт моральную легитимность OpenAI», — написал Амодеи.
Канье Уэст и бета-версия GPT-3
Руз пишет, что Амодеи вёл список случаев, когда ему казалось, что Альтман вводит его в заблуждение. Один из них касался списка одобренных пользователей GPT-3. Другой — условий безопасности в сделке с Microsoft на 1 млрд долларов.
В 2020 году Альтман предложил Канье Уэсту доступ к закрытой бета-версии GPT-3, рассказали Рузу два человека. Джек Кларк, тогдашний директор OpenAI по политике, остановил это предложение.
В том же году Амодеи и шестеро его коллег ушли, чтобы основать Anthropic. Условия расставания они назвали «разводом». В течение нескольких недель группа могла нанимать сотрудников OpenAI, а обе стороны договорились публично не критиковать друг друга. Согласно отрывку, первоначально компания планировала называться Sparrow Systems.
Вражда продолжается
Дарио и Даниэла Амодеи «до сих пор ненавидят» Альтмана и Брокмана, пишет Руз со ссылкой на нескольких знакомых с ними людей. Дарио называл Альтмана и OpenAI «злом» во внутренних сообщениях Slack. Некоторые сотрудники OpenAI называют Амодеи «властолюбивыми лицемерами, напоказ демонстрирующими добродетель», говорится в отрывке.
В понедельник TNW сообщило, что Альтман и Амодеи оба не примут участия в расследовании австралийского Сената. Anthropic готовится к выходу на биржу, а её проспект показывает, что в 2025 году компания потеряла 42 млрд долларов. В среду Брокман отозвал обещание пожертвовать 25 млн долларов супермеханизму политических действий (super PAC), выступающему за развитие ИИ.
