Имаджинариум мистера Альтмана: прекрасное далёко?
Вегетарианская паста на столе, вино подано, громкая музыка играет — всё, чтобы отвлечься от насыщенного событиями Дня Благодарения 2023 года. Глава OpenAI Сэм Альтман понял, что не в потоке и не в ресурсе, а потому сбежал на свое ранчо в Напе. Случилось это после того, как он чуть не потерял контроль над компанией, которая «держит в руках будущее человечества».
Однако всё обошлось: Альтмана уволили, потом снова вернули в компанию через пять дней, его лицо появилось на обложке Time. А OpenAI снова продолжила под его началом сотрясать информационное пространство новыми нейросетевыми чудесами.
А футурологи и прогнозисты наперебой начали строить прогнозы о том, что же грядет. Интересно, что именно литераторы, типа Жюля Верна и Герберта Уэллса, когда‑то рисовали будущее, описывая невероятные технологии, которые теперь стали реальностью. Однако роль технологических Ванг всё чаще берут на себя топ‑менеджеры IT‑компаний — те, кто непосредственно причастен к созданию будущего.
Конечно, в их предсказаниях можно найти оттенки пиара, ведь каждый видит будущее сквозь призму своих продуктов. Но когда говорит кто‑то вроде Сэма Альтмана, стоит прислушаться. Ведь легионы визионеров и техноевангелистов, выкатывающих нейросетевые прогнозы, не обладает теми инсайдами, что есть у ключевой фигуры самой важной ИИ‑компании планеты.
Недавно Сэм Альтман опубликовал эссе на своем сайте. И там есть ряд интересных моментов, над которыми хочется поразмыслить. Теперь уже, вооружившись «подсказками» из текста главы OpenAI.
Судя по отзывам, кажется, что технари недовольны — большое количество «воды» и восторженных од тому, какое прекрасное будущее с ИИ нас ждет. И нет ни спецификаций, ни данных по параметрам, ничего точного и конкретного! Литературщина сплошная! Да, этот манифест ИИ, по большей части, повторяет традиции писателей‑фантастов с той только разницей, что в нем могут быть зашиты подсказки, к чему идет OpenAI.
Первый тезис — о появлении ИИ‑команды, состоящей из виртуальных экспертов в разных областях, которые будут работать вместе. Тут, вероятно, речь идет о развитии системы GPT‑агентов — расширений, которые позволяют чат‑боту выполнять специфические задачи. Уже сейчас есть обширная база чатов‑плагинов для разных задач и чат‑боты могут быть связаны с внешними сервисами и между собой. У OpenAI явно есть амбиции Apple — яблочный AppStore совершил революцию в сфере мобильных устройств. Как лидер в отрасли, OpenAI строит экосистему нового рынка и уже многим компаниям предлагала создавать своих чат‑ботов внутри агентов ChatGPT.
Далее Альтман пишет про то, что у детей будут виртуальные репетиторы для любых дисциплин, аналогичные улучшения в сфере здравоохранения, возможность создания любого программного обеспечения.
Тут есть нюанс — концепт виртуальных репетиторов выглядит многообещающе. Но сейчас стоимость вычислений в ИИ еще довольно высока, а потому полноценный обучающий процесс через ChatGPT может стать не таким рентабельным. При этом Сэм не говорит, как стоимость компьюта можно снижать, но пишет, что это точно нужно сделать. «Если мы не создадим достаточной инфраструктуры, ИИ станет очень ограниченным ресурсом».
Что касается обучения, то у ИИ есть одна важная особенность — нейросетке можно задавать сколько угодно тупых вопросов! Звучит смешно, но, убеждён, что многие так делали — писали запросы объяснить что‑то такое, о чем в приличном обществе стыдно не знать =) Конечно, можно и погуглить, но в разы удобнее написать, пусть даже криво‑косо, свой запрос и нейронка поймёт, не осудит и всё объяснит. Вот эта способность отвечать на дурацкие (но на самом деле важные) вопросы дает ChatGPT неоспоримое преимущество перед «кожаными» менторами.
По поводу здравоохранения — тут окно Овертона, кажется, еще не открылось до того состояния, что человек доверится нейросети в серьезных случаях. Да, диагностические возможности, как пишут в СМИ, у нейросетки улучшаются. И, верится, что к чат‑боту вполне могут обратиться с первичной диагностикой. Но известно и то, что ChatGPT все еще может выдумывать и фантазировать, поэтому есть основания полагать, что пока даже human error у «кожаных» врачей не отвратит от посещений клиник. Другое дело, что сами врачи, особо если не слишком квалифицированные, могут консультироваться у того же ChatGPT. Что же, может, в этом случае оно и к лучшему?
«Возможность создания любого программного обеспечения» через промпты — охотно верится, хотя знакомые программисты злорадно смыкают в неверии. Как минимум, вносить правки в уже сгенерированный код может быть проблематично. Хотя могу ошибаться. Тут не могу ни подтвердить, ни опровергнуть. Программисты, что думаете?
К слову, Альтман признаёт, что ИИ «может значительно изменить рынок труда (как в положительную, так и в отрицательную стороны) в ближайшие годы», но «большинство профессий будут меняться медленнее». Пока явственно вижу, что сантехникам и шпаклёвщикам ИИ не угрожает никак. Еще глава OpenAI пишет, что будут создаваться новые профессии, которые мы сейчас и за работу не считаем. Тут нельзя не вспомнить про «новый черный» у инфоцыган — промты. Вот уж неимоверно занятно смотреть, как умение облекать мысли в слова и способность подробно описывать запрос преподносят как ноу‑хау, которому нужно учиться (и купить курс!), так как это профессия будущего. Впрочем, с появлением модели o1-preview наметился тренд на упрощение промптов, да и сами нейросети можно использовать для написания промптов, а потому концепт промптинга как профессии будущего — под угрозой.
»Благодаря этим новым способностям мы сможем добиться всеобщего процветания», — пишет Сэм. И добавляет, что с развитием ИИ будут подвластны открытие всех физических законов и доступ к практически неограниченным источникам энергии. Ох, вот в эту популистскую риторику, кажется, мало, кто верит. Уже сейчас ИИ замещает ряд низкоуровневых профессий, заставляя многих «переквалифицироваться в управдомы». Очевидно, что ИИ — это площадка для новой гонки технологических вооружений. Причем, в прямом смысле «вооружений»: ведь искусственный интеллект это, очевидно, технологии «двойного назначения». Какие орудия будут в недалеком будущем управляться через API ChatGPT или «военного» аналога ChatGPT остается только догадываться.
»Возможно, мы получим сверхразум через несколько тысяч дней; возможно, это займет больше времени, но я уверен, что мы к этому придем». В этой фразе, возможно, скрыт самый главный инсайд: общему искусственному интеллекту (AGI) — быть. Несколько тысяч дней это примерно 5,5 лет. Если за этим прогнозом сокрыто больше, чем пространные размышления, то относительно скоро может быть представлена технология, которая могла бы сравниться с человеческим интеллектом в выполнении многих задач без необходимости специального обучения. Сэм Альтман уже давно говорит о неизбежности появления AGI. Ходят слухи, что в руководстве OpenAI испугались того, что сможет делать новый ИИ и поспешили уволить Альтмана, но затем передумали. И тут непонятно — либо всё настолько революционно и коллеги Альтмана опасаются восстания машин, либо новые модели ИИ, вместо открытия всех физических законов, могут через «джейлбрейки» выдать новые рецепты биооружия…
Итак, пока из этого эссе следуют такие направления развития ближайшего будущего :
Развитие экосистмы GPT-агентов и создание аналога экосистемы AppStore, а чат-боты становятся новыми приложениями.
Развитие дополнительных моделей, способных к «саморефлексии», типа o1.
И эти рефлексивные модели являются основой для массовой прото-AGI
В промежутке надо строить инфраструктуру, ибо без большого количества чипов и ЦОДов всё это прекрасное будет очень далёко.
