Обама и сингулярность: почему президент США, рассказывающий об искусственном интеллекте — это круто
24 августа 2016 года шеф-редактор Скотт Дадич, президент США Барак Обама и глава лаборатории Media Lab Массачусетского технологического института Джои Ито собрались в Белом доме, чтобы поговорить о том, как государства должны подготовиться к сингулярности. Вместо прощального интервью уходящего политика, получился интересный разговор на важные темы, по итогам которого можно обнаружить, практически, «мы с тобой одной крови — гик и президент США».
Полная расшифровка интервью и на русском
Сингулярность уже давно превратилась в эдакого слона в комнате — её неизбежность вроде как никем не оспаривается, но при этом, опять же, никем особо не обсуждается, оставаясь предметом научных дискуссий да срачей в комментах на «Гиктаймсе».
Понять, почему так происходит, не сложно. Взять, к примеру, глобальное потепление: несмотря на то, что полярные льды продолжают таять, апокалиптическая картина затопления прибрежный территорий по всей планете по-прежнему в массовом сознании относится скорее к фантастическим фильмам вроде «Послезавтра», нежели к реально возможной перспективе будущего. Точно так же тема искусственного интеллекта кажется настолько оторванной от жизни, что в массовом сознании она воспринимается исключительно как традиционный элемент не слишком правдоподобного сюжета очередного громкого летнего блокбастера.
Причины этого хорошо известны всем визионерам: Стив Джобс, объясняя бесполезность фокус-групп для оценки востребованности новых изобретений, цитировал Генри Форда: «Если бы я спросил своих клиентов, чего бы они хотели, они ответили бы мне: «Более быструю лошадь». Иными словами, люди в большинстве своём опираются на уже имеющийся опыт — поэтому ситуации, радикально меняющие их реальность, кажутся абсолютно нереальными.
Сингулярность — т.е. переход в реальность, в которой машины начнут учить сами себя и человек рискует потерять контроль и даже представление о том, что происходит в их электронных мозгах — настолько вопиюще отличается от последних тысяч лет накопленного опыта человеческой цивилизации, что проще об этом вообще не думать, чтобы не забивать мозг. Научное и гик-сообщество не сильно в этом помогает, не заморачиваясь выпуском книг, статей и смешных роликов на YouTube в формате Singularity for Dummies.
И в этот момент действующий американский президент в интервью для одного из крупнейших гиковских изданий мира демонстрирует владение темой на уровне если не профессора МТИ, то как минимум качественно разбиравшегося в вопросе и делавшего самостоятельные выводы гика. И уж точно лучше, чем тот самый профессор способный эти выводы сформулировать — к вопросу о языке, на котором наука общается с широкими народными массами: на видео отлично видно, как трудно Джои Ито даётся сказать что-то внятное. Тогда как Обама говорит хотя и медленно, но верно, по делу и совершенно без воды и пустой демагогии.
Основной акцент Обама делает на специализированные ИИ, которые в отличие от пока что ещё отдалённой перспективы полноценного ИИ, уже стали частью повседневности. Пусть, судя по идущей президентской кампании в США, люди по-прежнему традиционно сильнее боятся, что их рабочие места украдут иностранцы, чем машины, уже пора беспокоиться о том, чьи рабочие заберут роботы и нейросети:
ИИ сможет заманить не только низкоквалифицированный труд — даже требующие высокой квалификации задачи, содержащие в себе значительные элементы рутины и повторяемости тоже, скорее всего, смогут выполняться компьютером.
В отличие от популистов и алармистов, Обаму по духу можно отнести к настоящим гикам, потому что он разделяет технооптимизм, свойственный научному и IT-сообществу:
история показала, что человечество всегда усваивает новые технологии, люди видят, что создаются новые рабочие места, адаптируются — и уровень жизни в итоге растёт.
Текстовая версия беседы с Обамой содержит больше контента, чем видеоверсия интервью. В частности, в полной версии разговора Обама всё-таки отвечает на вопрос как подготовиться к возможной будущей войне со «Скайнетом» — ответ лежит где-то в области борьбы с пандемиями:
Обычно мы размышляем о безопасности и самозащите в категориях оружия и преград. Но всё чаще я ловлю себя на том, что смотрю в сторону медицины и задумываюсь о вирусах и антителах. Отчасти поддерживать кибербезопасность настолько трудно ещё и потому, что это не просто какие-то танки, наступающие на тебя, а целая куча систем, которые могут быть уязвимы для проникновения червя внутрь. Это означает, что мы должны подходить к вопросам безопасности иначе, вкладываться в это иначе — это будет, может, смотреться не слишком круто, но, на практике, оказаться очень важным.
Что меня на самом деле беспокоит — так это явления вроде пандемии. Никакая стена не защитит нас от попадания очередного переносимого по воздуху вируса на нашу территорию. Поэтому нам нужно помогать налаживать системы здравоохранения по всему миру, настраивать системы оповещения и обладать процедурами и системами более эффективных вакцин. И я думаю, что и опыт предотвращения пандемий, и опыт борьбы с киберугрозами может быть полезен в смысле борьбы с опасностями ИИ.
Разумеется, президент США должен был прокомментировать вопрос государственного участия. Начал он опять же с греющего душу гика заявления, что он сторонник «расцветания тысячи цветов»:
вмешательство государства должно ограничиваться относительно лёгкими мазками и щедрыми инвестициями в науку и поддержку связей между фундаментальными и прикладными исследованиями.
Но всё же считает, что государство должно вкладываться в ИИ больше:
Пример, к которому мы по-прежнему обращаемся, когда речь заходит о великих технологических прорывах, и сейчас, 50 лет спустя, является высадка на Луну. Мне тут напомнили, что космическая программа тогда съедала полпроцента ВВП. Это звучит не очень страшно, но сегодня это бы означало тратить $80 млрд в год только на ИИ. В действительности же мы тратим, думаю, менее миллиарда.
И объясняет, почему это важно:
если мы хотим, чтобы интересы общества во всём его многообразии нашли своё отражение в новых прорывных технологиях, то правительство должно финансово в них участвовать. А если государство от этого уклонится, то социальные аспекты прогресса рискуют остаться либо незамеченными, либо недостаточно хорошо продуманными.
Впрочем, снова успокивая особо нервных гиков, что участие государства должно обеспечивать common interests, а не интересы этого самого государства. Подход явно незнакомый политикам в современной России, кстати говоря:
Я хочу подчеркнуть, что государственное финансирование и участие в сборе данных не означает, что мы хотим присвоить или милитаризовать эти технологии. Простой пример: для проекта по точной медицине требовалось собрать достаточно большое количество информации о геномах большого и раношёрстного числа американцев. Но вместо того, чтобы дать деньги Гарварду или Стэнфорду, где они хранят свои образцы, мы запустили полноценную генетическую базу данных, к которой могут получить доступ все желающие. Это пример общего интереса, общей архитектуры, гарантирующей прозрачность исследований вместо их монетизации кем-то конкретным.
Безусловный базовый доход
Не обошлось и без упоминания темы базового дохода, которая напрямую связана с темой ИИ и сингулярности, но куда проще объяснима и понятна обывателю, поэтому захватила куда большее число умов в последнее время. Обама не даёт прямого ответа на этот вопрос, но говорит о том, что современная шкала оценки полезности (и, соответственно, оплачиваемости) разного вида деятельности в обществе не кажется ему справедливой, так что проникновение ИИ в нашу жизнь грядущие в связи с этим изменения вынудят нас в итоге придти к новой версии общественного договора. В которой, возможно, будет место безусловному доходу —, а может, будут найдены иные формы и модели:
Мы слишком мало платим учителям, хотя это тяжёлый труд, в котором компьютер вряд ли будет адекватной заменой действительно хорошему учителю. Так что пересмотр расходов, которые мы готовы себе позволить на учителей, медсестёр, воспитателей, сидящих с детьми мам или пап, художников и других, кто занят важными для нас, но не слишком ценимыми вещами — вопрос, который надо начать обсуждать.
В этом с ним согласен и Джои Ито, демонстрируя традиционную для академических кругов левизну во взглядах:
Я думаю, общее представление в духе Уолл-Стрит: «если ты такой умный, то почему ты такой бедный» — является одной из проблем. А сейчас, работая в академии, я понял, что у множества умных людей нет денег.
Возвращаясь к теме глобального потепления, Обама расставляет приоритеты следующим образом: главное — не утонуть, а с остальным мы разберёмся:
если мы справимся с климатическими изменениями, нажмём на тормоза и убережёмся от подъёма уровня Мирового океана на 2 метра, остальное человечество решит само по себе.
И напоследок, дорогой гик, Обама тоже разделяет твоё нетерпение в ожидании космических прорывов:
И поскольку это проблемы первопроходцев, я хочу упомянуть напоследок, что остаюсь большим фанатом космоса и думаю о том, как перейти на новый этап космических странствий — на что мы явно тратим недостаточно. Больших успехов достиг частный сектор, потому что вкладывался в разные «Какого чёрта, почему бы и нет?» разные рискованные и безумные предприятия, где не ступала нога государства. И мы до сих пор, говоря о космических путешествиях, рассуждаем категориями тех же химических реакций, запустивших в полёт первые «Аполлоны». Полвека спустя уже кажется — уж не знаю, как там обстоят дела с варп-двигателями — что должны уже случиться какие-то прорывы.
Конечно, разговор с аудиторией уже гиковского издания — это ещё не прорыв в сознании массового слушателя, но всё же душу греет то, что к будущему готовятся не только гики, фантасты, учёные и алармисты, но и мировые политики тоже. А как иначе, если даже в XXI веке люди продолжают бояться прививок и ГМО, предпочитая старые добрые младенческие смерти и потравленные пестицидами овощи. Достижения науки мало делать — их надо объяснять:
Приняв правильные решения сейчас, мы подготовимся к тому моменту, когда ИИ станет полноценной частью нашей экономики, чтобы люди приветствовали это, а не противостояли ему.
В общем, конец президентского срока — явно не конец света, и после этой статьи действительно интересно, чем займётся Обама дальше. Такой сильный союзник на стороне сил прогресса точно нам не помешает. И что бы нас в будущем не ждало — «Скайнет» теперь вряд ли подкрадётся незаметно.
