[Из песочницы] Питер Тиль о сильном ИИ и ближайшем будущем
Полезное в своей инфомативности, краткости и емкости интервью с создателем PayPal и известным инвестором Питером Тилем, на темы ближайшего будущего, в т.ч. сильного искусственного интеллекта.
Темы:
— когда же будет сильный ИИ?
— будущее не предопределено?
— СИИ в злых руках
— безработица от автоматизации, ИИ
— проблемы экономического роста
— перспективные секторы (для инвестирования) в ближайшем будущем
— несуществующие категории продуктов
Под катом полная транскрипция интервью. Только тем, кому лень смотреть видео (10 мин.).
Участники:
— Джейсон Калаканис [ДК] (предприниматель, инвестор, ведущий серии интернет передач «This Week In»
— Питер Тиль [ПТ] (предприниматель, инвестор, активист)
Перед интервью
ДК:
… и я буду один на один с Питером Тилем, одним из лучших инвесторов и мыслителей в технологиях и финансовом секторе.
Вам понравится, вынимайте ручки и тетради — куча информации для усвоения в этом эпизоде.
Интервью
ДК:
Насколько далеко, по вашей оценке как инсайдера, нам еще до «сильного искуственного интеллекта»? Увидим мы его в течение нашей жизни?..
Как, например, эти самоуправляемые авто, о которых всё говорится, что вот еще 2-3 года… на протяжении 2-3 лет… а выглядит еще на лет 10 ожиданий… Где мы, по-вашему, с ИИ, и даже касательно тех же авто?
ПТ:
Знаете, не соглашусь, пожалуй, с подоплекой данного вопроса. У этого вопроса заложено, будто где-то есть это будущее, события, которые произойдут в будущем, примерно как у Р. Курцвейла, «Сингулярность близко», экспонентная кривая, происходящая сама по себе, и все, что нам надо, это сидеть, есть попкорн и глядеть кино будущего.
И я думаю, что… сложно вообще сказать, что произойдет, но… это неверный вопрос, потому что будущее не задано. Что имеет значение, по-моему — это вопрос программы.
Поэтому, если мы решим заняться этим — думаю, мы можем его построить, если мы им не займемся, он никогда не будет построен.
ДК:
ИИ будет построен… будет построен! Неясно, сможем ли потом его выключить.
ПТ:
Если каждый будет думать, что он будет построен, никто не будет считать, что его надо строить, никто не будет его строить — и он не будет построен.
ДК:
Ок…
Чувство, будто играешь в шахматы с Каспаровым...
ПТ:
Нет, это всегда вопрос программы.
ДК:
Погодите...
ПТ:
Мы не должны думать о будущем, как о заданном. О чем надо спрашивать, особенно предпринимателям, начинающим — какое будущее я хочу построить? И это будущее надо стараться воплотить в жизнь.
ДК:
Что если у человека, который его построит, однако… будут несколько иные взгляды на гуманность или просто неопытность-незрелость… Что если людьми, решившими, «а сделаем-ка сильный ИИ», окажется группа пакистанских студентов, переметнувшихся на сторону ИГИЛ… Невероятно, знаю… как и 9/11.
Эта технология не зарезервирована лишь для выпускников Стэнфорда. Что если она примется, и появятся мысли: Кибертерроризм — шаг первый, а сильный ИИ, дабы встряхнуть миром — следующий?
ПТ:
Знаете, я не тех. утопист, не думаю, что технологии по умолчанию делают мир лучше. Было достаточно негативных историй, как минимум с Хиросимы '45, может еще раньше, но думаю… Одна из причин, по которым наша культура
настолько анти-технологична… что легко увидеть, глядя на науч.фант. фильмы. Которые о технологиях, убивающих людей, сточниках аварий, дистопий, а будущее — некое сочетание Матрицы, Терминатора, Аватара, Элизиума. Я смотрел «Гравитацию» год-два назад — больше не захочешь в открытый космос, лучше поближе на тропикальный остров.
Скажем так, мне не нравится этот пессимизм от технологий, но я дооцениваю причины, по которым люди его разделяют, и они растут корнями из ядерной эпохи. Так что 50 на 50.
Я надеюсь, что по-настоящему сумасшедшие люди слишком некомпетентны, чтобы что-то натворить… но это не на 100%.
ДК:
Да, у свихнувшихся есть свои моменты, но в целом вы правы, преступники ловятся, потому что они глупые.
ПТ:
Но это не на 100%.
ДК:
Но не на 100%. Не будем записывать это в обязательный список инвестора.
...Как насчет безработицы, эффективности автоматизации? Это также интересная тема. Работать меньше или работать, над чем хочешь, это же плюс? Поэтому сокращение мест работы и увеличение количества целей, немного в стиле Стар-Трека, более позитивно, менее дистопийно. Все там вроде были довольны, что надо меньше работать и больше заниматься хобби.
Мы в эту сторону движемся? Автоматизация довольно серьезна и происходит на глазах — меньше рабочих на фабриках Тесла, самоуправляемые авто и т.д… А у нас уже большая безработица во многих местах в мире. Мир все теснее, меньше рабочих мест, как будет выглядеть мир?
Что позитивного тут, какие позитивные решения вы тут видите?
ПТ:
Так, думаю, люди уже давно излишне беспокоятся, что технологии заменят работу. В 19 веке — люддиты, обеспокоенные, что никого не останется на текстильных фабриках, и пытались ломать машины. Оказалось, автоматизация производства освободила людей для более полезной работы.
Думаю, если бы у нас было большое увеличение эффективности производства, то и большое увеличение ВВП. Возможно, не идеально распределенного, но будь у нас рост ВВП на уровне 4% в год, всем от этого было бы лучше.
Реальная проблема, что в большинстве секторов у нас нет даже близко такого роста производства. Например, много автоматизации в промышленности, но надо учитывать, что это всё меньшая и меньшая часть экономики. То есть, даже улучшая производство так же, как и 100 лет назад, допустим, каждый год на 10%, это будет меньшая доля — от 15% ВВП, в сравнении со, скажем, 50% ВВП 100 лет назад.
А наша сегодняшняя экономика сдоминирована — сектором услуг, который не так уж изменился: Официанты, воспитатели, медсестры, медобслуга. И потому у нас меньше экономический рост, чем мы ожидаем, что мы не нашли способов увеличить производство в стольки секторах. В целом люди всегда клеймят технологии, развивающиеся слишком быстро, слишком бурно, слишком опасно, а что меня заботит, это наоборот спектр стагнации, слишком медленные изменения, недостаток роста. А когда мало роста, тогда появляются серьезные проблемы. В мире с недостатком роста всё становится игрой с нулевым выигрышем. Я выбъюсь вперед, только если ты отстанешь позади, и мир становится довольно неприятным.
ДК:
Глядя на разные секторы, у каких сейчас наибольший потенциал в ближайшие годы: биотех, роботы, ИИ?..
ПТ:
Знаете, я всегда скептичен насчет «секторов» или «трендов». Люди постоянно спрашивают, какие тренды я вижу в будущем — чего не люблю, я не пророк, не владею будущим.
Вместе с тем я считаю, что все тренды — переоценены. Так что… медицинское IT, софт для образования — несколько переоценены. SAS… довольно сильно переоценен. Если слышите слова «Big data», «облачные вычисления» — бегите как можно дальше. Не слушайте и бегите.
Причина, по которым надо быть осторожным с этими ключевыми словами… Допустим, я скажу: «Я делаю мобильную платформу на SAS, для big data в облаке». Такая цепочка из модных словечек.
ДК:
Представите меня той компании?
ПТ:
Знаю, заинвестируете без лишних вопросов.
ДК:
Если вы заивестируете, то да.
ПТ:
Позвоню им, чтоб забрали деньги.
Но… все эти словечки разоблачают, как в покере, что фирма блефует и не дифференцирована, мы уже слышали эти словечки, поэтому если вы N-я компания в устаканенной категории, это проблема. Нехорошо быть очередным инет магазином с собачьей едой. Или десятым поставщиком солнечных батарей или тысячным рестораном в Сан-Франциско.
ДК:
То есть, если сложнее описать, словечка нет — то это хорошо.
ПТ:
Да, думаю да. Вещи наоборот недооцененные — нет словечек, не подходят под существующие категории, к этим надо постоянно прислушиваться.
Проблема тут в том, что даже люди, ведущие эти фирмы, опишут вам их в существующих категориях, потому, что это намного проще.
Поэтому Гугл описали бы как «поисковик» в 98-м, люди спросили бы: «Зачем нам опять поисковик, их уже 20 в этой категории?» — но дело-то в машинной индексации, и алгоритм page-rank — главное отличие здесь. И назвать его просто «поисковиком» — потерять суть разницы. Как и назвать Facebook — «соцсетью», в 2004 или даже в 2015. Это неправильная категоризация — была куча соцсетей до Facebook. Мой друг, основавший LinkedIn, создал соцсеть «SocialNet» в 97-м, у него «социальная сеть» было даже в названии фирмы. Это были такие аватары в виртуале, вы — кот, я — собака, и мы бы там странно так общались по интернету.
ДК:
Совсем как на прошлой неделе?
ПТ:
Да, а людей не интересует абстрактное общение, а реальные личности, и это было той новизной, которую дал Facebook, впервые удалось передать реальную личность.
Поэтому, думаю, найти правильный способ увидеть вещи в категориях, для которых даже еще нет языка — это критично важно.
Отрывок из мартовского эпизода «This Week In Startups», выделен и переведен на русский язык с согласия авторов.
Полный эпизод (49 мин. — english only): www.youtube.com/watch?v=ryFB6mvy4uE
