Усиленный интеллект человека (УИ) vs ОИИ и ИСИ. Добегут все, кто раньше?
В свете последних тенденций, направленных на всестороннее развитие мощи ИИ, большинство последователей этого безусловно перспективного направления почему-то сознательно или нет, но вовсе не рассматривают в качестве альтернативы искусственно улучшенный человеческий интеллект (УИ). Вопрос, далеко не праздный и некоторые исследователи проблемы убеждены: технологически «улучшенный» человеческий мозг вполне сможет состязаться, а во многих случаях и превосходить по своим возможностям ИИ. Насколько это мнение далеко от истины и что это, собственно, такое: усиленный/улучшенный человеческий интеллект?
Продолжить дискуссию хотелось бы, опираясь на мнение исследователя проблемы, футуролога, популярного блогера и соучредителя форума Singularity Summit Михаила Анисимова, ответившего в этой связи на тематические вопросы корреспонденту интернет-портала Gizmodo.
Рассматриваемая дилемма выглядит примерно так: человек как вид развивал свой мозг и способность к мышлению на протяжении тысячелетий. И на этом тернистом пути в попытках преодолеть свои когнитивные ограничения люди использовали и продолжают использовать все возможные средства. Почему попытки разработать заново общий искусственный интеллект (ОИИ) или даже искусственный сверхинтеллект (ИСИ) оказываются приоритетнее попыток как можно полнее раскрыть уже имеющийся потенциал человеческого мозга? Ведь пока все попытки создания ИИ с искусственной нейросетью так или иначе сводятся к более-менее удачным попыткам повторить процессы, происходящие в нейросети человека. С другой стороны, не проще ли и быстрее достичь последней цели и наделить человека улучшенным/усиленным интеллектом (УИ), задействуя возможности современной генетики, кибернетики, внешних интерфейсов и прочих стимулирующих достижение результата факторов? Дальнейшая беседа в режиме вопрос-ответ пройдет именно в этом контексте.
В. Когда мы говорим об усилении (улучшении) интеллекта, что следует иметь ввиду на самом деле? Идет ли речь о создании новых Эйнштейнов? Или же вопрос, на самом деле, выглядит куда более масштабно?
О. Настоящая цель в развитии УИ — это скорее создание «супер-Эйнштейнов», людей на порядки и качественно умнее любого человека из когда-либо живших на Земле. А для осуществления этой цели нам придется сделать несколько ключевых шагов.
Шаг первый: создание прямой нейронной связи с информацией. Условно можно считать, что речь идет о некотором «телепатическом поисковике Google».
Шаг второй: разработка и совершенствование интерфейса мозг — компьютер, усиливающего работу отдела мозга, отвечающего за визуальное восприятие. Это позволит не только усилить наши возможности пространственной визуализации, и, как следствие, существенно повысить эффективность обработки информации. Попробуйте представить, что вы способны практически мгновенно и без ощутимого напряжения создавать в своем мозге какую-нибудь сложную детализированную схему объекта или запомнить раз увиденный четеж в мельчайших подробностях. Аналогичные аугментации должны потребуются и для других участков сенсорной зоны коры головного мозга, которые отвечают за осязание и слух.
Шаг третий: аугментация префронтальной коры головного мозга. Этот участок исследователи УИ часто сравнивают со Святым Граалем, поскольку именно здесь повышается эффективность восприятия, а сенсорная информация объединяется в понятия.
Конечным «продуктом» такой многоступенчатой трансформации станет человек, который окажется способен на многие невероятные с точки зрения обычного человека интеллектуальные подвиги. В их числе, например, окажется способность управления другими людьми силой разума, отчетливое понимание тенденций развития и точный прогноз результатов на финансовых рынках, продуцирование идей, которые, будучи реализованными на уровне технологий, окажутся способны изменить мир почти «в одночасье». Разумеется, сейчас все это балансирует на грани паранойи. Но разве не примерно те же ассоциации вызвали бы наши сегодняшние достижения у людей бронзового века? Но сегодня реализовать такую возможность действительно реально.
В. Какие перспективы имеет развитие ИИ, скажем, на ближайшие десятилетия? Вы действительно верите, что человеческий мозг сможет составить конкуренцию машине?
В действительности конкурентную альтернативу человеческому мозгу сегодня представить себе сложно. Мозг — «продукт эволюции»
возрастом в семь миллионов лет. В течение всего этого времени он был подвержен тонкой естественной настройке и оптимизации, которые, с учетом существующих ограничений, прошли очень удачно. Поэтому попытки интенсивного разгона способностей мозга, как правило, имеют следствием выход его механизмов из строя. Простейшее подтверждение этому — эффекты, развивающиеся при амфитаминовой наркомании.
Трейлер к фильму Limitless
Доступные химические вещества и их соединения сегодня не располагают возможностями трансформации способностей человека в направлении развития УИ. Выскажу мнение, что все аргументы в пользу эффективности существующих «ускорителей мозга», выглядят на самом деле более чем спорно и сомнительно. Достижение реальных прорывов потребует использование инвазивных технологий и введения мозговых имплантатов, физически взаимодействующих с миллионами нейронов. Такая необходимость, в свою очередь, потребует наличия миллионов микроскопических электродов и создания уникальной системы управления, позволяющей синхронизировать все отдельные элементы. При этом, самая передовая разработка интерфейса компьютер—мозг сможет похвастаться от силы 1000 с небольшим таких соединений. Это значит, что если идти по пути развития УИ, то масштаб современных разработок следует увеличить, по крайней мере в 1000 раз. Только в этом случае можно будет говорить о качественном фундаментальном сдвиге. Даже если предположить, что развитие технологий будет происходить по экспоненте, то для выхода на «рентабельные» результаты потребуется, как минимум, 15 — 20 лет.
Развитие УИ невозможно без развития нанопроизводства. И уже сегодня результаты работы ведущих специалистов, работающих над интерфейсами мозг — компьютер, в числе которых, к примеру, Эд Бойден из MIT, целиком и полностью зависят от прогресса, достигнутого в этом направлении. С учетом практического отсутствия производственных технологий реально работающих на уровне атомарной точности, наноуровневая самосборка становится наиболее вероятным путем развития интерфейсов мозг — компьютер с миллионами электродов.
В. Насколько в перспективе может быть велика вероятность развития побочных психологических эффектов у людей с существенно улучшенным интеллектом? И уместно ли в этом контексте вообще упоминать их, как людей?
Одним из самых вероятных побочных эффектов станет безумие. Человеческий мозг — беспрецедентно точно откалиброванная машина. И любое кардинальное изменение в режиме его работы неизбежно приведет к тому, что мы привыкли называть «сумасшествием». С другой стороны есть множество различных видов сумасшествия, значительно больше, чем поведенческих схем, ассоциирующихся в нашем понимании со здравым смыслом. То, что с точки зрения внешнего окружения общепризнано отклонением от нормы для обладателя такого отклонения вполне объяснимо с точки зрения его логики.
С другой стороны, даже при сохранении полной вменяемости могут иметь место различные побочные эффекты: судороги, состояние информационной перегрузки, чувство полного и глубокого отчуждения от социума. Люди с высоким IQ, как правило, ощущают некоторую отчужденность от мира, а если представить себе уровень возможностей человека с УИ, осознающего, что равных ему по уровню развития, возможно, на планете единицы, то уровень отчужденности повысится многократно.
Большинство очень умных людей не слишком стремятся к общению и веселью, как, скажем, американский ученый Ричард Фейнман. Как некогда признал Хемингуэй: «Интеллигентный человек вынужден иногда напиваться, чтобы вынести общение с дураками». А что же будет, когда алкоголь больше не будет способен поддержать дух товарищества и взаимную привязанность? Полное отсутствие альтернативы в возможности проявить чувство эмпатии может привести к утрате последнего, а в итоге — к отклонениям в психике.
В. Так что же появится раньше? Усиленный или искусственный интеллект?
О. Однозначно ответить на этот вопрос очень сложно. Есть большое искушение желать, чтобы усиленный интеллект появился все же раньше ИИ. Многое здесь объясняется художественными произведениями и играми, главным героем в которых становится обладатель УИ. Но одних пожеланий мало: несмотря на определенные ментальные приоритеты в развитии УИ, работа над воплощением идеи в жизнь технологически беспрецедентно сложна. Мое личное мнение: ИИ придет к нам раньше, поскольку его развитие дешевле и чище.
Оба исследуемых направления чрезвычайно сложны в реализации. Вероятнее всего, их приход в той ипостаси, в какой мы их себе представляем не состоится ранее 2060-х, 2070-х годов, а возможно это произойдет еще позже. Но, в конечном счете, оба направления развития достигнут своих целей.
В. В чем вы видите преимущества и недостатки этих двух подходов в развитии интеллекта?
О. Ключевое преимущество пути развития ИИ — несоизмеримо более дешевые и более доступные процессы разработки. На бумаге и в коде ИИ уже разработан. Осталось его только грамотно собрать. Наиболее же значимые исследования УИ, в свою очередь, сейчас пока запрещены на законодательном уровне. Это связано с тем, что серьезные исследования УИ потребуют использования сложнейших экспериментов по нейрохирургии с использованием мозговых имплантатов. Мозговые имплантаты, в свою очередь, могут выйти из строя, вызвать судороги, безумие и, в своем крайнем проявлении, даже смерть. Здесь исследователям следует отдавать отчет: качественное изменение способностей человеческого интеллекта — это уже не просто вопрос нескольких выпитых таблеток в надежде обрести на какое-то время парочку цветастых сверхспособностей, это вопрос, связанный с проникновением под черепную коробку…
Большинство исследований в этой области находятся под жестким контролем и съедают колоссальные средства. Все эксперименты с участием животных всегда были и остаются дорогими. Так, Теодор Бергер разрабатывал имплантат для гиппокампа для восстановления и улучшения работы памяти в течение долгих лет. В 2004 году прошли первые испытания с участием живой ткани, но с тех пор информация появляются крайне скупо и очень редко. Раз в несколько лет, конечно, в новостях появляются какие-то заметки, но конечный результат кажется так же далек от реализации, как и десятилетия назад. И здесь, в сравнении, уровень развития, которого мы сумели достичь на пути разработок искусственного интеллекта не может не впечатлять!
В. С точки зрения предсказуемости и контроля УИ выглядит безопаснее ИИ? Что важнее создать первым, УИ или сверхмощный ИИ?
Усиленный интеллект представляется более непредсказуемым и неконтролируемым в сравнении со сверхмощным ИИ. И в долгосрочной перспективе, с учетом фактора непредсказуемости, на самом деле выглядит даже более опасным. Недавно я написал статью, в которой ведется размышление на тему глобальной политической трансформации, триггером которой является безграничная власть, сконцентрированная в руках группки людей, наделенных УИ или имеющих эксклюзивный доступ к молекулярному производству. В ней я ввел термин «Максимилиан», означающий «лучший из лучших», чтобы описать очень влиятельного лидера, который сам использует технологию улучшенного интеллекта, чтобы возвысить себя над всеми остальными.
Когнитивно усовершенствованный Реджинальд Баркли из сериала «Star Trek: The Next Generation» в эпизоде «В энной степени»
Проблема в том, что в случае УИ выдающимися способностями наделяется человек, а человек, даже обладающий улучшенным интеллектом остается несовершенным. В этом контексте вполне возможно, что люди, отрицающие любые нравственные устои общества, получив УИ погрязнут в гедонизме или поставят перед собой другие, более конкретные и зловещие цели, такие как геноцид.
Искусственный сверхинтеллект, в свою очередь, возможно создать с нуля и просто вписать в него возможность следовать набору собственных мотиваций в пределах тех, которые будут в него заложены, с акцентом на доброе начало и стабильность, развиваемые за счет положительной обратной связи.
Исследователи дилеммы часто задаются вопросом: «а не отвергнет ли ИСИ эти мотивации?». Нет, не отвергнет, поскольку эти мотивации составят ядро его ценностей, если, конечно, будут корректно запрограммированы. Не будет никакого второго дна, «призрака в машине», стимулирующего ИИ игнорировать или отказываться от заранее запрограммированных мотивов.
В своей работе «Воля сверхинтеллекта» философ Ник Бостром проводит удивительный анализ. Вывод выглядит достаточно оптимистично: корыстные цели не могут появиться сами собой, если в базовой системе мотивации ИИ изначально и коренным образом заложен набор бескорыстных целей и если сама суть существования машины будет заключаться в служении этим целям. Эволюция наглядно продемонстрировала, что корыстные цели способны играть определяющую роль в выживании, особенно с учетом эволюционной конструктивной ограниченности живых организмов. Но это вовсе не ограничивает нашу возможность запрограммировать бескорыстных агентов с нуля.
В. Какие трудности (технологические, медицинские, или этические) предстоит преодолеть на пути развития?
О. Ключевая проблема — разработка эффективных технологий производства. Сейчас мы пока даже близко к этому не подошли. Еще один подводный камень — выяснение того, за что конкретно несет ответственность каждый отдельно взятый нейрон, и определению точного месторасположения этих нейронов в мозгу отдельно конкретного человека. И эта задача пока кажется бесконечно далекой от реализации.
Наконец, нам необходимо создать эффективный алгоритм, способный быстро оценивать перспективность многочисленных теорий о функционировании мозга. Эд Бойден определяет его как «высокопропускная скрининг-схема нейронных сетей». Идеальным вариантом стало бы создание своего рода экспериментального «прототипа» человеческого существа, не обладающего сознанием. Это позволило бы проводить эксперименты «в чистом виде» без оглядки на морально-этические аспекты. Но, как не парадоксально, я предвижу большие проблемы на пути реализации такой концепции со стороны большинства комитетов по этике.
Если же такая возможность реализована не будет, в качестве альтернативного варианта придется искать способ создания прецизионно точной модели человеческого мозга, которая по уровню реализации конечной цели, многократно превзойдет результаты, достигнутые в проектах «моделирования мозга» сегодняшнего дня. Оксфордский анализ выглядит не слишком оптимистично: приблизиться к намеченной цели нам удастся ближе к 2080-м.
На этом всё, с вами был простой сервис для выбора сложной техники Dronk.Ru. Не забывайте подписываться на наш блог, будет ещё много интересного…
