[Перевод] Что, если пришельцы окажутся машинами с искусственным интеллектом?

Сотни лет разыскивая внеземную жизнь, мы можем обнаружить, что наш первый контакт произойдёт вовсе не с органическими существами


6ceelb7gatnugunahz61bodc0ta.jpeg
Галактика «маленькое сомбреро», или NGC 7814

У нас есть проблема. В галактике возрастом 10 млрд лет должно быть полно возможностей для того, чтобы хотя бы один вид вырвался из своей помойки и расселился по звёздам, заполнив все ниши. То, что эти существа не пришли к нам, приводит нас к парадоксу Ферми — если жизнь не является невероятно редким явлением, то где все? Попытки сканировать небеса в поисках признаков разумной жизни ничем не увенчались, что только усиливает парадокс. Возможно, виноваты бескрайние бездны межзвёздного пространства и узкие временные рамки, в которых существуют способные общаться существа, находящиеся на достаточно небольшом расстоянии друг от друга, чтобы быть услышанными. Разум может быть похожим на мелкие судёнышки, проходящие в ночи в огромном океане. Встречи лицом к лицу могут оказаться чрезвычайно необычным явлением.
Ещё одно объяснение великого молчания Галактики может состоять в том, что любой выживший интеллект может так отличаться от нас, развиться так сильно, что мы не сможем даже вообразить себе его формы или поведение. В результате обнаружить и опознать его будет практически невозможно. Довольно угнетающе.

Но ещё есть возможность, находящаяся между этими крайностями, и имеющая наибольшую вероятность. Когда, наконец, случится наша первая встреча или обнаружение деятельности, нашему взору может предстать машинный интеллект.

Эта идея вовсе не нова. В 1940-х математик Джон фон Нейман изучал возможности существования небиологических самовоспроизводящихся систем, прекрасно считающих и не требующих управляющего ими разума. Позже в 1980-х другие расширили эту концепцию, рассматривая реальные инженерные технологии, необходимые для автономных, самовоспроизводящихся устройств, способных перемещаться в космосе; эти машины смогли бы путешествовать по Вселенной и находить необработанные материалы для постройки всё большего и большего их количества, создавая инфраструктуру для получения энергии из космоса или для людских поселений среди звёзд [такую идею высказали авторы сериала Stargate / прим. перев.].

Но если бы у таких устройств был настоящий искусственный интеллект, у них явно была бы более сложная миссия. Какой была бы её цель, и какой ИИ был бы у таких машин? Встреча с инопланетной машиной могла бы помочь нам разгадать эту загадку.

Одна из возможностей состоит в том, что эта машина окажется превосходящей человека по когнитивным или аналитическим возможностям. Такой ИИ было бы чрезвычайно трудно понять, либо из-за сложной мотивации, либо из-за практических барьеров, связанных с полосой пропускания коммуникаций. Для такого устройства разговор с нами напоминал бы разговор с младенцем, или попытку обсудить собрание сочинений Шекспира при помощи пиктограмм. Инопланетная система, оптимизированная под обработку большого потока данных, возможно, даже не сможет достаточно сильно сбавить обороты, чтобы заметить, что мы пытаемся общаться с ней, будем мы использовать для этого технологии, или нет.

Инопланетный ИИ также может оказаться очень страшным просто из-за своей машинной природы: некая ожившая вещь, состоящая из неживых частей, очень напоминающая классическую историю голема, созданного из глины или грязи. Если даже биологический пришелец окажется шокирующим на вид, у него наверняка будут какие-то сходные с нами черты. Мы можем убедить себя, что эволюция приводит к появлению узнаваемого поведения и намерений, которым мы даже можем симпатизировать. Искусственному существу не будет необходимости следовать всем этим правилам эволюции, что выведет чуждость пришельцев на новый уровень.

Встреча с чужим ИИ не только укажет нам на наше возможное будущее, но и, вероятно, послужит забавному изменению нашего мировоззрения. Когда Николай Коперник в XVI веке предположил, что Земля не является центром Вселенной [первую из известных гелиоцентрических теорий предложил ещё Аристарх Самосский в III веке до н.э., правда, тогда она не произвела такого эффекта / прим. перев.], он запустил развитие критически важной научной идеи: что в космических масштабах мы не представляем собой ничего особенного или важного. Но встреча с инопланетным ИИ может перевернуть это понимание с ног на голову: если единственный интеллект, который мы встретим, будет искусственным, то окажется, что мы всё же в чём-то особенные.

Если мы всё же встретим ИИ на наших космологических экскурсиях, он, вероятно, не будет разумным в полном смысле этого слова. Я думаю, что мы встретимся с каким-нибудь специализированным интеллектом — крайне способным на научные задачи, но в остальном чрезвычайно ограниченным.

Недавним примером здесь, на Земле, может быть AlphaGo Master, система, играющая в настольную игру го, обучающаяся на основе большого каталога игр, сыгранных людьми. Через год после написания она начала обыгрывать лучших игроков-людей. Затем появилась следующая версия системы под названием AlphaGo Zero. За 40 дней тренировок, не обращаясь к историческим данным по играм, этот новый ИИ стал играть лучше своего кремниевого предка и любого живого человека. Ещё одному варианту, AlphaZero, потребовалось всего 24 часа, чтобы натренироваться и обыграть неплохо натренированную версию AlphaGo Zero –, а также и другие программы, играющие как в шахматы, так и в сёги, иногда называемые японскими шахматами. Почитайте интервью с игроками-экспертами, и вы увидите, что эти машины даже не играют, как люди — их стратегии чужие и кажутся непознаваемыми.

Все эти альфы — пример специализированной машины. Такие ИИ помогут нам ответить на целую гору научных вопросов, находящихся на самом краю доступности. Исследователи, стоящие за созданием систем Alpha, уже рассуждают на тему загадки о свёртывании белков — как цепочки аминокислот перекручиваются, свёртываются и складываются в структуры с важными биологическими свойствами. Работающие при этом молекулярные законы понятны, но предсказать, во что именно превратиться определённая конфигурация, сказать чрезвычайно трудно. Это и правда кажется задачей для какой-нибудь будущей AlphaFold Zero.

Или взять другие задачи современной науки. Космологические симуляции, предсказания климата и погоды, зависят от физических явлений, таких, как гравитация, динамика жидкостей и термодинамика. Компьютерные программы оцифровывают эти явления, подсчитывая миллиардами итераций взаимодействия и движения. Но эти вычисления всё ещё ограничены скоростью и точностью процессоров. ИИ с глубинным и самостоятельным обучением может оказаться лучшим предсказателем, чем эти интенсивные числовые симуляции, ограниченные монотонным, систематическим подходом. Интуиция специализированной машины, возможно, сумеет перескочить через все эти циклы, и «увидеть» вероятностный ответ, вместо того, чтобы с трудом воспроизводить его пикселизированную версию. Точно так же интуиция специализированной машины может быть применимой к корневому процессу научной дедукции и открытий. Все возможности ещё предстоит изучить, но они могут оказаться экстраординарными. Специализированные машины могут оказаться настолько полезными и революционными в деле расширения возможностей совершения открытий и исследований, что не появится мотивации искать чего-то более интересного.

Если у нас развёртывается эта схема развития машин, она может демонстрировать закономерность, происходящую во всём мироздании, и влияющую на саму природу исследования космоса. Специализированные ИИ смогут стать идеальными инструментами, позволяющими биологической жизни дотянуться через межзвёздные расстояния: более надёжная, чем биология, и недостаточно умная, чтобы поднимать этические вопросы по поводу отправки в космос по первому капризу учёных. Запуск миллионов таких исследователей в космос кажется неминуемым шагом [именно такую инициативу спонсирует Юрий Мильнер — Breakthrough Initiative]. Их можно отправить к другим звёздам и планетным системам, и настроить на распознавание самых интересных характеристик тех мест, от астрофизики до присутствия жизни. Эти машины отражали бы мотивацию их биологических создателей: возможно, немного любопытства, возможно, что-то ещё.

Ещё одна прекрасная причина для того, чтобы специализированные машины исследовали космос, возникает при размышлении о создании более мощного ИИ общего назначения. Возможно, что ИИОН можно построить из множества более мелких специализированных ИИ, каждый из которых разнимается определённой, сложной когнитивной задачей, собранных вместе. Эти связи могут быть локализованными или разбросанными, напоминая архитектуру биологических нервных контуров. Там может быть специалист по распознаванию лиц, по естественному языку, по расчётам, по налоговой оптимизации. Можно представить ИИ, задача которого будет заключаться в том, чтобы научиться комбинировать специализированные ИИ в нечто вроде ИИОН — нечто вроде ясель для развивающегося машинного интеллекта.

Самой сложной задачей в яслях для ИИ будет знакомство коллектива специалистов со сложностью реального мира. Природа не состоит в достижении фиксированных целей; она полна шума, случайностей и триллионов взаимодействующих частей. К примеру, с самого момента формирования эмбриона он подвергается постоянному изменению. Сначала это всего лишь несколько клеток, которые общаются с миром на молекулярном уровне. С развитием эмбриона расширяется сложность органов для регистрации света, звука, осязания и запаха — порталов к получению опыта.

Короче говоря, лучшим способом для создающих ИИ существ улучшить его будет позволить ему и его компонентам изучать небрежную Вселенную. Единственная планета может быть сложной и богатой на информацию, но космос заполнен мирами, представляющими собой миллионы, миллиарды, триллионы естественных пробирок, у каждой из которых есть своя история о естественном отборе и шансах. Распространение специализированных ИИ среди звёзд даёт нам способ воспользоваться этими бесконечными естественными экспериментами и входными данными.

Путь к созданию лучшего ИИ может быть параллельным биологической эволюции только какими-то искусственными способами. Подумайте о развитии человеческого мозга. Основной процесс не допускает повторных попыток. Он начинается с того, что стволовые клетки быстро порождают изначальную структуру, нервную трубку, размножаясь со скоростью в 15 миллионов делений каждый час, и подсоединяются к развивающемуся эмбриону. За этой удивительной сборкой мозга следует обучение — мозг выстраивает контуры и урезает их по мере того, как опыт создаёт свой уникальный жизненный путь. И хотя мы невероятно гибкие и способны воспринимать и обучаться всяческим навыкам и знаниям, как личности мы также, к сожалению, ограничены генетическим раскладом, который нам выпал. И, честно говоря, хотя мы можем постоянно обучаться и изменяться, мы редко вырабатываем новые чудесные таланты в течение нашей жизни.

Машина может быть не такой ограниченной, особенно если критические её части занимаются изучением космоса, будучи разработаны способными меняться и превращаться во что-то новое. Специализированные компоненты более крупного интеллекта могут появляться и исчезать в постоянно меняющейся схеме. Некоторые когнитивные навыки могут пригодиться в определённых контекстах, но могут просто помешать в других ситуациях. Иначе говоря, машинный интеллект может быть чрезвычайно гибким, изменяемым, и быстро развивающимся. В результате, в космосе может таится огромный разнообразный зоопарк ИИ.

В каком-то смысле такие ИИ напоминают микробные машины, стоящие у истоков жизни на Земле — формируя мельчайшие единицы интеллекта, пересекающие Вселенную, и комбинируясь вместе, как предположила биолог Линн Маргулис, для создания многоклеточных существ, более крупных организмов и самого разума. Более того, когда биологические виды давно уже вымрут в неустанном потоке естественного отбора или самоуничтожения, такие машины могут остаться.

ИИ за пределами Земли может оказаться сложно распознать. Точно так же, как какой-нибудь житель монгольской степи XII века посчитал бы робомобиль как волшебным, так и бессмысленным, мы, возможно, окажемся не в состоянии распознать или интерпретировать наличие специализированных машин возрастом в миллиард лет. И наоборот, эти машины, возможно, не будут искать разговоров с нами, или вообще, любым другим интеллектом.

Но распознанная встреча даже с одной специализированной машиной изменит всё. Она сообщит нам, что галактика полна интеллектом, и сможет вызвать предположение о том, что наше будущее может содержать в себе исчезновение биологического присутствия. А главное, это открытие может рассказать нам о том, что мы в настоящий момент можем быть единственным естественным разумом, осознающим все эти факты. Это потому, что биология, способная произвести ИИ-исследователей, скорее всего эволюционирует или вымрет на куда как более мелких масштабах времени, чем время жизни этих межзвёздных машин, а мы и так уже живём в галактике возрастом 10 млрд лет [очень похожую идею высказали авторы сериала Stargate Universe / прим. перев.].

Обнаружение инопланетного ИИ может открыть нам путь к изучению космоса, подсветив его. Также оно, возможно, даст нам идеи о природе его создателей, этих интеллектуальных предков, которые, возможно, имели биологическую форму. Как именно будет выглядеть этот исследовательский процесс, представить чрезвычайно сложно. Даже единственный специализированный ИИ может оказаться не единым устройством, а роем более мелких компонентов, которые будет очень сложно классифицировать. Однако, представим, что путём опроса или разборки мы в итоге сможем решить загадку происхождения чужого ИИ. Мы можем найти свидетельство существования другого органического вида, или же открыть, что во всей цепочке развития есть лишь машины.

Калеб Щарф — директор астробиологии в Колумбийском университете Нью-Йорка. Автор книги «Внесолнечные планеты и астробиология» (Extrasolar Planets and Astrobiology, 2009).

© Habrahabr.ru