Живём ли мы внутри компьютерной модели?
В уже далёком 2003 году философ, профессор Оксфорда, Ник Бостром опубликовал пространную статью, в которой рассмотрел предположение, что все мы, на самом деле, живём внутри компьютерной модели. И с тех пор эта работа не даёт покоя многим учёным, которые периодически публикуют статьи в поддержку или в опровержение работы Бострома.
В его статье утверждается, что как минимум одно из утверждений верно:
1) Человеческая раса, скорее всего, исчезнет до того, как достигнет постчеловеческого уровня развития.2) Крайне маловероятно, что любая постчеловеческая цивилизация создаст значимое количество моделей истории её эволюции (или возможных вариантов).3) Мы почти наверняка живём внутри компьютерной модели.
Из этого следует, что вера в то, что наша цивилизация может достичь постчеловеческого уровня и создать прочие модели, является заблуждением.
Нам показались интересными идеи, предположения и доказательства, представленные учёным, и мы решили поделиться с вами его умозаключениями (с сокращениями).
ВведениеФантастика и многие научные работы серьёзных учёных и футурологов предсказывают, что в будущем нам станут доступны невероятные компьютерные вычислительные мощности. Предположим, что это так. Благодаря этим суперкомпьютерам будущие поколения смогут запустить множество моделей жизни своих предшественников. Вероятно, эти смоделированные «люди» будут обладать сознанием, если виртуальный мир будет достаточно тонко проработан. Тогда есть вероятность, что подавляющее большинство разумов, вроде наших, будут являться продуктами модели. В этом случае можно предположить, это уже свершившийся факт, и мы, на самом деле, живём не в реальном мире, а в виртуальном. И если мы не считаем, что это так, то мы не в праве верить в то, что наши потомки овладеют подобными технологиями. Такова основная идея.Предположение о субстрат-независимости
В философии понятие «субстрат-независимости» означает, что разум может существовать в материи, состоящей из любых веществ. На логическом уровне наше сознание можно свести к системе, состоящей из различных вычислительных структур и процессов. И это не присуще исключительно биологическим нейросетям, содержащимся в нашем черепе. Кремниевые процессоры, в теории, также способны на это. Не будем углубляться в споры по этому поводу, просто примем тезис о «субстрат-независимости» как он есть. То есть не утверждается, что это именно так, просто предположим, что гипотетический компьютер, на котором запущена некая программа, может обрести сознание.
Более того, нет нужды предполагать, что компьютерный разум должен вести себя в различных ситуациях так же, как повёл бы себя человек, включая прохождение теста Тьюринга. Достаточно предположения, что в будущем будут достаточно полно и детально смоделированы вычислительные процессы, происходящие в мозге человека. Вплоть до уровня отдельных синапсов.
Конечно, на наши функции обучения и когнитивные функции влияют и различные химические компоненты. Тезис субстрат-независимости не отвергает их роль, но устанавливает, что они влияют на субъективный опыт только через прямое или опосредованное воздействие на вычислительные действия мозга.
Технологические ограничения На текущий момент у нас нет достаточно быстрых компьютеров и программных средств для создания искусственного разума. Но если технологический прогресс будет развиваться неослабевающими темпами, то в конце концов необходимые технологии будут созданы. Вероятно, это случится лишь через несколько десятилетий, однако для предмета этой статьи фактор времени не имеет значения. Предположение о нашем существовании внутри модели будет «работать» даже если верить, что понадобятся сотни тысяч лет для достижения «постчеловеческой» стадии развития цивилизации, когда мы достигнем технологических возможностей, при которых нас будут ограничивать лишь фундаментальные физические законы и недостаток сырья и энергии.На таком уровне развития станет возможным преобразовывать небесные тела вплоть до целых планет в невероятно мощные компьютеры. Сейчас нам даже трудно предположить, какие вычислительные мощности могут быть доступны постчеловеческой цивилизации. Поскольку мы ещё не разработали «теорию всего», то не можем исключить возможность открытия в будущем физических явлений и феноменов, которые позволят выйти за рамки представляемых нами сегодня ограничений в обработке информации. С гораздо большей уверенностью мы можем задать нижние границы постчеловеческой вычислительной мощи, беря в расчёт только известные нам сегодня механизмы. Например, в 1992 году Эрик Дрекслер (Eric Drexler) в книге Nanosystems: Molecular Machinery, Manufacturing, and Computation описал компьютер величиной с кубик сахара (без питания и охлаждения), который был бы способен выполнять 1021 операций в секунду. Роберт Брэдберри (Robert Bradbury) предполагает, что компьютер размером с планету достигнет производительности в 1042 операций в секунду. Сэт Ллойд (Seth Lloyd) считает что создав квантовые или плазменные компьютеры, мы сможем ещё больше приблизиться к теоретическим пределам вычислительной мощности. Для компьютера массой в 1 кг Ллойд вычислил верхний предел в 5×1050 операций в секунду при оперировании примерно 1031 бит.
Также весьма непросто предположить, какой вычислительной мощности будет достаточно для эмуляции человеческого разума. В 1989 году в книге Mind Children Ханс Моравек (Hans Moravec) вывел, что для полного эмулирования мозга необходима производительность около 1014 операций в секунду. На основе количества синапсов в мозгу и частоты их срабатываний сам Ник Бостром вычислил необходимую производительность на уровне 1016—1017 операций в секунду. Скорее всего, для моделирования внутренней работы синапсов и дендритных структур понадобится ещё больше вычислительной мощности. Однако наша центральная нервная система на микроуровне, видимо, имеет высокую степень избыточности для компенсации ненадёжности и высокой «зашумлённости» нейронных компонентов.
Для модели окружающей среды также потребуются вычислительные мощности, в зависимости от масштабности и детализации. Моделировать всю вселенную вплоть до квантового уровня невозможно, если только не будут открыты новые физические явления. Но для реалистичного моделирования среды нашего обитания нужно гораздо меньше мощности. Главное, чтобы искусственный разум, взаимодействующий с виртуальной средой так же, как это делал бы живой человек в реальном мире, не заметил каких-либо отклонений. Так что внутренности нашей планеты на микроскопическом уровне можно не моделировать.
Далёкие астрономические объекты также не требуют больших усилий, достаточно «поставлять» информацию, которую можно получить при наблюдениях с планеты или космических кораблей.
Поверхность планеты на макроскопическом уровне нужно будет моделировать в полной мере, а на микроскопическом — по ситуации. Главное, чтобы картинка в окуляре микроскопа выглядела достоверно. Сложнее становится, когда мы используем системы и машины, взаимодействующие на микроуровне, чтобы получить ожидаемые нами результаты. Кроме этого, потребуются мощности для подробного отслеживания веры всех смоделированных разумов. Так, чтобы сразу заполнить все необходимые детали, когда «компьютерный человек» посмотрит в микроскоп.
Если кто-то из нас вдруг заметит какое-то несоответствие в этом мире, то легко можно «исправить», скорректировать разум этого человека. Либо вернуться назад на несколько секунд и исправить ошибки, чтобы избежать обнаружения.
Поскольку нельзя точно рассчитать требуемые вычислительные мощности для моделирования человеческой истории, то можно грубо оценить их на уровне 1033—1036 операций в секунду (100 млрд человек х 50 лет на человека х 30 млн сек/год х 1014…1017 операций/сек на каждый мозг). Но даже если мы ошиблись на несколько порядков, это не слишком важно для рассматриваемой нами гипотезы о всеобщей модели.
Как выше упоминалось, компьютер планетарного масштаба может иметь производительность 1042 операций/сек. Подобное «устройство» способно смоделировать всю ментальную историю человечества, задействовав лишь 0,0001% своей мощности. А постчеловеческая цивилизация могла бы построить колоссальное количество таких компьютеров, создав соответствующее количество полномасштабных моделей. Такой вывод можно сделать даже с учётом больших погрешностях во всех наших предположениях.
Суть предположения о существовании внутри модели Итак, если есть заметный шанс, что наша цивилизация когда-либо достигнет постчеловеческого уровня развития и создаст полные модели человечества, то почему бы нам уже не жить в такой моделей? Представим математическое доказательство этого предположения.
Условные обозначения:
FP — доля всех технологических цивилизаций, которые достигли постчеловеческой стадии.N — среднее количество моделей, запущенных постчеловеческой цивилизацией.H — среднее количество людей, существовавших до того, как цивилизация превратилась в постчеловеческую.
Тогда количество моделируемых человеческих разумов равно:
Fsim = FpNH / (FpNH+H)
Пусть:
F1 — доля постчеловеческих цивилизаций, заинтересованных в создании моделей человечества (или в которых есть отдельные представители, заинтересованные в этом и обладающие необходимыми ресурсами).N1 — среднее количество моделей, запущенных такими цивилизациями.
Тогда:
N = F1N1
Следовательно:
Fsim =FpF1N1 / (FpF1N1+1)
Из этого уравнения следует, что как минимум одно из трёх предположений должно быть верным:
(1) Fp ≈ 0(2) F1 ≈ 0(3) Fsim ≈ 1
Принцип вежливого безразличия (A bland indifference principle) Итак, примем верным предположение (3). Пусть х — доля всех наблюдателей, живущих внутри модели. Если у нас нет подтверждения того, что наше сознание, по сравнению со всеми остальными, скорее создано компьютером, а не принадлежит живому человеку, то вероятность (Cr) того, что все мы живём внутри модели, должна быть равна: Cr (SIM | Fsim = x) = x
Это утверждение следует из принципа вежливого безразличия. Рассмотрим два случая. Первый, самый простой, когда все разумы внутри модели полностью идентичны: у них одни и те же знания, воспоминания и опыт. Второй случай, когда все разумы похожи, но при этом качественно отличаются друг от друга по своему опыту. И предположение о всеобщей модели работает в обоих случаях, поскольку у нас нет точной информации о том, какие из разумов людей, населяющих наш мир, являются виртуальными, а какие принадлежат живым людям.(Глубокий разбор этой позиции можно найти в книге Бострома «Anthropic Bias: Observation Selection Effects in Science and Philosophy»)
Для лучшего понимания можно привести следующую аналогию. Допустим, у некой доли человеческой популяции есть некая последовательность генов S, которую обычно обозначают как «мусорная ДНК». Предположим, эта последовательность не выявляется при анализе генома и нет никаких явных внешних проявлений её наличия у человека. Тогда логично будет поверить, что вы можете быть носителем последовательности S. И это никак не зависит от того факта, что разумы людей с S отличаются от разумов людей без S. Просто потому, что каждый человек имеет свой уникальный жизненный опыт, безо всякого отношения к наличию или отсутствию S в их генах.
То же самое верно и в том случае, если наличие S обусловлено не биологией, а пребыванием в компьютерной модели, учитывая, что у нас нет возможности отличить живых людей от «компьютерных».
Интерпретации Если предположение (1) Fp ≈ 0 верно, то человечество почти наверняка не достигнет постчеловеческой стадии. В этом случае можно говорить о высокой вероятности DOOM, то есть гипотезы о вымирании человечества: Cr (DOOM | Fp ≈ 1) ≈ 1
Вполне можно представить себе гипотетическую ситуацию, при которой значение Fp было бы ещё больше. Например, падение гигантского метеорита. В таких случаях значение вероятности DOOM было бы куда выше, чем доля цивилизаций, которые не достигли постчеловеческой стадии.
Само по себе предположение (1) не означает, что мы скоро вымрем. Эта вероятность зависит от нашего текущего уровня технологического развития задолго до того, как мы начнём вымирать. Другой сценарий, при котором предположение (1) является истинным, это коллапс именно технологической цивилизации. Примитивные человеческие сообщества будут существовать на Земле ещё неопределённое время.
Для нас существует много способов не достичь постчеловеческой стадии. Одним из наиболее естественных вариантов является развитие какой-либо мощной, но опасной технологии. Сегодня одним из кандидатов на эту роль являются молекулярные нанотехнологии, которые в будущем позволят создавать самовоспроизводящихся наноботов, способных получать ресурсы из почвы и органики — механических бактерий. Такие наноботы, созданные со злым умыслом, способны уничтожить вообще всё живое на планете.
Если принять верным предположение (2) F1 ≈ 0, то это означает, что доля постчеловеческих цивилизаций, заинтересованных в моделировании человечества, ничтожно мала. Должно произойти сильное сближение путей развития цивилизаций. Если число запущенных моделей чрезвычайно велико, то заинтересованные в этом цивилизации должны быть в той же степени малочисленны. То есть почти все они решили не тратить на это ресурсы или почти ни в одной нет представителей, заинтересованных в этом и имеющих необходимые возможности. Или в этих цивилизациях существует прямой запрет на создание таких моделей.Что может заставить цивилизации развиваться по очень похожим сценариям. Кто-то скажет, что все продвинутые цивилизации приходят к этическому запрету моделирования, чтобы не доставлять страданий моделируемым разумам. Однако с сегодняшней точки зрения создание «электронной» цивилизации не считается аморальным. Да и одного лишь этического объяснения явно недостаточно, необходимо достижение высокой степени схожести социальных структур разных цивилизаций.
Ещё одной возможно точкой совпадения путей развития является предположение, что почти все обитатели практически каждой постчеловеческой цивилизации достигнут уровня развития, при котором просто потеряют желание создавать всеобщие модели человечества. Это потребует очень серьёзных перемен в мотивации наших потомков. Кто знает, возможно, в будущем это будет считаться просто глупой затеей. Возможно, по причине ничтожности научной пользы, что не выглядит слишком невероятным, учитывая предполагаемое неизмеримое интеллектуальное превосходство будущих цивилизаций. А может быть, будущие «постчеловеки» сочтут все эти модели слишком неэффективным способом получения удовольствия. Ведь куда проще стимулировать нужные области мозга, чем строить колоссальные «игровые серверы». Таким образом, в случае верности предположения (2) следует, что постчеловеческие общества будут очень сильно отличаться от человеческих.
Наиболее интригующие сценарии открываются в случае верности предположения (3) Fsim ≈ 1. Если мы с вами сейчас живём внутри компьютерной модели, тогда космос, который мы способны наблюдать, является лишь малой частью физической вселенной. При это физические законы в мире, где существует суперкомпьютер, в котором создан наш с вами виртуальный мир, могут и не совпадать с «нашими» физическими законами.
Также есть возможность, что смоделированная цивилизация также достигнет постчеловеческой стадии внутри модели. И тогда она запустит свои собственные суперкомпьютеры для создания моделей. Такие суперкомпьютеры можно сравнить с сегодняшними «виртуальными машинами». Ведь они тоже могут быть вложенными: можно создать виртуальную машину, которая эмулирует другую виртуальную машину, которая эмулирует третью, и так далее. Поэтому, если мы сами соберёмся создать модель, то это само по себе станет серьёзным доказательством против предположений (1) и (2), и тогда мы будем вынуждены заключить, что и сами существуем внутри модели. Более того, нам придётся предположить, что и та постчеловеческая цивилизация, которая создала наш мир, сама является компьютерной моделью. И их создатели, в свою очередь, тоже.
Иными словами, реальность может состоять из многих уровней. Причём можно предположить, что с течением времени их количество растёт. Хотя против этой гипотезы есть аргумент, согласно которому количество необходимых ресурсов, потребляемых для моделирования на самом верхнем, «реальном» уровне, становится слишком большим. Возможно, даже моделирование единственной постчеловеческой цивилизации может быть невероятно затратным. В этом случае можно предположить, что наша модель будет просто выключена по достижении постчеловеческой стадии. Аминь.
В какой-то мере, постлюдей, запустивших модель, можно сравнить с богами по отношению к нам, «проживающим» внутри компьютера. Ведь они создали мир, который мы знаем, их интеллект не поддаётся осознанию, они всесильны внутри нашего мира и знают всё, что происходит с каждым из нас. Дальнейшая логическая цепочка может привести нас обоснованию целесообразности «хорошего поведения», чтобы заслужить благосклонность демиургов.
В дополнение к теории всеобщей модели, можно рассмотреть идею возможности селективного моделирования небольшой группы людей или даже одного-единственного человека. В этих случаях всё остальное человечество является «людьми-тенями», смоделированными на достаточном уровне. Трудно сказать, насколько меньше требуется ресурсов для моделирования людей-теней по сравнению с «полноценными» людьми. Неясно даже, смогут ли они вести себя неотличимо от «настоящих», но при этом не обладая полноценным сознанием.
Ещё можно предположить, что для экономии вычислительных ресурсов создатели подменяют «жизненный опыт» смоделированных людей фальшивыми воспоминаниями. Тогда напрашивается вывод, что в мире нет боли и страдания, и все наши плохие воспоминания — это иллюзия. Конечно, подобные рассуждения имеют смысл только в том случае, если вы в данный момент ни от чего не страдаете.
Заключение Хорошо, допустим, мы живём внутри компьютерной модели, что делать дальше? Собственно, ничего особенного, жить, как и прежде. Строить планы и фантазировать о будущем. Самый печальный для нас вариант, когда верно предположение (1). По сравнению с этим предпочтительнее, чтобы мы всё же жили в компьютерной модели. Хотя пределы вычислительных мощностей наших «создателей» могут привести к «выключению» нашего мира по достижении постчеловеческой стадии. А в этом случае, самым выгодным для нас вариантом является истинность предположения (2).
