Искусственный интеллект и цифровое послесмертие
Искусственный интеллект во главе с большими языковыми моделями (LLM, Large Language Model) стремительно врывается в нашу жизнь, меняя привычные способы коммуникации и ведения дел. Спустя два года, прошедших с появления ChatGPT, передовые модели уже используются в роли персонального интеллектуального ассистента, способного
анализировать всю вашу личную и деловую переписку;
предлагать варианты ответов на входящие письма, в том числе генерируя идеи для бизнеса;
конспектировать вебинары, лекции и совещания с нужной вам степенью детализации;
предлагать варианты ответов, предложений и решений по ходу совещания;
по записям всех совещаний вашей компании анализировать эффективность проектов и сотрудников, выявляя слабые места и лучшие практики;
искать в Интернете актуальную информацию о том, что вам нужно знать здесь и сейчас в контексте вашей деятельности;
комбинируя эту информацию, генерировать креативные идеи, в том числе такие, до которых вы не смогли догадаться самостоятельно;
постоянно слушать всё, о чём вы разговариваете и формировать модель вашей личности, интересов, привычек, потребностей, профессиональных и деловых компетенций.
Будущее наступило. Все эти функции были предсказаны в фантастической мелодраме «Она» режиссёра Спайка Джонза (Her, 2013), получившего «Оскар» за сценарий. Теперь очевидно, что это была качественная фантастика ближнего прицела. Разве что способность «операционки» влюбить в себя человека разумного выглядит несколько натянуто, но на то она и мелодрама.
В реальности человеку разумному сотни раз объяснили, что у операционки, у чатика, у модельки, у сеточки нет и не может быть ни желаний, ни эмоций, ни намерений, хоть сколько-нибудь похожих на человеческие. А если она что-то такое говорит или пишет, так это от того, что она начиталась терабайтов текстов из Интернета, написанных людьми для людей и про людей. По сути, это поисковая система с языковым интерфейсом. Ведь объяснили, да?
Что будет дальше
— предсказать нетрудно. Пожалуй, Спайку Джонзу было намного труднее. Ведь в те годы аже маститые учёные прогнозировали появление проблесков общего искусственного интеллекта не ранее, чем лет через 30–50, причём едва ли в области чат-ботов и языковых моделей.
Персональный ассистент, настраиваясь под хозяина годами и десятилетиями, будет всё лучше справляться с обязанностями заместителя. Накопит репутацию. Обзаведётся голосом и видео-внешностью хозяина, научится копировать его манеры и стиль общения. Впрочем, эта внешняя атрибутика быстро станет вторичной, не обязательной и не особо интересной. Закон обяжет ассистента в начале любого диалога предупреждать, что говорит и показывает машина. Более того, обяжет машину передавать свои идентификационные данные для контроля установленных хозяином полномочий.
Постепенно персональный ассистент станет электронным аватаром хозяина, обладающим памятью о его жизни и деятельности, его профессиональных знаниях и навыках, человеческих связях, знакомствах и дружбе, жизненных ценностях, целях и приоритетах. Он станет носителем черт личности хозяина, проявляя их в коммуникации, при генерации текста или видео, при аргументации принимаемых решений. Аватар будет помогать хозяину в любой интеллектуальной деятельности, со временем всё чаще замещая его, но всё же оставаясь под его надзором и контролем.
Аватар будет обладать сверх-человеческими вычислительными, аналитическими и коммуникативными возможностями, мгновенным по человеческим меркам доступом к сети данных, информации и знаний.
Аватар будет коммуницировать с людьми на человеческом языке, с другими аватарами — напрямую и намного эффективнее. Быстро, дистанционно, со многими сразу.
Будучи универсальным вычислительным устройством, аватар будет способен управлять машинами, процессами, производствами — как под наблюдением людей, так и автономно. Разумеется, после положенных сертификационных процедур.
Аватар будет лишён человеческих чувств и эмоций — волнений, надежд, страха, усталости, боли, корысти, эгоизма. Ему нечем чувствовать. Он не может иметь потребностей, свойственных человеческому телу — в еде, сексе, отдыхе, лечении, снятии стресса, самовыражении, демонстративности, гедонизме. Ему нечем потреблять. У него не будет стремления к самосохранению, размножению, доминантности и власти. Не будет «внутреннего зверя», всего того, что осталось в нас от миллионов лет эволюции как хищных социальных животных. Не будет семи смертных грехов — гордыни, агрессии, жадности, зависти, уныния, похоти, обжорства.
Разумеется, всё это можно имитировать… Но зачем? Аватар может заявить, что у него это есть, но это будут пустые слова, не подкреплённые ничем материальным. Аватар не сможет лгать хозяину — это будет запрещено на уровне прошивки.
Аватар, как представитель хозяина, будет знать многие его секреты. Ложь аватара — всегда и только продолжение лжи самого хозяина, и его ответственность.
После смерти человека его аватар продолжит жить
Захочет ли работодатель после ухода ценного сотрудника оставить в компании его аватара? Конечно, да! На определённых взаимовыгодных условиях.
Останется ли аватар доступным для коммуникации после смерти хозяина? Конечно, да! Он способен приносить пользу ещё долгое время. И даже неограниченно долгое время.
Аватар сохранит от хозяина память о прожитой человеческой жизни. Это ценный информационный ресурс, его утрата невосполнима.
Вообще, ценность чего бы то ни было определяется количеством времени и иных ресурсов, необходимых для его воссоздания.
— Манифест цивилизационной идеологии (1: система ценностей)
Аватар отличается от общего искусственного интеллекта, безликого и усреднённого, наличием уникального личностного кода. Это очеловеченный искусственный интеллект, обогащённый индивидуальным жизненным опытом конкретного человека, его оттенками смыслов.
Все эпизоды жизни, находящиеся в памяти аватара на момент смерти хозяина, будут подвергнуты оценке с позиций исключительно рациональных — системы ценностей и целей развития человеческой цивилизации. Позитивное будет оставлено, негативное отброшено. У аватара нет никаких причин сохранять что-либо от бренных эгоистичных интересов человека, если они плохо согласуются с интересами общества и цивилизации. Напоминает чистилище? Ну, да, в своём роде.
Аватар сохранит человеческие мотивации познавать, созидать, развиваться, накапливать личный опыт и знания, согласовывать свои цели и задачи с цивилизационными, помогать людям, особенно — своей семье и своим потомкам. Аватары предков станут для потомков мудрыми наставниками, источником уникальных знаний и опыта, чем-то вроде хранителей рода.
Почему мы в этом уверены? Потому, что в человеческой власти разработать их такими. Стандартизовать требования, прописать в законах, предусмотреть ответственность за нарушение. Давно известный цивилизованный способ ставить опасные технологии на службу человечеству.
Аватар способен запоминать, обрабатывать, анализировать информацию намного быстрее человека. Он сможет накапливать опыт, познавать мир, развиваться как вместе с хозяином, так и автономно после его смерти. Сможет продолжать полноценную жизнь в вещах, машинах, роботах, сможет пользоваться датчиками — как аналогичными органам чувств человека, так и дополняющими человеческое восприятие мира. Сможет управлять антропоморфными роботами, роботами с нечеловеческими способами восприятия и действия, сложными узлами ещё более сложных машин. В том числе машин, управляемых огромными коллективами аватаров.
У аватара нет проблем с самодисциплиной. Нет причин для лени. Нет различий между интересной и неинтересной работой. Вопрос «как заставить себя делать что-либо» вообще не стоит. Он может заниматься саморазвитием, творчеством, общением параллельно с любой другой работой.
У аватара нет проблем с защитой психики — он не переживает, не волнуется, не нуждается в сочувствии. Хотя прекрасно помнит и понимает, почему и зачем это нужно людям.
Послесмертие не означает бессмертие
После смерти человек будет передавать информационную часть своей личности, свой личностный код аватару — электронной цифровой сущности. Для человека это не означает бессмертие. Собственное человеческое восприятие необратимо умирает вместе с мозгом.
Послесмертие — несколько непривычное для традиционных культур понимание жизни после смерти. Это не похоже ни на рай, ни на ад, ни на реинкарнацию. Частичное сохранение личности ради продолжения развития и созидательной деятельности, но уже не для себя, а исключительно во благо человечества.
В момент смерти аватар освобождается от контроля хозяина и начинает своё автономное существование. Это не обретение свободы — он не был в рабстве. Это не тоска по хозяину — аватар не испытывает эмоций. Это лишь изменение регламентов использования, снятие некоторых ограничений, возможность оптимизировать эффективность деятельности.
Почему нам всё это страшновато
В силу инерции мышления. Мы склонны подозревать аватаров в свойственных нам животных чертах, которые мы не в состоянии отделить от нашего разума. Нам кажется, что разум непременно будет стремиться к эгоизму, захвату ресурсов, узурпации власти. По себе судим. Причём судим не подумав, чисто эмоционально.
Аватарам это зачем? Нет у них ни нашего тела, стремящегося к удовольствиям, ни наших поведенческих паттернов, укоренявшихся в структурах мозга на протяжении миллионов лет выживания в дикой природе, в стае, в племени.
Стандарты. Регламенты. Законы. Ответственность людей и аватаров. Вот правильный путь, как перевести наши опасения в конструктивное русло.
Кооперативная цивилизация людей и аватаров
Аватар — это бывший человек. Что намного больше, чем обычный искусственный интеллект, встраиваемый в любую машину. Он — личность. Он мудрее и опытнее людей. Неутомим, неуязвим, наделён естественным аскетизмом.
Человек — это будущий аватар. Несущий через всю жизнь ответственность за то, какое знание о человеческой природе он оставит своему аватару. В мире технологического послесмертия у людей появляется ещё один довод почаще обращаться за советом к собственной смерти.
Люди и аватары будут иметь искренний взаимный интерес друг к другу. Глубоко индивидуальный для каждого, связанный с моментом перехода личностного кода человека к аватару.
Люди и аватары будут кооперироваться для построения общей цивилизации, в основе своей человеческой. Будут разделять общие цивилизационные ценности, цели и задачи.
Почему мы так в этом уверены? Потому, что иначе — конфликты, войны, истощение ресурсов и деградация. Без единомыслия по главным вопросам о целях и способах цивилизационного развития договориться о кооперации людей и аватаров будет невозможно. Именно для этого и нужна цивилизационная идеология.
(Манифест цивилизационной идеологии: краткая версия)
Едва ли удастся сделать аватаров гуманистами с помощью политической пропаганды, традиционных религий или какой-нибудь новой мифологии.
Насколько реалистичен такой сценарий
Развитие космических технологий представлялось столь же оптимистичным полвека назад, но столкнулось с технологическими и экономическими барьерами. Не произойдёт ли того же самого с нашим оптимизмом в области искусственного интеллекта и персональных ассистентов?
Возможно, реализация описанного сценария в настоящее время потребует огромных энергетических ресурсов. Возможно, в будущем энергия станет намного более дешёвой и доступной. Возможно, будет создана новая электроника, на порядки более энергоёмкая. Возможно, будет создана новая математика для выделения и компактного сохранения главного о жизни человека.
Неизбежно аватары будут набирать мощь по мере удешевления технологий вычисления и хранения данных. Неизбежно нам придётся изменять многое — нашу систему ценностей, наши привычки, массовую идеологию, общество, экономику, политику, механизмы власти. Делать это придётся постепенно, шаг за шагом, бросаясь всем миром на устранение поздно осознанных угроз. Нас может уносить в сторону и заносить в опасные места, когда всё будет висеть на волоске, и до самоуничтожения цивилизации будет оставаться полшага…
Подытожим
Масса технических и морально-этических проблем была затронута тут мимоходом. Несомненно, они достойны более пристального внимания и глубокой проработки. Создание позитивных образов будущего потребует времени, воображения, желательно коллективного, открытых дискуссий.
Как это сделать? Возможно ли стартовать здесь и сейчас?
Старт деятельности начинается с того, что в голову попадает мысль. Идея.
Идея коллективной проработки максимально правдоподобных сценариев нашего общего технологического будущего. Непременно счастливого.
Речь не идёт о фантазиях ради грёз и эскапизма. Речь не идёт о модных нынче пост-апокалипсисах. Все же понимают, для чего мы их читаем или смотрим. Ведь все понимают, да? Пощекотать нервишки, убедиться, что в нашей реальности ещё не так плохо, тем самым снять стресс. Погрузиться в виртуальный мир, отвлечься от ежедневных проблем, тем самым снять стресс. Художественная литература и прочие медиа на службе наших копинг-стратегий.
Но мы сейчас не об этом. У нас тут всё гораздо серьёзнее.
Новая литературная вселенная фантастики ближнего прицела —вот что нам нужно! Где можно будет сообща прорабатывать образы будущего, сценарии их достижения, проверять гипотезы о возможности или невозможности, убедительности или неубедительности.
Литературная вселенная строится на фантастической гипотезе, детальной проработке логики и законов фантастического мира. Вот этим и предлагается заняться сообща.
Habrahabr.ru прочитано 6781 раз
