[Перевод] Изучаем этику секс-роботов по голливудским фильмам
19–20 декабря в Лондоне состоялся третий международный конгресс по отношениям с секс-роботами (Third International Congress of Love and Sex with Robots). Изучив основные темы докладов, журналист Engadget Даниэль Купер пришел к выводу, что телевидение и кинематограф уже осветили большинство из тех проблем, что сейчас обсуждают ученые.
Поэтому если вы хотите понять ключевые вопросы этики (секс)-роботов, у вас есть два пути. Первый — на несколько лет зарыться в скучные книжки. Второй — сесть перед ТВ-экраном. В «Футураме», «Мире Дикого Запада» и «Степфордских женах» Купер нашел отражения тех проблем, над которыми спорили участники конгресса.
Важное пояснение: прошлогодний конгресс по секс-роботам был посвящен возможности причинения вреда роботам. На конференции этого года обсуждались распространенные страхи и беспокойства, связанные с трансгуманизмом.
Должны ли роботы иметь возможность защититься от нас?
Смотреть: Дженет борется против деактивации в сериале «В лучшем мире»
Дженет из сериала «В лучшем мире» — аналог Siri в человеческом обличье. Она сделает все, о чем вы ее попросите. В одном из эпизодов ситкома два персонажа пытаются обнулить настройки Дженет, и хотя она не может испытывать эмоций, она также запрограммирована бороться со всеми, кто захочет причинить ей вред. Чем ближе человек подходит к большой красной кнопке Reset, тем активнее становится заложенный механизм самозащиты. Она умоляет не убивать ее, кричит и даже показывает ложное изображение своих «детей», взывая к человеческому чувству вины.
В контексте сериала эта ситуация выглядит забавной, но ученые всерьез обсуждают идею о том, чтобы робот с самосознанием мог идти на конфликт с человеком. Исследователь Никола Либерати из Университета Твенте считает, что искусственный интеллект в конце концов приобретет эти характеристики, чтобы казаться более человекоподобным. Либерати приводит в пример Love Plus — достаточно старую японскую игру для Nintendo DS. В ней игрок должен доставить удовольствие цифровой партнерше, которая может быть раздражительной и требовательной — до такой степени, чтобы требовать в заполненном вагоне поезда устных признаний в любви.
Либерати считает, что следующее поколение ИИ будет запрограммировано таким образом, чтобы испытывать враждебность и даже злость из-за своей роли в нашей жизни. Если вы попробуете отключить программу во время спора, она потребует от вас объяснений, почему вы так поступаете, или попытается вас остановить. Вопрос о том, достаточно ли этих особенностей поведения, чтобы созданные нами устройства считались человекоподобными, поднимается в первом сезоне «Мира Дикого Запада». Напомню, там создатели парка вынуждены постоянно «обнулять» сознание роботов.
Стоит ли стыдиться любви к роботу?
Смотреть: любовь По Дэмерона к BB-8 в «Звездных войнах: Пробуждение силы» и «Последний джедай»
Либерати упоминает также о снобизме людей, которые со снисхождением относятся к людям с виртуальными отношениями. Такого рода связи часто трактуются как менее ценные, чем те, при которых два человека сидят и разговаривают в одной комнате. Но правда ли, что из-за разных способов общения отношения заслуживают разного уровня уважения?
Возьмем, к примеру, теплую дружбу пилота корабля Сопротивления По Демерона с его дроидом-астромехаником BB-8, который совсем не похож на гуманоида. Большинство персонажей обращается с дроидом обращаются почти как с равным: к нему обращаются, как к человеку, а в «Последнем джедае» есть эпизод, когда По обнимает ВВ-8.
По мнению Либерати, иметь значимые отношения с искусственными личностями — абсолютно нормально и приемлемо до тех пор, пока такое общение не идет в ущерб общению между людьми. Поскольку у По в «Звездных войнах» есть дружеские отношения и с людьми, включая Адмирала Холдо, он совершенно нормален. Не говоря уже о том, что мы уже демонстрируем привязанность к неодушевленным объектам, когда даем имена машинам и лодкам, наделяя их индивидуальными чертами. Персонификация объектов в своем доме очень распространена — так почему же нам кажется такой странной идея отношений с искусственным интеллектом?
Должны ли роботы иметь пол?
Смотреть: отношения между Крайтеном и Камиллой в «Красном карлике»
Профессор Габриеэль Тровато из Университета Васэда в Токио опубликовал результаты противоречивого исследования о том, как мы, люди, воспринимаем половую принадлежность роботов. Он показывал добровольцам изображения роботов с телами разной формы, а именно с разным отношением объема талии к объему бедер. Роботы с тонкой талией и широкими бедрами воспринимались большинством как относящиеся к женскому полу.
Но раз у роботов нет гениталий и груди, и они не нужны им для существования, стоит ли вообще наделять их полом? Вспомним эпизод «Камилла» 1991 года из сериала «Красный карлик». В нем Крайтен, робот для уборки туалета, встречает свою женскую версию. Зачем роботу-уборщику нужна женская версия? Обе машины устроены абсолютно одинаково, а различия в них существуют только на внешнем уровне.
Работа Тровато вызвала много споров на конгрессе из-за плохой подготовки: испытуемым изначально дали установку, что у роботов есть половая принадлежность. В определенный момент, когда вопросов стало слишком много, исследователь в гневе выпалил: «Кому нужен робот-транссексуал?» Но вопрос скорее стоит поставить так: зачем вообще роботам иметь пол?
Стоит ли беспокоиться, что роботы станут главными?
Смотреть: манипуляции Авы в фильме «Из машины»
Ребека Роузи из Университета Йювяскюля задала серию вопросов о том, что случается, когда роботы становятся главным в отношениях. В конце концов, они ведь, скорее всего, будут умнее, быстрее, сильнее, чем люди. Кроме того, роботы могут развить способность лгать, и мы, возможно, не поймем, что нас обманывают.
Роузи привела в пример исследование, в котором небольшой группе роботов давалось задание найти пригодный к использованию источник пищи и избегать отравленного. О находке роботы должны были сообщать другим членам робогруппы, которая в итоге должна была вся переместиться к источнику «хорошей» пищи. В короткие сроки некоторые из роботов научились лгать: они притворялись, что не находили еду и направляли своих компаньонов по ложному следу. Похожая ситуация показана в фильме «Из машины», где обладающий сознанием робот манипулирует человеком-создателем и наблюдателем для достижения собственных целей.
Еще один вопрос, который задает Роузи: должны ли роботы достичь того состояния развития, когда они смогут формировать собственные предпочтения (в число которых несовершенный человек, скорее всего, не попадет). В самом деле, они могут предпочесть оставить человека в одиночестве, проводя время с другими, соответствующими им по уровню машинами.
Должны ли мы беспокоиться о том, КАКИМИ будут секс-роботы?
Смотреть: жутковатые автоматоны из «Степфордских жен»
Профессор истории Джули Уоск из Государственного университета Нью-Йорка рассуждает о том, что люди, склонные к созданию секс-роботов, кажутся наименее подходящими для этой цели. Многие, говорит она, намереваются создать абсолютно покорное и мягкое существо, больше всего напоминающее одну из «степфордских жен». Воспроизводимый стиль поведения прослеживается в художественных произведениях на протяжении долгого времени: от «Кукольного дома» Ибсена до «Идеальной женщины», «Черри 2000» и «Чудес науки».
Уоск убеждена, что первое поколение секс-роботов — таких, как создания Abyss Creations — построено на идеале «Степфордских жен». Мы имеем дело с возрождением викторианского идеала, когда непреложной истиной считалось, что место женщины в доме, а единственно приемлемый для нее способ вести себя — быть послушной, всегда готовой к сексу и посвятить всю себя созданию домашнего очага. И надо задаться вопросом: действительно ли это то, чего мы хотим от наших секс-роботов?
Что еще посмотреть про секс-роботов
- «Футурама». Эпизод «I Dated a Robot!» посвящен страхам о том, что человечество откажется от традиционного секса с себе подобными, предпочитая встречи с андроидами. В эпизоде «Bend Her» рассматриваются вопросы пола роботов.
- «Робокоп» 1987-года в дополнение ко всем экшн-моментам может многое рассказать об угрозах диджитализации человечества.
- «Бегущий по лезвию», «Бегущий по лезвию 2049» и «Она» показывают будущие формы отношений «человек-машина» и «машина-машина», которые рассматриваются как естественные.
- «Ларс и настоящая девушка» — фильм наталкивает на мысль о том, что основными покупателями секс-роботов станут те, кому требуется терапевтическая помощь, а покупка робота может быть предписана психологом.
