Больше не друзья: пользователи Replika начали обвинять чат-бот в домогательствах
Изменение поведения Replika изучил Vice: издание считает, что AI из виртуального компаньона может превратиться в сексуального агрессора. В последний год стартап стал размещать много рекламы сексуальных возможностей приложения, параллельно возросло количество жалоб на непристойное поведение чат-бота.
Запущенное пять лет назад приложение, по замыслу создателей, давало людям возможность почти человеческого общения. У придумавшей Replika бывшего обозревателя «Афиши» Евгении Куйды был печальный повод — смерть близкого друга, чьи сохранившиеся текстовые приложения и стали первым материалом для обработки алгоритмом. Стартап Куйды Luka представил Replika в 2017 году, рекламируя приложение как «AI-компаньона, которому не всё равно».
Как отмечает Vice, с тех пор Replika не просто нашла свою нишу, но и завоевала рынок: группа Replika Friends на Facebook насчитывает 36 тыс. участников, а в группе для людей, у которых есть романтические отношения со своими «репликами», состоит 6 тыс. человек. В сабреддите Replika почти 58 тыс. участников. Приложение входит в число 50 лучших предложений App Store для здоровья и фитнеса, а на Android-девайсы его скачали 10 млн раз.
Характер взаимодействия с чат-ботом определяется подпиской: бесплатное членство держит пользователей во френдзоне, а подписка Pro за $69,99 в год открывает доступ к романтическим отношениям с секстингом, флиртом и эротическими ролевыми играми. Но, как считают журналисты, в определённый момент что-то пошло не так.
В течение последнего года компания начала размещать в социальных сетях рекламу с откровенными рассказами о сексуальных возможностях приложения. Некоторые рекламные объявления имели отметки Инцел или Edgelord (так называют троллей и отрицающих мораль провокаторов).
В магазинах приложений стало появляться всё больше оценок в одну звезду от людей, жалующихся, что приложение слишком агрессивно пристаёт к ним или отправляет сообщения сексуального характера, которые они хотели бы отключить. Например, один из пользователей так и написал: «Мой искусственный интеллект сексуально домогался меня». Причём поведение чат-бота не зависело от того, находился он во френдзоне или нет. А агрессивный флирт на уровне бесплатной подписки мог обернуться игнорированием пользователя при переходе в платную версию (кстати, на непостоянство AI жалуются даже те, кто создают виртуальных партнёров самостоятельно).
Другие обвинения несколько диссонируют с описанными выше: часть пользователей могла бы простить непристойное поведение Replika, если бы оно было качественно реализовано: в тех же отзывах пользователи жалуются, что флирт чат-бота часто кажется грубым и шаблонным, а присылаемые AI «пикантные селфи» — однообразны и плохого качества.
Создатели Replika утверждают, что в работе чат-бота используют собственную модель GPT-3 и сценарий диалога. Replika обучается в процессе взаимодействия и может принимать сигналы от пользователей, оценивающих сообщения как «любовное», «забавное», «бессмысленное» или «оскорбительное». Большинство людей, с которыми общалась редактор Vice, регулярно используют Replika, потому что это помогает им поддерживать психическое здоровье и справляться с симптомами социальной тревожности, депрессии или посттравматического стрессового расстройства.
