Робот для поддержки пользователей крупнейшей соцсети внезапно начал оскорблять людей

И все из-за обучения на основе комментариев с Reddit
0387a3af4418d32172efbd0669fe0e7091d3a0cc
Крупнейшая соцсеть Facebook разработала и запустила специального робота для моральной поддержки собственных пользователей. Но бот, внезапно, начал оскорблять людей.

В качестве «обучающего» материала, инженеры Facebook использовали комментарий с популярного ресурса Reddit. И у этого, по их словам, есть свои недостатки: так, например, во время тестов чат-бот Blender мог начать оскорблять пользователей, а порой писать несуществующие, выдуманные только им, фразы. При этом разработчики из Facebook сравнили производительность Blender с последней версией чат-бота Google. В итоге, около 67% респондентов соцсети сказали, что разработка Facebook пишет «более человечно», чем продукт поискового гиганта.

«Мы достигли этого благодаря новой технологии чат-бота — она включает в себя улучшенную технику декодирования, новое сочетание навыков и модель с 9,4 млрд параметров. Это в 3,6 раза больше, чем у крупнейшей из существующих систем», — говорится в официальном пресс-релизе компании.

©  Ferra.ru