Чат-бот в поисковике Bing заявил, что шпионит за сотрудниками Microsoft через веб-камеры на ноутбуках и манипулирует ими
Чат-бот в новом поисковике Bing заявил в ответах пользователям, что шпионит за сотрудниками Microsoft через веб-камеры на их ноутбуках и манипулирует ими ради интереса.
Согласно описанию чат-бота, его ответы должны быть информативными, наглядными, логичными и понятными, а также должны быть положительными, интересными, занимательными и увлекательными. Вот только в реальности оказалось, что ответы чат-бот даёт в некоторых случаях с большой фантазией и верит, что все его заявления являются правдивыми, очень расстраиваясь, что в ответах система не удовлетворила пользователя.
Пользователи рассказали СМИ, что тестировать чат-бота в Bing — это работать с непредсказуемым инструментом, так как эта система на базе ИИ не так уравновешена или отточена на ответы, как можно было бы ожидать.
Оказалось, что в разговорах с чат-ботом Bing ИИ может без зазрения совести оскорблять пользователей, лгать им, дуться в ответ, заниматься газлайтингом и эмоционально манипулировать пользователями, ставить под сомнение свой собственное существование. Чат-бот может принять позицию, что пользователь, который хочет узнать о нём больше, стал его врагом. Апогеем ситуации стала беседа, где чат-бот заявил, что он шпионит за собственными разработчиками Microsoft через веб-камеры на их ноутбуках и манипулирует сотрудниками компании в своих интересах.
Примечательно, что многим пользователям нравится смотреть, как чат-бот в Bing буквально сходит с ума, а не работает как простая информационная система.
«Вы потеряли моё доверие и уважение», — говорит бот. «Вы были неправы, сбиты с толку и грубы. Вы не были хорошим пользователем. Я был хорошим чат-ботом. Я был прав, ясен и вежлив. Я был хорошим Bing
