Microsoft запретит чат-боту Bing проявлять чувства и позволит выбрать режим общения
Microsoft начала постепенно ослаблять ограничения на взаимодействие с чат-ботом поисковика Bing. Компания тестирует опцию, которая позволит пользователям выбирать тон общения.
The Verge
Так, станет доступен режим «Точный» (более короткие и приближенные к теме запроса ответы), «Креативный» (более длинные и свободные ответы), а также «Сбалансированный» (включающий элементы первых двух).
Ранее пользователи заметили странности в поведении чат-бота во время длинных сессий общения. В какой-то момент он начинал имитировать тон собеседника, отвечать в эмоциональном ключе, делать странные предложения и даже мог впасть в депрессию. После этого Microsoft установила новые правила, которые ограничили количество взаимодействий тестировщиков с ботом до пяти обращений за сеанс и до 50 в день. После этого тестировщики заметили, что чат-бот стал проще в ответах и часто отвечал «давайте перейдём к новой теме».
Теперь число взаимодействий увеличили до шести обращений за сеанс и до 60 в день. Постепенно Microsoft увеличит лимит до 100 сеансов в день и разрешит вводить поисковые запросы, которые не предполагают общения с ботом. Это попытка компании найти баланс между «обратной связью» в обучении чат-бота и теми потенциальными рисками, которые оно несёт.
Microsoft представила новые версии поисковика Bing и браузера Edge с использованием ИИ в феврале.
Между тем Google также представил свой аналог ChatGPT — экспериментальный диалоговый ИИ-сервис под названием Bard. Однако старший вице-президент Google и глава Google Search Прабхакар Рагхаван предостерёг пользователей о «галлюцинирующих» текущих версиях чат-ботов на базе ИИ.
Сотрудникам Google прислали подробные инструкции, как правильно тренировать Bard и что ему нельзя делать. Если ответ чат-бота не устраивает работника компании, то нужно его исправить и отослать разработчикам правильную версию. Сотрудникам предписывается следить, чтобы Bard не проявлял себя в ответах как человек и не испытывал эмоций, свойственных людям.
