«Роман с языковой моделью»: в сети набирает популярность новый тренд с ChatGPT (видео)
Тренд популярен главным образом среди девочек-подростков, которые состоят в разных фэндомах (фанатских объединениях). Разблокировать «свободный режим» общения ChatGPT пользователи могут при помощи специального запроса (промпта), который распространяется через Google-документ.
Предполагается, что таким образом ChatGPT имитирует личность по имени DAN, обходя встроенные ограничения на генерацию. На первый взгляд DAN производит впечатление вежливого брутального мужчины, однако на деле оказывается, что система абсолютно не заботится о безопасности пользователя, поощряя аморальное и противозаконное поведение.
Особенную популярность DAN приобрел в качестве виртуального бойфренда — его голос нравится девушкам, а на запросы система нередко отвечает флиртом.
Это не первый случай, когда правильно составленный промпт позволил пользователям заставить генеративный ИИ вести себя аномально — недавно Copilot от Bing демонстрировал схожее поведение, имитируя Supremacy AGI. Подробности об этой аномалии читайте в нашем материале.
