Искусственный интеллект научился писать правдоподобные фейковые отзывы

74a192b65c64b1a2421b942362185665_ce_960x

Отзывы о ресторанах генерировались при помощи рекуррентных нейросетей (техники глубокого обучения), которые прежде тренировались на тысячах реальных отзывов, доступных в Сети.

По словам исследователей, сгенерированные отзывы были практически неотличимы от реальных. Так, авторы работы показали, что пользователи не только не распознавали фейковые отзывы, но и считали их такими же полезными, как и реальные, написанные людьми.

Последнее, наверное, настораживает больше всего. Так как это в сущности означает, что отзывы, написанные ИИ, выполняют свою главную функцию — целенаправленно влияют на мнение людей.

Отмечается, что в таких отзывах редко обнаруживался плагиат (при помощи ПО). Это связано с тем, что ИИ генерировал их познаково, а не выдергивал слова из настоящих отзывов.

  • Технологии

    Лунный заговор как тест на профпригодность: они были на Луне

  • Технологии

    Пермские сварщики воспроизвели знаменитый «Славяновский стакан»

Сегодня существует достаточно большая подпольная индустрия по написанию фейковых отзывов людьми (за деньги). Однако, как отмечает профессор Чикагского университета Бен Чжао (Ben Y. Zhao) в интервью порталу Business Insider, внедрение ИИ может ее подорвать. Ученый говорит, что пока не знает об использовании подобных алгоритмов в этой индустрии. Но нет никаких гарантий, что кто-либо не придумает нечто похожее и не станет использовать в корыстных целях.

При этом исследователи пишут, что отзывы нейросети все же не были идеальными. Оказалось, что алгоритм использовал меньший набор знаков — и это было нетрудно заметить. Однако, по словам авторов работы, будущие нейросети могут быть даже более сложными и, соответственно, сгенерированные ими отзывы будет труднее детектировать.

Джао отмечает, что речь идет не только о фейковых отзывах о ресторанах: такие технологии могут в целом пошатнуть наши убеждения о том, что является реальным, а что — нет.

С текстом исследования можно ознакомиться по ссылке.

©  Популярная Механика