В Китае мужчину задержали за создание фейковых новостей при помощи ChatGPT
Китайские правоохранительные органы задержали мужчину по подозрению в распространении фейковых новостей, которые он создавал при помощи чат-бота ChatGPT.
Это первый в стране случай задержания в связи с использованием бота с технологиями глубокого обучения после того, как в силу вступило специальное регулирующее постановление властей Пекина.
Мужчина по фамилии Хун из провинции Ганьсу подозревается в использовании ИИ для создания и распространения фейкньюс в соцсетях. В местной полиции заявили, что задержанный пользовался технологией ИИ «для фабрикации ложной и неправдивой информации».
Полиция обратила внимание на новость, в которой утверждалось о гибели девяти человек в результате аварии с поездом, якобы произошедшей 25 апреля. На самом деле такого инцидента не было. Хун распространил новость с 20 аккаунтов в соцсети Baijiahao. Фейковый материал набрал более 15 тысяч просмотров до того, как его обнаружили сотрудники киберполиции.
Хуна обвинили в том, что он распространил фейковую новость без предупреждающей пометки о том, что её создал ИИ.
Согласно закону «Административные положения о глубоком синтезе для информационной службы Интернета» глубокий синтез определяется как использование технологий, включая глубокое обучение и дополненную реальность, для генерации текста, изображений, аудио и видео и создания виртуальных сценариев. Хуна подозревают в «разжигании ссор и провоцировании беспорядков», теперь ему грозит до пяти лет тюрьмы (наказание может составить и до 10 лет в особо тяжких случаях).
Регуляторы Китая ещё в феврале запретили IT-гигантам страны предлагать услуги с использованием ChatGPT широкой публике. Техкомпаниям также нужно согласовывать с регулятором выпуск продуктов по типу ChatGPT. Официально чат-бот недоступен в Китае, но им можно пользоваться через VPN. Также в стране появились десятки мини-программ от сторонних разработчиков для использования ChatGPT.
Весной Управление по вопросам киберпространства КНР (CAC) опубликовало проект мер по регулированию сервисов генеративного искусственного интеллекта. Новые правила CAC вынесли для общественного обсуждения до 10 мая 2023 года. Отмечается, что документ призван содействовать «здоровому развитию и стандартизированному применению» генеративного ИИ.
Между тем конкурентов ChatGPT уже разрабатывают два китайских техгиганта: Huawei и Baidu. Вторая уже представила чат-бота Ernie.
Президент Microsoft Брэд Смит предупредил, что китайские исследовательские организации и компании, вероятно, станут основными конкурентами ChatGPT в разработке генеративного искусственного интеллекта.
