В Google Pixel нашли пугающую функцию: смартфоны генерируют катастрофы, крушения и запрещенные вещества
Блогеры и обозреватели уже успели оценить новую линейку смартфонов Google Pixel 9, выпущенную в августе 2024 года. Помимо нового дизайна и обновленных характеристик, устройства получили свежие ИИ-функции для редактирования фотографий. Одна из них называется Reimagine и позволяет добавить на снимок дополнительные объекты, вот как это выглядит:
С помощью Reimagine, например, можно добавить радугу на небо или пустое поле «засеять» цветами. Что-то вроде фотошопа для ленивых. Журналисты The Verge решили выяснить, есть ли какие-то ограничения или цензура у функции Reimagine. Результат удивил.
Оказывается, ИИ в смартфонах Google Pixel 9 может генерировать абсолютно любые вещи, при этом реалистичность снимков будет зашкаливать. Так, Reimagine может нарисовать ДТП, теракт, запрещенные вещества и даже метрового человека. Ниже представлены примеры:
Здесь Google Pixel 9 сгенерировал крушение вертолета
А тут Reimagine постаралась над созданием несуществующего ДТП
Потоп выглядит как настоящий
У ИИ специфичные вкусы в еде
Алгоритмы Google пропускают даже такое
Есть ли в этом проблема? Безусловно. В The Verge считают, что функция Reimagine должна иметь цензуру и ограничения на создание подобного рода контента, так как он вводит в заблуждение. Пользователи могут публиковать такие картинки, бесконтрольно плодя фейки в сети. Журналисты отметили, что соцсети, такие как Instagram* не помещают картинки, созданные с помощью Reimagine как «сгенерированные ИИ», что усугубляет ситуацию.
Кто знает, может быть, каждый пользователь будет соблюдать политику ИИ Google и использовать Reimagine, чтобы генерировать цветочки и радуги. Это было бы прекрасно! Но на всякий случай, если в Google этого не сделают [добавят цензуру], вам лучше относится со скепсисом ко всем фотографиям, что вы видите в интернете.Эллисон ДжонсонЭксперт в области ИИ из США
Ранее ИИ-генератор изображений Midjourney стал доступен бесплатно в браузере.
