Полиция Канады опубликовала сгенерированное ИИ фото изъятых наркотиков и вызвала скандал
Полиция Ванкувера оказалась в центре скандала после публикации в социальной сети X изображения, связанного с задержанием по делу о наркотиках, которое было помечено как созданное с использованием искусственного интеллекта. После того как пользователи обнаружили на фотографии признаки генерации, правоохранителям пришлось удалить изображение и заменить его оригинальным снимком.
Опубликованная полицией фотография должна была демонстрировать изъятые наличные деньги и наркотические вещества. На первый взгляд изображение выглядело реалистично, однако при внимательном рассмотрении пользователи заметили характерные ошибки, часто встречающиеся в генеративных моделях. В частности, на снимке присутствовали банкноты номиналом $50, ошибочно подписанные как 20-долларовые, а на одной из купюр достоинством $100 вместо номинала отображалось лишь »00».
После появления критики канадский телеканал CTV News обратился за разъяснениями в полицию Ванкувера. Сержант Адам Доналсон (Adam Donalson) заявил, что искусственный интеллект использовался для удаления имён обвиняемых с фотографии перед публикацией. Однако это объяснение вызвало дополнительные вопросы, поскольку исходный снимок представлял собой фотографию изъятых предметов, разложенных на картоне и подписанных маркером.
Полиция Ванкувера опубликовала это изображение после сообщения о девяти задержаниях по подозрению в хранении наркотиков в районе транспортного узла Commercial–Broadway во время периода выплаты социальных пособий. Позднее фотография была удалена из-за использования при её обработке инструментов искусственного интеллекта. Источник: x.com/BoecknerПозднее представитель полиции сообщил, что изображение, обработанное с помощью ИИ, было удалено и заменено оригинальной фотографией, обрезанной таким образом, чтобы исключить персональные данные подозреваемых.
Инцидент вызвал особенно острую реакцию на фоне растущих опасений относительно использования генеративного искусственного интеллекта в работе правоохранительных органов. В последние годы в разных странах уже фиксировались случаи, когда сотрудники полиции использовали нейросети при составлении документов, анализе данных наблюдения и даже обработке доказательств, что неоднократно приводило к ошибкам и спорам о допустимости таких методов.
Некоторые пользователи социальных сетей обвинили полицию Ванкувера в подрыве доверия к расследованию. Один из комментаторов отметил, что публикация изображения с элементами, созданными искусственным интеллектом, могла повлиять на восприятие дела потенциальными присяжными. Другие пользователи иронично указывали, что удаление спорной публикации лишь усилило недоверие к действиям полиции.
Ситуация в Ванкувере стала очередным примером того, как внедрение генеративного искусственного интеллекта в работу правоохранительных органов сталкивается с фундаментальной проблемой: даже незначительное изменение доказательных материалов с помощью ИИ может поставить под сомнение достоверность всей представленной информации.
© iXBT
