Европарламент требует запретить полиции использовать систему распознавания лиц
Европарламент выпустил резолюцию с призывом запретить полиции использовать систему распознавания лиц для отслеживания преступников и предупреждения преступлений с использованием нейросетей. Кроме того, в документе требуют запретить создавать частные базы для распознавания лиц по типу Clearview AI и системы социального рейтинга. Предложение обсудят на предстоящей встрече по поводу «Закона об ИИ».
Как указано в резолюции, Европарламент при внесении предложения изучил все текущие достижения в области ИИ. Он не обнаружил систем, соответствующих гибкости мышления человека в решении задач, требующих понимания контекста и критического анализа. При этом нейросети всё чаще используют не только для обнаружения лиц, но и для предупреждения преступлений. Например, по различным маркерам камеры оценивают потенциальный вред, который может нанести человек. В документе написано, что правоохранительные органы обещают использовать нейросети для сокращения числа преступлений и вынесения более объективных решений, но эти обещания не всегда выполняются.
В списке принятых во внимание факторов также отмечен момент с повышением эффективности работы правоохранительных органов. Европарламент принял во внимание факт того, что системы распознавания лиц облегчают работу полиции. Но, по его словам, вместе с этим применение нейросети несёт существенные риски для населения, непропорциональные полученной пользе. В разных ведомствах и странах сами нейросети и системы, обеспечивающие безопасность данных, находятся на разных стадиях разработки. Далеко не во всех странах и организациях обеспечивают достаточный уровень безопасности данных и проработанную систему юридической ответственности за их утечку.
Основные опасения Европарламента связаны со сбором и обеспечением сохранности конфиденциальных данных. Система распознавания лиц и иные системы, основанные на нейросетях, помогают правоохранительным органам в их работе. Но вместе с тем они несут существенные риски для населения из-за плохо проработанных систем безопасности и несовершенства самих нейросетей.
Европарламент призывает ввести мораторий на внедрение систем распознавания лиц в правоохранительных целях. При этом он допускает, что в будущем появятся технологии, соответствующие всем требованиям парламента. С текущим уровнем развития технологий повсеместное внедрение систем распознавания лиц недопустимо.
