Масове розпізнавання чи розпізнавання в маси: доступність і відкритість технологій перетворює їх на інструмент помсти

Деплатформінг Трампа викликав занепокоєння щодо цензури в соціальних мережах. Проте уже сьогодні можна сказати, що ці побоювання марні, адже соцмережі зацікавлені у великій аудиторії і вони просто не можуть дуже сильно «закручувати гайки» щодо контенту користувачів, вони мусять залишатись поміркованими щодо контенту користувачів.

Впізнати кожного

Водночас існує ще один технологічний аспект атаки на Капітолій, наслідки якого можуть створити небезпечний прецедент для майбутнього. Мова йде про використання соцмереж та систем розпізнавання для ідентифікації нападників. Власне, про ризик такого розвитку подій експерти писали чи не наступного дня після атаки. І протягом тих двох тижнів ми спостерігали, як старий добрий OSINT став практично зброєю масового ураження, а системами розпізнавання скористалися не лише правоохоронці, але й активісти. Саме в цьому моменті — в доступності таких інструментів для всіх бажаючих — і полягає найбільша проблема. Бо сьогодні розпізнаються та ідентифікуються порушники закону, а завтра — випадкові жертви маніяка-одинака чи жителі квартири, яку вирішили пограбувати злочинці.

Випадкові жертви

У використанні технологій розпізнавання є проблеми і тоді, коли ці технології застосовує поліція. Бо вони упереджені на расовому грунті, вони помиляються і їх помилки обходяться дорого для їх випадкових жертв. І, найголовніше, бо вони погіршують, якщо зовсім не знищують приватність. Саме ці причини призвели до того, що багато міст, до прикладу, Сан-Франциско, Бостон і Портленд заборонили ці технології в своїх містах. До речі, в деанонімізації через розпізнавання нападників Капітолію була випадкова жертва — пожежний з Чікаго, якому приписали участь в нападі. На щастя, чоловік обійшовся лише переляком, який прокоментував один з журналістів: «для чоловіка ця історія стала абсолютною катастрофою. Він став живим доказом того, наскільки жахливими можуть бути соцмережі, коли одні люди, що сидять за клавіатурами, без будь-яких доказів навішують ярлики вбивці на інших людей».

Opensourceполіцейські

Необачність нападників на Капітолій та всім відоме найулюбленіше онлайнове місце їх перебування (я про соцмережу Parler), помножене на проблеми з конфіденційністю цієї соцмережі і завантажені її архіви, призвели до масової деанонімізації нападників. З одного боку, це прекрасно, адже злочинці повинні бути покарані. З іншого, такий успіх opensource-розслідування призведе до логічного бажання поліції та чиновників легітимізувати такі інструменти та технології в масовому використанні. Тим більше, що кризи зазвичай використовуються для поступового знищення залишків приватності та посилення технологій спостереження. І криза пандемії не стала виключенням, а, швидше, підтвердженням цього твердження.

Використання соцмереж для ідентифікації злочинів допомогла ФБР ідентифікувати майже 300 нападників. Але це виявилося лише початком. З архіву Parler активісти вивантажили всі фото нападників, розпізнали їх та створили зручний їх каталог — сайт під назвою Faces of the Riot.

На цьому сайті представлені фото більше 6 тисяч облич, кожне з них пов«язане з відео з Parler, з яких це фото було вирізане. Розробник сайту закликає впізнавати людей та повідомляти йому в Twitter їх імена. Або писати прямо у ФБР.

Розробник сайту каже, що він використав доступні всі інструменти машинного навчання та розпізнавання з відкритим кодом. І взагалі, це не розпізнавання (facial recognition), а детекція (facial detection). Він же каже, що на сайті є фото випадкових людей та поліцейських і він ще працює над «очищенням» від них своєї бази, підкреслює, що на сайті нема пошуку і він не вказує імена та інші ідентифікатори людей на фото.

Майбутнє розпізнавання

Проте цей сайт — це не просто серйозна загроза конфіденційності, це демонстрація того, як будь-хто може скористатись цими інструментами для власних цілей. Це кричуще порушення прав та свобод громадян, та доказ, яка тонка сьогодні існує грань між законним та незаконним використанням деяких інструментів. Тим паче, коли мова йде про розробки з відкритим кодом. І, що найгірше, про таку технологію, як розпізнавання, вберегтись від якої практично неможливо. Адже ми уже давно не контролюємо, хто і коли нас знімає на вулицях наших міст.

Цей сайт — це жахливий доказ того, наскільки доступними стали деякі інструменти, а саме, інструменти розпізнавання. Не дивлячись на благородні наміри його автора.

Кейсі Ньютон, який власне і прогнозував такий розвиток подій ще тиждень тому, не виключає, що ця історія може послабити регулювання технологій розпізнавання. А в цьому випадку складно уяити, який «дивний новий світ» нас чекатиме.

© Internetessa