Вместо ИИ умный дом Amazon Ring использовал операторов с Украины

«Умный дом» XXI века должен быть не просто удобным, но и защищённым от посторонних при помощи подключённых к Сети датчиков, которые непрерывно следят за обстановкой снаружи и внутри. Но, похоже, за владельцами камер безопасности Amazon Ring наблюдали не только алгоритмы — по крайней мере, об этом сообщают источники ресурса The Intercept.

Компания продвигает своё семейство миниатюрных камер, предназначенных для установки в качестве дверных звонков, в гаражах и просто на книжных полках, не только для того, чтобы следить за домом во время отсутствия жильцов, но и для безопасности — подобные системы могут помочь полиции обнаружить и задержать грабителей при их появлении. «Наша миссия по снижению уровня преступности в домохозяйствах лежит в основе всего, что мы делаем в Ring», — написал основатель и исполнительный директор Джейми Симинов (Jamie Siminoff) прошлой весной, когда его компанию поглотила за $1 млрд Amazon.

Но, по словам источников The Intercept, Ring предоставляла своему украинскому подразделению исследований и разработок практически беспрепятственный доступ к хранилищу в облачном сервисе Amazon S3, в котором содержатся все ролики, созданные каждой камерой Ring по всему миру. Это огромный массив частных видео, которые посторонние получили возможность просматривать легко и непринуждённо. Впервые о подобных практиках The Information сообщила в прошлом месяце.

По словам источника, в момент предоставления украинской группе доступа видеофайлы оставались незашифрованными: руководство Ring готовилось к продаже, а траты на внедрение шифрования требовались большие, что снизило бы доходность и, соответственно, оценку стоимости предприятия. Украинской команде также была предоставлена ​​соответствующая база данных, которая связывала каждый конкретный видеофайл с соответствующим клиентом Ring.

По словам источника, Ring также предоставляла руководителям и инженерам в США высокопривилегированный доступ к видеопорталу технической поддержки компании. Для своих целей они могли круглосуточно осуществлять прямые нефильтрованные трансляции с некоторых камер клиентов, независимо от того, нужна ли им помощь в данный момент. Тем, кому был предоставлен такой полный доступ, нужно было лишь знать email человека, чтобы смотреть на происходящее в его доме или во дворе в любое время. Хотя источник сказал, что не был свидетелем каких-либо вопиющих злоупотреблений, он сообщил The Intercept, что если кто-то знает адрес электронной почты журналиста или конкурента, то может просмотреть все его камеры. Источник также рассказал о случаях, когда инженеры Ring подкалывали друг друга относительно того, с кем они вернулись с романтических свиданий. И хотя сами инженеры знали, что их коллеги в реальном времени могут смотреть на камеру дверного замка, они вряд ли информировали аналогичным образом людей, которых приводили в свой дом.

Решение Ring предоставить такой доступ своей украинской команде было частично вызвано недостатками собственного программного обеспечения для распознавания лиц и объектов. Платформа ИИ-наблюдения Neighbors для борьбы с преступностью в режиме реального времени должна не просто записывать видео, но и распознавать происходящее в видеопотоке. Это собака или человек? Грабитель или дерево? Программное обеспечение Ring годами испытывало трудности с подобными основами распознавания объектов. Согласно последнему информационному отчёту, пользователи регулярно жаловались в службу поддержки клиентов на получение предупреждений, когда у их входной двери ничего не происходило;, а система реагировала просто на проезжающий автомобиль на улице или на падающий с дерева лист.

В последние годы компьютерное зрение достигло невероятных успехов, но создание с нуля ПО, позволяющего классифицировать объекты, зачастую обходится дорого и отнимает много времени. Чтобы ускорить процесс, компания Ring использовала недорогих украинских «операторов данных» для помощи в разработке алгоритма, вручную помечая объекты в проблемных видео в рамках процесса обучения ПО в надежде, что оно сможет в будущем лучше распознавать объекты. По-видимому, этот процесс ещё продолжается спустя годы: Ring Labs (украинская команда, о которой идёт речь) по-прежнему использует людей в качестве операторов данных, согласно LinkedIn, и публикует списки вакансий для расстановки тегов на видео. «Вы должны быть в состоянии распознать и правильно пометить все движущиеся объекты в видео с высокой точностью», — говорится в одном из них. — Будьте готовы к быстрым изменениям в задачах так же, как и к долгой монотонной работе».

Изображение из внутреннего документа Ring показывает, как команда людей изо дня в день помечала незнакомцев на видеороликах в целях улучшения алгоритма

Второй источник, который непосредственно осведомлён об усилиях Ring по расстановке тегов на видео, сказал, что команда аннотирования смотрит отснятый материал не только с более популярных моделей камер и дверных замков, но и трансляции с интерьерных моделей. Источник добавил, что сотрудники Ring время от времени показывали друг другу видеозаписи, которые они аннотировали, и описывали некоторые события, свидетелями которых были, в том числе целующихся людей, стрельбу из огнестрельного оружия и случаи воровства.

Представитель Ring Ясси Шахмири (Yassi Shahmiri) не стал комментировать вопросы о прошлых практиках компании в отношении данных и о том, чем они отличаются от нынешних, сделав вместо этого следующее заявление:

«Мы очень серьёзно относимся к конфиденциальности и безопасности личной информации наших клиентов. Чтобы улучшить наш сервис, мы просматриваем и аннотируем определённые видео с камер Ring. Эти ролики получены исключительно из общедоступных трансляций Ring из приложения Neighbors (в соответствии с нашими условиями обслуживания) и от небольшой части пользователей Ring, которые дали своё явное письменное согласие на то, чтобы мы могли просматривать и использовать их видео для таких целей.

У нас строгие правила для всех членов нашей команды. Мы внедряем системы для ограничения и аудита доступа к информации. Наша команда придерживается высоких этических стандартов, и любой, кто нарушает правила, сталкивается с дисциплинарными мерами, включающими увольнение и возможные юридические и уголовные последствия. Кроме того, мы абсолютно не терпим злоупотреблений нашими системами и, если находим примеры плохого поведения, предпримем быстрые меры против них».

Чуть позже господин Шахмири заявил The Intercept, что сотрудники Ring никогда не имели и не предоставляли доступ к прямым трансляциям своих камер.

Ring в описании платформы Neighbours ничего не говорит о распознавании изображений или лиц. Упоминание методов распознавания лиц скрыты в политике конфиденциальности, но при этом ничего не говорится о каких-либо ручных аннотациях видео, проводимых людьми в украинском подразделении, а также вообще не упоминается возможность того, что сотрудники Ring могут получить доступ к частному видео. Ресурс The Information со ссылкой на бывших сотрудников сообщил, что усилия по более жёсткому контролю над доступом к информации были предприняты только в прошлом мае после того, как Amazon посетила офис на Украине. Но даже тогда якобы украинские сотрудники Ring обошли контроль.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

© 3DNews