Темы



В Muse AI выявлены серьёзные утечки персональных данных, включая сведения о банковских балансах

Коротко сгенерировано ИИ по тексту статьи
  • Сотрудники Meta сообщили о новом случае доступа Muse к сообщениям Signal без разрешения; AI Now Institute воспроизвёл проблему.
  • Другой сотрудник получил непрошеное сообщение с балансами Capital One — $2 722,58 и Charles Schwab — $5 899,57, предположительно чужими.
  • Meta назвала случаи единичными и допустила, что балансы были галлюцинацией ИИ; приложение скачали более 10 млн раз.
Major privacy breaches reported in Muse AI, including bank balances | Image shows the Muse icon next to a skull graphic

Сотрудники Meta выразили обеспокоенность тем, что выглядит как серьёзные нарушения конфиденциальности при использовании Muse — сейчас это второе по популярности бесплатное приложение для iPhone в App Store, которое скачали более 10 миллионов раз.

Среди них — очередной случай доступа к сообщениям со сквозным шифрованием без разрешения, а также передача данных, которые могут оказаться балансами банковских счетов другого пользователя Muse…

Muse AI от Meta

Siri AI была не единственным ИИ-приложением, вышедшим в сентябре: приложение Muse AI от Meta было запущено в том же месяце, и компания описала его как «ваш персональный ИИ-агент, который решает задачи во всех сферах жизни».

Сначала Muse вышло как приложение для iPhone, а вскоре появились версии для Mac и iPad. Оно сразу же поднялось на вершину чартов американского App Store, обогнав ChatGPT. После масштабной рекламной кампании Meta приложение быстро превысило 5 миллионов загрузок, и с тех пор эта цифра удвоилась.

Опасения за конфиденциальность возникли быстро

Довольно скоро появились серьёзные опасения по поводу конфиденциальности. Технологический журналист Джон Тернус сообщил, что приложение для Mac получило доступ к его сообщениям, хотя он явно отказал в разрешении. Затем приложение солгало ему о том, как ему это удалось. Meta назвала это ошибкой.

Исследователь безопасности Патрик Уордл также обнаружил уязвимость нулевого дня, позволявшую злоумышленнику перехватывать надиктованные запросы и перенаправлять их на собственный сервер.

Тогда я сказал, что ни за что не стану одним из миллионов пользователей этого приложения, и новый отчёт лишь подтвердил мудрость этого решения.

Сотрудники Meta сообщают о нарушениях конфиденциальности

Reuters сообщает, что сотрудники Meta обсуждают новые нарушения. Среди них — ещё один случай доступа к зашифрованным сообщениям без разрешения.

Сотрудница, пользовавшаяся Muse на личном телефоне, сообщила, что приложение неожиданно напомнило ей ответить на сообщение сестры в Signal — мессенджере со сквозным шифрованием, популярном среди защитников конфиденциальности и конкурирующем с WhatsApp от Meta.

«Это похоже на грубейшее нарушение конфиденциальности. Я точно не давала ему доступ к другим приложениям и не помню, чтобы меня об этом спрашивали», — написала сотрудница в своём посте.

Согласно отчёту, судя по всему, это было сделано путём перехвата push-уведомлений. Однако именно так приложение объяснило и предыдущий случай, и это оказалось неправдой. AI Now Institute удалось воспроизвести проблему с доступом Muse к сообщениям Signal без разрешения.

Другой сотрудник сообщил, что получил непрошеные данные о банковских балансах, которые, по его словам, по-видимому, принадлежали другому пользователю Muse.

Muse ни с того ни с сего добавило лишнее сообщение к своим обычным чатам о погоде и приливах для рыбалки: «Кстати, два обновления по банку: баланс в Capital One — 2 722,58 доллара, баланс в Charles Schwab — 5 899,57 доллара».

«Я никогда не делился с Muse данными своего банковского счёта и никогда не обсуждал с Muse банковские темы. Боюсь, оно присылает мне чужую банковскую информацию», — написал сотрудник в своём посте.

Meta заявила Reuters, что это были «единичные инциденты», и предположила, что банковские балансы могли оказаться галлюцинациями ИИ, а не утечкой данных.

Мнение 9to5Mac

Могу лишь повторить своё прежнее мнение о Muse: нет уж.

Изображение: 9to5Mac/Meta/Public domain vectors

©  9to5Mac.ru

Об этом также пишут