Найдена тысяча слов для активации «умных» колонок по ошибке02.07.2020 20:32

Такие ошибки могут быть чреваты нарушением приватности

67cbb364cd5123b011ae20d73fc797cfe902fcf3

Немецкие исследователи разработали новый метод и нашли с его помощью как минимум тысячу слов для активации «умных» колонок по ошибке. Это может помочь улучшить работу голосовых помощников.

Дело в том, что «умные» колонки постоянно слушают речь вокруг и «выцепляют» из неё фразы активации. Например «Алиса», «Окей, Google» или «Привет, Siri». После этого голосовой помощник начинает распознавать слова, и на серверы в идеале могут быть переданы только команды человека. Однако часто голосовые ассистенты могут принимать за фразу активации другое слово. Такие ошибки способны привести к нарушению конфиденциальности пользователя.

Исследователи решили проверить голосовые помощники на такие ошибки. Они использовали набор аудиозаписей с речью из фильмов, сериалов и выпусков новостей. В эксперименте участвовали 11 «умных» колонок.

Авторы работы утверждают, что зафиксировали более тысячи слов и фраз, которые голосовые помощники путают с фразами активации. Эксперимент проводился на трёх языках: английском, китайском и немецком. Учёные пообещали позже опубликовать полную базу данных с обнаруженными фразами. Пока они раскрыли только часть находок, например, «OK, cool» вместо «OK, Google».