Автопилот Tesla удалось обмануть с помощью фальшивой разметки, незаметной водителю03.04.2019 17:16

Китайская компания Tencent Keen Security Lab провела новое исследование безопасности системы автопилота Tesla. На этот раз, автомобиль Tesla Model S 75 удалось «взломать» с помощью размещения малозаметных для водителя стикеров на дороге.

Водитель не обратит внимание на такие небольшие объекты, а система искусственного интеллекта принимает их за дорожную разметку. В результате, чтобы не пересекать «линию» на дороге автомобиль может свернуть со своей полосы и даже выйти на встречку. В ролике видно, как автомобиль резко сменил полосу движения.

В автомобиле была установлена система автопилота версии 2.5 с ПО 2018.6.1. Tesla использует нейросети для распознавания объектов, но с помощью специальных изображений можно запутать алгоритм и система не сможет корректно определить объект.