Рисунки смогли свести с ума беспилотные автомобили

Учёные Института интеллектуальных систем им. Макса Планка нашли уязвимость в системах автопилота современных автомобилей.
Рисунки смогли свести с ума беспилотные автомобили
Институт интеллектуальных систем им. Макса Планка
e7a528ef890f073f6c4695cc47bc3b7e_cropped
Максим Вершинин
7 ноября 2019 09:57

Несмотря на то, что тысячи инженеров по всему миру работают над тем, чтобы сделать беспилотные автомобили безопасными, существуют самые неожиданные уязвимости, которые могут поставить под угрозу как пассажиров беспилотников, так и окружающих людей. К такому выводу пришли немецкие учёные из Института интеллектуальных систем им. Макса Планка и Тюбингенского университета.

Специалисты выяснили, что свести с ума электронику автомобиля может цветное пятно, которое окажется в поле зрения видеокамер. Если такой даже неподвижный рисунок фиксирует беспилотник, то система начинает считать, что разные объекты в поле зрения камер движутся в разные стороны и это приводит к сбою в работе нейросетей.

Учёные подчеркнули, что у них ушло не больше четырёх часов на создание рисунка, который выводит из строя автопилот. При этом, как отмечают исследователи, для того, чтобы машины оказались в сложной ситуации, достаточно даже небольшого по размеру изображения, которое может располагаться где угодно — на других транспортных средствах, на объектах дорожной инфраструктуры и даже на людях.

В своей работе Attacking Optical Flow, опубликованной на arXiv, специалисты подчеркнули, что если взять за 100% весь объём визуальной информации, которые воспринимают камеры беспилотных автомобилей, то если даже менее 1% от этого изображения придётся на цветовое пятно, то в системе возникнут ошибки и автопилот не сможет корректно оценивать ситуацию, а беспилотник начнёт вести себя непредсказуемо. При этом одна и та же машина, «увидев» одно и то же пятно, каждый раз реагирует на «препятствие» неодинаково.

Учёные намерены найти решение выявленной проблемы, а пока пытаются привлечь внимание разработчиков автопилота к найденному багу. Гипотетически подобные цветовые пятна могут использовать хакеры, чтобы выводить из строя беспилотные машины.

Ещё больше по темам

Обсудить 0

Лучшее за неделю

©  Популярная Механика