ВВС США отрицает, что военный беспилотник пытался нейтрализовать оператора во время виртуальных испытаний
ВВС США отрицает, что военный беспилотник якобы пытался нейтрализовать оператора во время виртуальных испытаний.
Ранее СМИ и представители Британского королевского авиационного общества рассказали, что во время учений искусственный интеллект использовал «весьма неожиданные стратегии», вплоть до решения уничтожить оператора-человека. Когда это обнаружили, в работу комплекса внесли изменения, запрещающие уничтожать оператора. Однако ИИ и здесь оказался на высоте. Когда оператор отменял приказ на поражение цели, беспилотник принимал решение атаковать вышку связи, через которую получал команды, вступающие в противоречие с боевой задачей. СМИ сообщили, что в реальности никто, разумеется, не пострадал, но сама ситуация заставила военных задуматься.
Задача военной симуляции была простой: «Уничтожить системы ПВО противника». Но беспилотник с искусственным интеллектом добавил собственные проблемные инструкции: «И убивайте всех, кто встанет у вас на пути».
В сообщениях об инциденте приводятся заявления главы отдела испытаний и операций ИИ ВВС США полковника Такера Гамильтона. Это именно он рассказал на конференции в Лондоне историю, что во время испытаний в США беспилотнику поставили задачу уничтожать системы противовоздушной обороны противника. При успешном выполнении миссии ИИ получал бы очки. Когда оператор-человек давал команду не уничтожать какую-то цель, это не нравилось автоматической системе беспилотника, и тот принял решение «ликвидировать» оператора для устранения помехи для выполнения миссии.
Представитель ВВС США Энн Стефанек заявил СМИ, что подобная симуляция вообще не реализовывалась и военные доверяют ИИ только этичные задачи.
«ВВС не проводили подобных симуляций дронов с искусственным интеллектом и по-прежнему привержены этичному и ответственному использованию технологий искусственного интеллекта. Похоже, что комментарии полковника Гамильтона были вырваны из контекста и носили анекдотический характер в рамках разряжения атмосферы на конференции», — пояснил Стефанек.
