«Мир не Дикого Запада»: IEEE опубликовала стандарт по созданию благожелательных роботов
«Большие ИТ-компании вливают миллиарды долларов в разработку искусственного интеллекта, потому есть вероятность, что эти файлы будут использоваться для создания цифровых версий людей», — говорит Ротблатт.
/ Flickr / Matthew Rutledge /CC
По этой причине Мартина занимается вопросами персонификации, идентичности и гражданских прав будущих виртуальных людей. Будет ли цифровая версия вас вами? Или это совершенно другая персона? И персона ли вообще?
И хотя мы определенно движемся к моменту переноса сознания в компьютер, до появления первых виртуальных людей пройдет еще много времени. Но уже есть другая, так сказать, категория объектов (пока еще), поведение которой стоит регулировать. 13 декабря Институт инженеров электротехники и электроники — IEEE — представил первую версию «стандарта» по созданию роботов и искусственного интеллекта, который получил название Ethically Aligned Design. Документ был разработан при участии сотни членов IEEE Global Initiative и экспертов в области ИИ, этики и других наук.
Предполагается, что Ethically Aligned Design породит дискуссии в обществе о том, как интеллектуальные и автономные системы должны вести себя в системе ценностей и этических принципов человечества. Хотя искусственный интеллект является достаточно многообещающей технологией, становится очевидно, что нужно нечто большее, чем просто вычислительные мощности, дабы решить «глубинные» проблемы. Поэтому новый стандарт предостерегает разработчиков от создания черных ящиков и предлагает методологии для проведения исследований.
IEEE отмечает, что роботы не должны причинять вред пользователям. В документе говорится, что интеллектуальные системы становятся все более сложными, потому незапрограммированное поведение может стать опасным, и необходим надзор за процедурой разработки интеллектуальных и автономных систем.
Новые и уже существующие рабочие группы проведут встречу по этому вопросу в Техасском университете в Остине 5–6 июня 2017 года, чтобы внести правки и учесть пожелания общественности во второй версии документа Ethically Aligned Design, который будет выпущен осенью того же года.
Роботы в России
Стоит отметить, что подобными вопросами задаются и в России. Например, 15 декабря учредитель Grishin Robotics и сооснователь Mail.ru Group Дмитрий Гришин совместно с юристом Виктором Наумовым представил проект закона «О робототехнике».
В документе предлагается частично применять к роботам то же самое регулирование, которое применяется к животным и юрлицам. На сегодняшний день, как объясняет Гришин, искусственный интеллект не имеет эмоций, потому не может стать субъектом права — в этом они похожи на животных. Что касается юрлица, то искусственный интеллект является «особой юридической конструкцией».
Гришин допустил создание единого реестра роботов по типу ЕГРЮЛ и введение ответственности (в том числе уголовной) для производителей роботов, как владельцев источника повышенной опасности. По мнению Гришина, роботы могут быть субъектами уголовного права. Он отмечает четыре возможные ситуации: намеренное создание робота-убийцы с целью совершения правонарушения, умышленное отключение программ робота, блокирующих причинение вреда человеку, а также умышленное и неумышленное создание робота, способного нанести вред человеку.
Проект закона был отправлен в ведущие юридические институты, и авторы выражают надежду, что он станет базой для внесения изменений в Гражданский кодекс.
Президент Cognitive Technologies Ольга Ускова тоже уверена, что вопрос внесения изменений в законодательство поднят очень своевременно. Её аргументом стало то, что отрасль автопилотируемых автомобилей развивается гораздо стремительнее, чем прогнозировалось (например, в Питтсбурге Uber уже начал тестирование беспилотников на улицах города).
Она отмечает, что необходимо ввести метрики и стандарты для установления уровня интеллекта роботов, и отработать правила поведения машин с интеллектом в критических ситуациях.
«Вопросы общефилософского характера и ответственности должны тоже решаться, но как часть регулирования. В первую очередь нужно выработать систему взаимоотношений между машинами, а также между людьми и машинами», — продолжает Ускова.
Гришин убежден, что очень важно не начинать регулирование этой отрасли в России с введения запретов. Да, роботы сейчас меньше распространены в России, чем, к примеру, в Соединенных Штатах, но Россия имеет шанс стать первой в области регулирования робототехники, что даст огромные преимущества.
О чем еще мы пишем в блоге VAS Experts на Хабре:
- «Эхо прошлых лет»: Как решается вопрос недостатка адресов IPv4
- «Везде на связи»: Интернет на воде, в воздухе и космосе
- DPI-дайджест: Анализ трафика, блокировки, платформы и производители систем DPI
