Google основала внешний совет по этике ИИ
Компания Google основала Внешний консультативный совет по передовым технологиям (Advanced Technology External Advisory Council, ATEAC) для рассмотрения этических вопросов, связанных с развитием Искусственного Интеллекта и других новых технологий.
Главным образом, внешний совет должен наблюдать за разработками самой компании Google на предмет соответствия этическим принципам, которые компания сформулировала летом 2018 года.
Совет включает в себя экспертов по технологиям, цифровой этике и людей с опытом государственной политики. Первый отчёт планируется опубликовать в конце 2019 года.
Группа предназначена для предоставления рекомендаций Google и другим компаниям и исследователям. «Мы хотим получить максимально информированную и вдумчивую оценку, — сказал старший вице-президент Google Кент Уокер, выступая на мероприятии MIT Technology Review в Сан-Франциско. — Мы хотим сесть с советом и посмотреть, какую нужно установить повестку».
Напомним семь принципов Google в области ИИ, которые сформулировал в июне 2018 года исполнительный директор компании Сундар Пичаи:
Достижения в области ИИ окажут преобразующее воздействие в широком спектре областей, включая здравоохранение, безопасность, энергетику, транспорт, производство и развлечения. Рассматривая потенциальное развитие и использование технологий ИИ, компания будет учитывать широкий спектр социальных и экономических факторов и будет действовать там, где общие вероятные выгоды существенно превышают прогнозируемые риски и недостатки.
Алгоритмы и наборы данных ИИ могут отражать, усиливать или уменьшать дискриминацию. Google признаёт, что отличить справедливое от несправедливого предубеждения не всегда просто и что оно отличается в разных культурах и обществах. Компания обещает «стремиться избегать несправедливых последствий для людей, особенно тех, которые связаны с такими деликатными характеристиками, как раса, этническая принадлежность, пол, национальность, доход, сексуальная ориентация, способности и политические или религиозные убеждения».
Cистемы искусственного интеллекта Google будут «в должной степени осторожны» и разработаны «в соответствии с передовой практикой в области исследований безопасности искусственного интеллекта».
Cистемы ИИ обеспечат соответствующие возможности для обратной связи, соответствующих объяснений своих действий и возможных апелляций. Человек сохранит над ними контроль.
Google обещает использовать свои принципы приватности при разработке и использовании технологий ИИ, и, а также обеспечить надлежащую прозрачность и контроль над использованием данных.
Технологические инновации произрастают из научного метода и приверженности открытым запросам, интеллектуальной строгости, целостности и сотрудничеству. Инструменты ИИ имеют потенциал, чтобы разблокировать новые сферы научных исследований и знаний в критических областях, таких как биология, химия, медицина и науки об окружающей среде. Google обещает стремиться к высоким стандартам научного превосходства, ответственно делиться знаниями об ИИ, публиковать учебные материалы, лучшие практики и исследования, которые позволяют большему количеству людей разрабатывать полезные приложения ИИ.
У многих технологий есть двойное применение, в том числе у ИИ. Google обещает работать над ограничением потенциально вредных или оскорбительных приложений, а также оценивать их вероятное использование.
Сундар Пичаи также назвал технологии, которые неприемлемы для искусственного интеллекта Google:
- Технологии, которые причиняют или могут причинить общий вред.
- Оружие или другие технологии, основная цель или осуществление которых состоит в причинении или непосредственном облегчении вреда людям.
- Технологии, которые собирают или используют информацию для наблюдения, нарушают международно признанные нормы.
- Технологий, цель которых противоречит общепризнанным принципам международного права и прав человека.
Внешний консультативный совет по передовым технологиям состоит из восьми членов. Среди них Джоанна Брайсон, адъюнкт-профессор вычислительной техники в университете Бата; Уильям Дж. Бернс, бывший заместитель госсекретаря США, и Дайана Гиббенс, исполнительный директор хьюстонского стартапа Trumbull Unmanned, который разрабатывает дронов, в том числе по госзаказу.
На протяжении 2019 года «совет по этике» соберётся четыре раза.
