Искусственный интеллект в Google: наши принципы
Сундар Пичаи, генеральный директор Google
По сути, искусственный интеллект (ИИ) — это компьютерная программа, которая учится и адаптируется. Он не может решить все проблемы, но вероятность того, что он улучшит нашу жизнь, очень велика. Мы в Google используем AI, чтобы сделать наши продукты полезнее: от электронной почты без спама и писем, которые стало легче писать, до Google Ассистента, разговор с которым похож на разговор с человеком, и Google Фото с его умными функциями редактирования фотографий.
Мы используем ИИ не только в наших продуктах, но и для того, чтобы помогать людям решать серьезные проблемы. Например, двое старшеклассников работают над созданием датчиков на основе ИИ, которые помогут предсказывать вероятность лесных пожаров. Фермеры с его помощью следят за здоровьем коров. Врачи начали использовать искусственный интеллект для диагностики рака и предотвращения потери зрения. Именно из-за этих очевидных достоинств Google вкладывает ресурсы в исследование и развитие ИИ и старается сделать технологии на основе ИИ более доступными при помощи собственных сервисов и открытого исходного кода.
Мы понимаем, что к технологии с такими огромными возможностями, не могут не возникать вопросы. То каким образом развивается и используется ИИ будет очень сильно влиять на общество еще много лет. Мы являемся лидерами в этой области и ощущаем свою ответственность. Поэтому сегодня мы представляем семь принципов, которыми будем руководствоваться при работе в этом направлении. Это не теоретические принципы, а четкие стандарты, которыми будут регулироваться наша исследовательская деятельность, разработка наших продуктов и наши бизнес-решения.
Мы признаем, что эта очень динамично развивающаяся область, поэтому мы будем подходить к работе в ней с осторожностью, соблюдая внутренние и внешние обязательства и с готовностью изменить свой подход по мере приобретения новых знаний.
Основные принципы применения искусственного интеллекта
Мы будем оценивать сервисы с применением ИИ на соответствие следующим принципам. Мы считаем, что искусственный интеллект должен:
1. Приносить пользу обществу
Распространение новых технологий сильно влияет на общество в целом. Развитие ИИ принципиально изменит очень многие области, включая здравоохранение, безопасность, энергетику, транспорт, производство и индустрию развлечений. Поскольку нас волнует потенциальное развитие и использование ИИ, мы будем учитывать множество социальных и экономических факторов и выбирать тот путь, на котором, по нашему мнению, вероятные преимущества значительно перевесят ожидаемые риски и недостатки.
Кроме того, ИИ значительно увеличивает наши способности понимать значение контента в масштабе. Мы будем стремиться сделать доступной качественную и точную информацию при помощи ИИ, уважая при этом культурные, социальные и законодательные нормы тех стран, где мы работаем. И мы продолжаем вдумчиво оценивать, когда делать наши технологии доступными на некоммерческой основе.
2. Не создавать и не поддерживать предубеждения
Алгоритмы ИИ и массивы данных могут отражать, усиливать или ослаблять предубеждения. Мы понимаем, что не всегда просто выявить дискриминацию, и что в разных культурах и обществах это понятие может отличаться. Мы делаем все, чтобы избежать несправедливости, особенно если дело касается таких деликатных вопросов, как раса, этническая принадлежность, гендер, национальность, уровень дохода, сексуальная ориентация, здоровье, политические взгляды или религиозные верования.
3. Создаваться безопасными и тестироваться на предмет безопасности
Мы продолжаем разрабатывать и применять надежные практики безопасности и защиты, чтобы избежать нежелательных результатов, создающих риски причинения вреда. Мы будем разрабатывать системы искусственного интеллекта, которые работают с должной осторожностью, и будем развивать их в соответствии с рекомендациями исследований по безопасности ИИ. Когда это необходимо, мы будем тестировать свои технологии в ограниченной среде и следить за их работой после внедрения.
4. Быть управляемым людьми
Мы будем создавать системы искусственного интеллекта, предлагающие соответствующие возможности для обратной связи, разъяснений и апелляции. Наши технологии ИИ будут находятся под соответствующим контролем и руководством человека.
5. Соблюдать принципы конфиденциальности
Мы будем включать и соблюдать принципы конфиденциальности при разработке и использовании технологий на основе ИИ. Мы будем обеспечивать возможность уведомлений и получения согласия, поощрять платформы с защитой конфиденциальности, а также будем гарантировать должную прозрачность использования данных и контроль над ним.
6. Следовать высоким стандартам передового научного опыта
Технологические инновации основываются на научном методе и ориентации на открытость, интеллектуальную точность, единообразие и сотрудничество. Инструменты на основе искусственного интеллекта могут открыть принципиально новые возможности для научных исследований и помочь получить новые знания в важнейших областях, например, биологии, химии, медицине и энвайронментологии. Работая над усовершенствованием ИИ, мы будем стремиться соответствовать высоким стандартам передовой науки.
Мы будем сотрудничать с большим числом людей и организаций, чтобы продвигать вдумчивое лидерство в этой области, опираясь при этом на строго научные мультидисциплинарные подходы. И мы будем с особой ответственностью относится к этой области, распространяя свои знания об искусственном интеллекте. Мы будем публиковать образовательные материалы, методические рекомендации и результаты исследований, которые позволяют большему количеству людей разрабатывать полезные способы применения искусственного интеллекта.
7. Быть доступными для использования, которое соответствует этим принципам
Технологии можно использовать разными способами. Мы будем ограничивать потенциально опасные и недопустимые способы применения. При разработке и применении технологии ИИ мы будем руководствоваться следующими критериями:
- Основная цель и способ применения: основная цель и вероятные способы применения технологии и сервиса, включая то, насколько тесно технология связана с потенциальным вредоносным использованием;
- Характер и уникальность: распространяем ли мы уникальную технологию или общедоступную;
- Масштаб: может ли использование этой технологии оказать серьезное влияние;
- Характер участия Google: создаем ли мы универсальные инструменты, внедряем ли инструменты для пользователей или разрабатываем индивидуальные решения.
Области применения искусственного интеллекта, в которых мы не будем работать
Помимо следования описанным выше критериям, мы не будем разрабатывать и внедрять технологии ИИ в следующих областях:
1. Технологии, которые наносят или могут нанести глобальный ущерб. Если есть риск, мы продолжим работать, только если сочтем, что преимущества перевешивают риски. При этом будут приняты необходимые меры безопасности.
2. Оружие или другие технологии, основной целью или способом применения которых является причинение вреда людям.
3. Технологии, которые собирают или используют информацию для разведки, нарушая при этом международные нормы.
4. Технологии, целью которых является нарушение принципов международного законодательства и прав человека.
Мы хотим пояснить, что, хотя мы не разрабатываем ИИ для применения в оружии, мы продолжаем сотрудничество с правительствами и армией во многих других аспектах, включая кибербезопасность, обучение, комплектование армии, охрану здоровья ветеранов и поисково-спасательные работы. Это сотрудничество очень важно, и мы активно ищем новые способы усовершенствовать работу этих организаций и обеспечить безопасность военнослужащих и мирного населения.
Искусственный интеллект в долгосрочной перспективе
Когда мы озвучиваем наш подход к применению технологий ИИ, мы понимаем, что важно поддерживать диалог и учитывать различные мнения. ИИ-технологии развиваются, и мы будем сотрудничать с заинтересованными лицами и организациями, чтобы обеспечить вдумчивое лидерство в этой области, опираясь на строго научный и междисциплинарный подход. Мы продолжим делиться новыми знаниями, чтобы совершенствовать технологии ИИ и практику его применения.
Мы считаем, что эти принципы являются хорошей основой как для деятельности нашей компании, так и для развития искусственного интеллекта в будущем. Этот подход соответствует целям, заявленным в первом «Письме основателей» в 2004 году. Тогда мы писали, что собираемся делать выбор в пользу долгосрочной перспективы, даже если сейчас для этого необходимо пойти на компромисс. Мы говорили об этом тогда и остаемся верны этим принципам.
