Почему Кремниевая долина не «дружит» с Вашингтоном
Основная проблема науки в постиндустриальном обществе, пишет Д.Белл, — это вторжение профессионального сообщества, т.е. институализированного научно-административного аппарата (чиновников от науки) в деятельность непосредственных участников научно-исследовательского процесса, собственно, самих учёных и научных коллективов. Но это вынужденная необходимость, так как исчез принцип свободного сотрудничества между государством и наукой. «Вопрос о том, чем должна заниматься наука, становится предметом переговоров, — резюмирует Д.Белл, — если наука желает получать достаточный объём ресурсов для своей деятельности от общества» [1, с. 515].
Ранее фундаментальные и перспективные разработки в сфере интернет коммуникаций и других инноваций финансировались, в основном, за счёт бюджетных средств. Сеть интернет развилась из проекта, курируемого непосредственно Агентством перспективных оборонных исследований (DARPA). Фундаментальное исследование, которое в конечном итоге привело к созданию Google, финансировалось Национальным научным фондом (NSF). Этот момент описал Дэвид Харт в своей статье 2004 года «О происхождении Google». И последний пример, чтобы понимать масштаб государственной интервенции в науку: DARPA в период с 1983 по 1993 год инвестировала более 1 миллиарда долларов в развитие ИИ для военных целей, но в конечном итоге отказалась от этой инициативы из-за более медленного, чем ожидалось, прогресса.
Однако тема приложения ИИ в военных целях и кибербезопасности стоит сегодня довольно остро в американских политических кругах. В некоторых стратегических документах, связанных с национальной безопасностью США, цитируют слова В.Путина, сказанные в 2017 году: «Кто станет лидером в этой сфере <в сфере ИИ>, будет властелином мира». Целиком высказывание президента РФ по вопросу ИИ можно найти здесь. Также у североамериканских лидеров есть серьёзные опасения по поводу успехов Китая в военных разработках с применением ИИ.
Эти причины вынуждают государство — военные ведомства и разведку, хотят они того или нет, сотрудничать с коммерческим сектором, так как частные разработки, во многом, опережают все существующие бюджетные сектора разработок в США. О непростых отношениях между IT-сектором в лице коммерческих разработчиков (корпораций) и политическим руководством пойдёт речь в данной статье.
Чтобы спуститься с плато иллюзий и узнать каковы на самом деле отношения между лидерами американского IT-бизнеса и чиновниками, обратимся к докладу по Национальной безопасности США от 26.08.2020 года, где эксплицирована данная проблема, требующая особого внимания всех заинтересованных лиц. С моей точки зрения, суть основных конфликтных причин в следующем:
1. Трудности приобретения продукта (подразумевается медлительность и нерасторопность департамента по безопасности в коммерческих делах, как то: нестабильная бюджетная среда, длительные сроки заключения контрактов, условия государственных контрактов и неопытность служащих Министерства обороны по коммерческим контрактам).
2. Озабоченность по поводу прав на интеллектуальную собственность и на данные (Минобороны оказывает все большее давление на частные компании, чтобы они предоставляли неограниченные права на технические данные и программное обеспечение или права государственного назначения).
3. Существенное расхождение в оплате труда специалистов в области ИИ по сравнению с коммерческими компаниями (если Минобороны и оборонная промышленность не смогут нанимать и удерживать экспертов соответствующего уровня, то применение военного ИИ может быть отложено на неопределённый срок).
4. Недоверие частников к военным (опрос руководителей нескольких ведущих компаний «Кремниевой долины» обнаружил, что почти 80% респондентов оценили отношения с Минобороны как «плохие» или «очень плохие».
5. Этические опасения по поводу использования ИИ в системах наблюдения или оружия (Смотри: Дайсуке Вакабаяши и Скотт Шейн, «Google не будет продлевать контракт с Пентагоном, который расстроит сотрудников», New York Times, 1 июня 2018 г.,) Но, например, Дж. Безос говорит, что технологические компании должны работать с Пентагоном.
Недоверие к военным
Рассмотрим более подробно пункт четыре, так как остальные пункты содержат в себе обоснованные логические опасения частной коммерческой компании в отношении специфики своего бизнеса, продуктов и т.д. Центром новой американской безопасности (CNAS) и институтом «Copia» было подготовлено исследование, в котором были опрошены руководители крупных коммерческих IT-организаций США. Заголовок доклада носит говорящее название: «Непростые отношения между Вашингтоном и Кремниевой долиной».
Во-первых, ответы на опросы и интервью подтверждают общепринятое мнение о том, что отношения между политикой и технологиями являются напряженными и порой враждебными.
Во-вторых, все участники опросов и интервью описывали продуктивные сессии — встречи, конференции, мозговые штурмы, которые в конечном счете ни к чему не привели. В более раннем исследовании CNAS, посвященной попыткам Минобороны сотрудничать с Кремниевой долиной, представители технологической индустрии и правительства в равной степени жаловались на всё более разочаровывающее явление, которое они называли «технологическим туризмом»: правительственные сотрудники ищут встречи с ведущими представителями технологический компаниями без определенных целей и без плана конкретных результатов или дальнейшего взаимодействия.
В-третьих, взаимодействие резко ухудшается из-за существующих различий между специализированными знаниями в технических и политических сообществах. Причём отсутствие знаний в области политики, для технических специалистов, не воспринимается как особая проблема.
В-четвёртых, есть проблематика консенсусных тем. Технарей интересует: локализация данных, криптовалюты, технологии и гражданское общество, «интернет вещей». Видят для себя спорными темы: кибербезопасности, шифрования и борьбы с терроризмом.
Интересно, что между чиновниками из Вашингтона и представителями технических корпораций существует общее разочарование по поводу юристов (юридических отделов), которые сильно препятствуют взаимным контактам с обеих сторон. Американский юрист — это существо метаструктурное. Также нелицеприятные отзывы за свое участие в совместных дискуссиях получили: пресса, инвесторы, международные организации и отраслевые ассоциации.
Почему чиновники против внедрения искусственного интеллекта?
Доклад был бы не полным, если бы мы не рассмотрели ещё один существенный аспект во взаимоотношения между инновационными технологиями и людьми, принимающими решения. Этот аспект можно транспонировать на все страны и чиновников всех уровней.
Интеграция ИИ в существующие системы изменяет стандартизированные процедуры и меняет четко определенные роли персонала. Члены проекта «Maven» (Project Maven — ИИ алгоритм для идентификации целей — повстанцев в Ираке и Сирии) сообщили о сопротивлении интеграции ИИ, поскольку интеграция может быть разрушительной и при этом не обеспечить обещанную выгоду.
Заместитель директора по технологическому развитию ЦРУ Д.Мейеррик также выразила озабоченность по поводу готовности старших руководителей принять анализ, созданный искусственным интеллектом. Она озаботилась, что культура неприятия риска оборонного истеблишмента может представлять большие проблемы будущей конкурентоспособности США из-за темпов развития технологий противника.
Некоторые аналитики обеспокоены тем, что Минобороны не будет использовать потенциал ИИ для получения выгоды от боевых действий, меняющий правила игры в принципе, а вместо этого будет просто использовать алгоритмы для постепенного улучшения существующих процессов или укрепления текущих операционных концепций, не грозящих кардинальными изменениями в структуре организации командных позиций. Кроме того, военные могут полностью отклонить некоторые приложения искусственного интеллекта, если эта технология будет угрожать обслуживаемому оборудованию или военным миссиям.
В социальной теории противодействие инновациям можно объяснить разностью социальных диспозиций, т.е. потерей социального статуса, ненужностью для лица, принимающего решения. Здесь мы имеем дело с пресловутой безработицей, являющейся последствием внедрения ИИ в различные аспекты экономики, администрирования и государственного управления (суть дизруптивных технологий описаны в «Четвёртой промышленной революция» К.Шваба [2]). Потеря работы коснётся не только водителей и кассиров, но большого количества чиновников, в том числе военных и спецслужбистов.
Вывод
Фундаментальные различия между государственным и коммерческим подходами к решению проблем подрывают успех межотраслевого взаимодействия. Сотрудничество затруднено из-за большой разности в целях и темпах операций. Также в качестве проблемы можно выделить потерю статусных позиций со стороны ответственных лиц и недоверие к технологиям, основанным на машинном обучении. Отсутствие прогресса в межсекторальном взаимодействии, в значительной степени, хотя и не однозначно, является проблемой правительства, — полагают «айтишники».
Литература:
1. Белл Д. Грядущее постиндустриальное общество, М.: Academia, 2004 г. — 788 с.
2. Шваб К Четвертая промышленная революция, М.: Эксмо, 2016 г. — 208 c.
