Microsoft упразднила свою команду «этичного AI»
Microsoft распустила команду «этичного AI», чьей задачей было приведение всех AI-продуктов компании к «этичным, ответственным и устойчивым результатам». Упразднение команды проводится в рамках сокращения 10 тыс. сотрудников, о котором компания объявляла ранее. Недовольные решением Microsoft специалисты по этичному AI заявили Platformer, первому написавшему об этом событии, что их уволили, потому что корпорация фокусируется на быстром выпуске AI-продуктов и меньше заботится о долгосрочном и социально ответственном мышлении.
Ещё в 2020 году численность команды по этике достигала 30 сотрудников, включая инженеров, дизайнеров и философов. В октябре 2022 в рамках реорганизации команда была сокращена до семи человек. В точные формулировки работу этичной команды упаковать сложновато. Например, The Verge пишет, что это подразделение играло решающую роль в обеспечении того, чтобы принципы ответственного AI компании действительно отражались в поставляемых продуктах. Сами члены упразднённой команды объясняли так: «Люди смотрели на принципы, исходящие из офиса ответственного AI, и говорили: «Я не знаю, как это применимо». Наша работа заключалась в том, чтобы создать правила в областях, где их не было».
Например, команда разработала ролевую игру под названием Judgment Call, которая помогала сотрудникам предвидеть потенциальный вред, который может нанести AI, и обсудить его во время разработки продукта. Это было частью более крупного «инструментария ответственных инноваций», который потом стал публичным достоянием. Кроме того, команда работала над выявлением рисков, связанных с внедрением Microsoft технологии OpenAI во все свои продукты.
Собеседники Platformer рассказали, что со временем давление на команду со стороны главного технического директора Microsoft Кевина Скотта и генерального директора Сатьи Наделлы нарастало, так как они были заинтересованы в быстром выпуске на рынок всех новинок. В то время как команда только работала над выявлением рисков, связанных с интеграцией Microsoft технологии OpenAI в свой набор продуктов.
Официально Microsoft по-прежнему поддерживает свой Office of Responsible AI (ORA), который устанавливает правила для ответственного AI. Комментаторы считают, что такие команды, как отдел Microsoft по этике и обществу, часто «тянут поводья» в больших технокомпаниях, указывая на потенциально рискованные социальные или юридические последствия и не давая продуктам быстро выходить на рынок. Возможно, Microsoft больше не хотела слышать «Нет», так как слишком сосредоточена на том, чтобы отнять долю рынка у поисковика Google. Компания считает, что каждый 1% доли рынка, которую она может отобрать у Google, способен принести ей годовой доход в размере $2 млрд. На прошлой неделе уже было объявлено, что аудитория Bing достигла 100 млн пользователей в день, причём треть из них — новые пользователи, пришедшие после перезапуска поисковой системы с технологией OpenAI.
