Траст долгосрочной выгоды19.09.2023 00:00

Сегодня мы делимся подробностями о нашей новой структуре управления — Трасте долгосрочной выгоды (Long-Term Benefit Trust, LTBT), над которым мы работаем с самого момента основания Anthropic. LTBT — это наша попытка точечно настроить корпоративное управление так, чтобы справиться с уникальными вызовами и долгосрочными возможностями, которые, как мы верим, представит миру трансформационный ИИ.

Траст представляет собой независимый орган, состоящий из пяти финансово незаинтересованных членов, наделенный полномочиями назначать и смещать часть нашего Совета директоров (в конечном итоге — большинство членов Совета), причем со временем эта доля будет расти. В сочетании с нашим статусом корпорации общественного блага (Public Benefit Corporation), LTBT помогает согласовать наше корпоративное управление с миссией по разработке и поддержанию передового ИИ на благо всего человечества в долгосрочной перспективе.

Основы корпоративного управления

Деятельность корпорации контролируется ее советом директоров. Совет выбирает и курирует управленческую команду (в особенности генерального директора), которая, в свою очередь, нанимает сотрудников и управляет ими. Стандартная модель корпоративного управления предполагает подотчетность директоров акционерам в нескольких отношениях. Например:

• Директора избираются акционерами и могут быть ими смещены.
• Директора несут юридическую ответственность перед акционерами за выполнение своих фидуциарных обязанностей.
• Директорам часто выплачивают вознаграждение в виде акций компании, что помогает увязать их стимулы с финансовыми интересами акционеров.

Важно отметить, что права избирать, смещать и привлекать к суду директоров принадлежат исключительно акционерам. В связи с этим возникает вопрос: дозволено ли директорам корпорации действовать в интересах других заинтересованных сторон (стейкхолдеров), помимо акционеров самой компании, таких как клиенты и широкая общественность? Этот вопрос является предметом оживленных дискуссий, в которые мы не будем вдаваться здесь. Для наших текущих целей достаточно отметить, что все ключевые механизмы подотчетности в корпоративном праве подталкивают директоров ставить на первое место финансовые интересы акционеров.

Точная настройка корпоративного управления Anthropic

Корпоративное управление формировалось на протяжении веков правовых прецедентов и эволюции, и мнения о его эффективности, сильных и слабых сторонах сильно различаются. С точки зрения Anthropic, способность корпоративного управления приводить к социально полезным результатам во многом зависит от внерыночных экстерналий (внешних эффектов). Экстерналии — это тип рыночного сбоя, который возникает, когда сделка между двумя сторонами влечет за собой издержки или выгоды для третьей стороны, которая не давала согласия на эту сделку. К распространенным примерам издержек относятся загрязнение окружающей среды заводами, системные финансовые риски от банков и риски национальной безопасности от производителей оружия. Примерами положительных побочных эффектов являются общественные блага от образования, которые выходят за рамки отдельных обучающихся лиц, или инвестиции в НИОКР, стимулирующие целые сектора за пределами компании, осуществляющей инвестиции. Многие стороны, заключающие контракты с корпорацией, такие как клиенты, работники и поставщики, способны вести переговоры или требовать таких цен и условий, которые отражают полную стоимость и выгоды их обмена. Но другие стороны, например широкая общественность, не заключают прямых контрактов с корпорацией и, следовательно, не имеют возможности заявить о расходах и выгодах, которые они испытывают, или оплатить их.

Чем масштабнее экстерналии, тем меньше оснований полагать, что стандартные модели корпоративного управления будут служить интересам незаключивших контракт сторон, таких как широкая общественность. Мы считаем, что ИИ может породить <дз>беспрецедентно масштабные экстерналиидз> — от рисков национальной безопасности и крупномасштабных экономических потрясений до фундаментальных угроз человечеству, а также колоссальных выгод для безопасности и здоровья людей. Технология развивается столь стремительно, что законы и социальные нормы, ограничивающие другие виды корпоративной деятельности с высоким уровнем экстерналий, еще не поспевают за ИИ. Это побудило нас инвестировать в точную настройку управления Anthropic, чтобы достойно встретить предстоящие вызовы.

Если говорить ясно, в большинстве повседневных решений Anthropic общественное блага не противоречит коммерческому успеху или доходности акционеров. Наш опыт показывает, что зачастую они сильно взаимодополняют друг друга: наша способность проводить эффективные исследования в области безопасности зависит от создания передовых моделей (ресурсы для чего во многом обеспечиваются коммерческим успехом), а наша способность стимулировать «гонку лидеров» зависит от того, являемся ли мы жизнеспособной компанией в экосистеме как в техническом, так и в коммерческом смысле. Мы не ожидаем, что LTBT будет вмешиваться в эти повседневные решения или в нашу обычную коммерческую стратегию.

Скорее, необходимость тонкой настройки структуры управления проистекает из возможности возникновения экстремальных ситуаций и необходимости справляться с ними, помня об интересах человечества. Мы ожидаем, что LTBT будет заниматься в первую очередь именно этими долгосрочными вопросами. Например, LTBT может гарантировать, что руководство организации будет стимулироваться к тщательной оценке будущих моделей на предмет катастрофических рисков или к обеспечению уровня безопасности национального масштаба, вместо того чтобы ставить во главу угла стремление первыми выйти на рынок любой ценой.

Базовый уровень: Корпорация общественного блага

Одна из особенностей управления, о которой мы уже сообщали, заключается в том, что Anthropic является корпорацией общественного блага штата Делавэр (Public Benefit Corporation, PBC). Как и большинство крупных компаний в США, Anthropic зарегистрирована в Делавэре, и корпоративное право этого штата прямо разрешает директорам PBC совмещать финансовые интересы акционеров с целями общественного блага, указанными в учредительном сертификате корпорации, а также с наилучшими интересами тех, на кого деятельность корпорации оказывает существенное влияние. Цель общественного блага, заявленная в сертификате Anthropic, заключается в ответственном развитии и поддержании передового ИИ в долгосрочных интересах человечества. Это дает нашему совету директоров юридическую свободу действий для взвешивания долгосрочных и краткосрочных экстерналий принимаемых решений — например, развертывания той или иной системы ИИ — наряду с финансовыми интересами акционеров.

Юридическая свобода, обеспечиваемая нашей структурой PBC, имеет решающее значение для согласования управления Anthropic с нашей миссией общественного блага. Однако мы сочли ее недостаточной для решения задач в области управления, которые мы предвидим по мере разработки трансформационного ИИ. Хотя форма PBC юридически позволяет директорам балансировать между общественными интересами и максимизацией стоимости для акционеров, она не делает директоров корпорации напрямую подотчетными другим заинтересованным сторонам и не связывает их стимулы с интересами широкой общественности. Мы задались целью разработать такую структуру, которая обеспечит нашим директорам необходимые рычаги подотчетности и стимулы для надлежащего баланса между финансовыми интересами акционеров и нашей миссией общественного блага в ключевые моменты, когда последствия наших решений, как мы ожидаем, выйдут далеко за рамки Anthropic.

LTBT: Базовая структура и особенности

Траф долгосрочной выгоды Anthropic (LTBT или Траст) — это независимый орган, состоящий из пяти доверенных лиц (попечителей) с опытом работы и экспертизой в области безопасности ИИ, национальной безопасности, государственной политики и социального предпринимательства. Устройство Траста призвано оградить попечителей от личной финансовой заинтересованности в Anthropic и предоставить им достаточную независимость для соблюдения баланса между интересами общественности и интересами акционеров Anthropic.

По завершении нашего раунда финансирования Серии C мы внесли поправки в наш устав, создав новый класс акций (класс T), которыми владеет исключительно Траст.1 Акции класса T предоставляют Трасту полномочия по выбору и смещению членов совета директоров Anthropic в количестве, которое будет поэтапно увеличиваться в зависимости от временных и финансовых этапов; в любом случае Траст изберет большинство совета директоров в течение 4 лет. Одновременно с этим мы создали новое место в совете директоров, которое будет избираться инвесторами Серии C и последующих раундов, чтобы гарантировать постоянное прямое представительство точек зрения наших инвесторов в совете в будущем.

Акции класса T также включают в себя «защитные положения», которые требуют предварительного уведомления Траста о некоторых действиях, способных существенно изменить корпорацию или ее бизнес.

Траст организован как «траст целевого назначения» (purpose trust) в соответствии с прецедентным правом Делавэра с целью, аналогичной цели Anthropic. Траст обязан использовать свои полномочия для того, чтобы Anthropic ответственно балансировала между финансовыми интересами акционеров и интересами лиц, на которых влияет деятельность Anthropic, а также нашей миссией общественного блага.

Иной тип акционера

Создавая Траст долгосрочной выгоды, мы фактически сформировали иной тип акционера Anthropic. Деятельность Anthropic по-прежнему будет курироваться ее советом директоров, который, как мы ожидаем, будет принимать судьбоносные решения на пути к созданию трансформационного ИИ. При принятии этих решений большинство членов совета директоров в конечном итоге будет подотчетно как Трасту, так и акционерам, и тем самым будет иметь стимулы для правильного балансирования общественного блага с интересами акционеров. Более того, совет директоров выиграет от идей и экспертных оценок попечителей, обладающих глубокими знаниями и опытом в ключевых областях миссии Anthropic на благо общества. Мы верим, что в совокупности понимание и стимулы, предоставляемые Трастом, приведут к более качественному принятию решений в самые ответственные моменты.

Постепенный («поэтапный») ввод в действие LTBT позволит нам корректировать экспериментальную структуру по ходу дела, а также отражает гипотезу о том, что на ранних этапах истории компания часто лучше всего функционирует при упрощенном управлении и небольшом числе стейкхолдеров. По мере же ее взросления и усиления глубокого влияния на общество экстерналии начинают проявляться всё ярче, делая систему сдержек и противовесов более критически важной.

Эксперимент в области корпоративного управления

Траст долгосрочной выгоды — это эксперимент. Его устройство представляет собой продуманную гипотезу, созданную при участии ведущих специалистов и практиков в области корпоративного управления в стране, которые помогли нашему руководству спроектировать и протестировать («красная команда») эту структуру. Мы пока не готовы преподносить ее как образец для подражания; мы — эмпирики и хотим посмотреть, как это будет работать на практике.

Одной из сложнейших задач при проектировании было совмещение необходимости сделать структуру Траста устойчивой к обходным маневрам в критические моменты с реальностью ее экспериментальной природы. Важно не допустить легкой отмены этой схемы, но в то же время с первого раза реализовать подобные вещи идеально получается редко. Поэтому мы разработали процедуру внесения поправок, которая тщательно балансирует между долговечностью и гибкостью. Мы предполагаем, что большинство корректировок будет вноситься по соглашению между попечителями и Советом директоров Anthropic либо между попечителями и остальными акционерами. Однако, учитывая экспериментальный характер Траста, мы также предусмотрели ряд «предохранительных» положений (failsafes), которые позволяют вносить изменения в сам Траст и его полномочия без согласия попечителей в случае одобрения квалифицированным большинством акционеров. Необходимое для этого большинство голосов растет по мере расширения полномочий Траста, исходя из той логики, что со временем у нас накопится больше опыта (и снизится потребность в итерациях), а ставки станут выше.

Знакомство с первыми попечителями

Первыми попечителями стали:

Джейсон Матени (Jason Matheny): генеральный директор RAND Corporation
Каника Бахл (Kanika Bahl): генеральный и исполнительный директор Evidence Action
Нил Бадди Шах (Neil Buddy Shah): генеральный директор Clinton Health Access Initiative (председатель)
Пол Кристиано (Paul Christiano): основатель Alignment Research Center
Зак Робинсон (Zach Robinson): исполняющий обязанности генерального директора Effective Ventures US

Совет директоров Anthropic выбрал этих первых попечителей по итогам годичного процесса поиска и собеседований, целью которого было выявить людей, отличающихся рассудительностью, сильным характером и глубоким пониманием рисков, преимуществ и траектории развития ИИ и его влияния на общество. Попечители занимают свои должности в течение одного года, а будущие попечители будут избираться голосованием самих попечителей. Для нас большая честь, что эта группа основателей-попечителей согласилась войти в состав Траста, и мы верим, что они обеспечат бесценное видение и здравые суждения.

[1] Более ранняя версия Траста, которая тогда называлась «Комитетом долгосрочной выгоды» (Long-Term Benefit Committee), была прописана в наших инвестиционных документах Серии А в 2021 году, но поскольку комитет не должен был избирать своего первого директора до 2023 года, мы использовали это время для тестирования («красная команда»), совершенствования юридической структуры и тщательного рассмотрения кандидатур. Результатом и стал нынешний LTBT.

[2] Структура Траста была разработана и протестирована («красная команда») при неоценимой помощи Джона Морли из Юридической школы Йельского университета, Дэвида Бергера, Эми Симмерман и других юристов из Wilson Sonsini, а также Ноа Фельдмана и Сет Берман из Гарвардской школы права и Ethical Compass Advisors.