Anthropic предупредила инвесторов, что её ИИ может представлять угрозу для человечества
- В документах к IPO Anthropic предупредила, что мощный ИИ может создать катастрофические или экзистенциальные риски, а её меры безопасности не гарантируют их предотвращения.
- Компания также указала на риски нехватки энергии и инфраструктуры, сопротивления строительству дата-центров и юридических претензий.
- Anthropic призывает замедлить разработку мощных моделей, но предупреждает: более медленный рост рынка или спроса может ухудшить финансовые результаты.
Почему это важно: Инвесторам предстоит оценить, как компания будет контролировать риски, которые сама считает потенциально катастрофическими.
Anthropic включила предупреждение о возможных катастрофических последствиях развития искусственного интеллекта в документы для выхода на биржу. Компания указала, что достаточно мощные ИИ-системы могут представлять «катастрофические или экзистенциальные риски для общества», если их разработка и применение не будут проходить ответственно. При этом Anthropic не может гарантировать, что собственные меры безопасности позволят предотвратить такие последствия.
В проспекте компания объясняет, что по мере роста возможностей ИИ увеличивается и потенциальная тяжесть вреда от неправильно настроенных или злонамеренно используемых моделей. Anthropic приходится принимать решения о безопасности своих систем, однако она признаёт отсутствие гарантий успеха. Компания также не уверена, что другие участники отрасли будут применять сопоставимые меры защиты.
Предупреждение появилось на фоне подготовки Anthropic к IPO. По оценке авторов публикации, компания может претендовать на оценку до $2 трлн. При этом в первом полугодии 2026 года она, согласно приведённым в материале данным, потеряла $80 млрд. В документах также перечислены другие риски для бизнеса: нехватка электроэнергии и инфраструктуры для дата-центров, сопротивление их строительству и возможные юридические претензии из-за использования продуктов компании.
Anthropic ранее призывала замедлить разработку наиболее мощных ИИ-моделей на уровне всей отрасли. Компания представляет такой подход как способ снизить риски, связанные с развитием технологии. Однако в проспекте она одновременно предупреждает инвесторов, что более медленное развитие рынка её моделей, платформы и приложений или сокращение спроса могут привести к замедлению роста бизнеса и ухудшению финансовых результатов.
Таким образом, Anthropic предстоит объяснить инвесторам сразу две стороны своей стратегии: почему её модели могут быть коммерчески востребованы и каким образом компания собирается контролировать риски, которые сама же считает потенциально катастрофическими. В документах она прямо признаёт, что существующие меры безопасности не дают полной гарантии.
© iXBT
Об этом также пишут
- 3DNews Глава Anthropic призывал замедлить развитие ИИ, но сам не собирается сбавлять обороты 30.10.2026 22:37
