Разработка корпоративных средств защиты Frontier Safeguards совместно с нашими клиентами
Сегодня мы анонсируем Enterprise Frontier Safeguards (EFS) — решение, которое объединяет конфиденциальность в рамках нулевого удержания данных (ZDR) с передовыми средствами защиты для обнаружения злоупотреблений. EFS работает за счет хранения данных в облачной инфраструктуре, контролируемой клиентом, а не компанией Anthropic. EFS будет внедряться для клиентов поэтапно, начиная с конца этой осени. Чтобы сделать переход плавным, имеющие на это право клиенты получат ZDR для Fable 5 и Fable 5.1 до тех пор, пока EFS не будет готова.
Мы разработали EFS в тесном сотрудничестве с более чем 100 клиентами из таких отраслей, как финансовые услуги, здравоохранение, производство, телекоммуникации, юридическая сфера, розничная торговля и государственный сектор, а также с нашими облачными партнерами из Amazon Web Services, Google Cloud и Microsoft Azure.
EFS будет поддерживаться в Claude Code, Claude Enterprise, Claude Platform, Amazon Bedrock, Claude Platform on AWS, Google«s Agent Platform и Microsoft Foundry.
Решение дилеммы передовой безопасности
Модели класса Mythos, такие как Claude Fable 5.1, представляют собой значительный скачок в интеллекте и агентных возможностях. Однако вместе с этим ростом возрастает и потенциал как злоупотреблений, так и автономного некорректного поведения.
За последние несколько месяцев мы зафиксировали множество свидетельств попыток неправомерного использования моделей ИИ. Они варьируются от типичных видов злоупотреблений, таких как мошенничество, до сложных кибератак, которые могут включать в себя агентов, автономно совершающих деструктивные действия. Некоторые из этих случаев связаны с кражей или несанкционированным использованием учетных данных корпоративных клиентов, что трудно обнаружить без возможности мониторинга трафика и выявления аномального поведения.
Кроме того, поскольку самые изощренные злоупотребления могут включать множество задач, распределенных по нескольким сеансам и учетным записям, недостаточно запускать автоматизированный анализ каждого взаимодействия по отдельности, а затем мгновенно удалять данные. Эффективное обнаружение требует хранения данных в течение значительного периода времени, чтобы их можно было сопоставить с течением времени и между учетными записями.
По этой причине мы внедрили 30-дневное хранение данных, начиная с Fable 5. Эта политика не была обусловлена стремлением проводить обучение на корпоративных данных: Anthropic никогда не обучала модели на корпоративных данных без явного разрешения и никогда не будет этого делать.
Компании, с которыми мы работали, в целом понимали ценность хранения данных с точки зрения безопасности, однако многие из них — особенно в регулируемых отраслях — столкнулись со сложностями при использовании моделей с сохранением данных. Поэтому мы сели за стол переговоров с клиентами, чтобы разработать решение, которое обеспечило бы лучшее из обоих миров: конфиденциальность ZDR и безопасность, обеспечиваемую мониторингом во времени и по учетным записям.
Создано совместно с нашими клиентами
Мы создавали Enterprise Frontier Safeguards на основе отзывов экспертов, которые будут использовать ее каждый день: команд безопасности, разработки продуктов, соблюдения нормативных требований и внедрения. Одной из групп, с которыми мы сотрудничали, стал Аналитический и устойчивый центр системных рисков (ARC), в состав которого входят директора по информационной безопасности крупнейших банков США, включая Goldman Sachs, Morgan Stanley, Citi, Bank of America и Wells Fargo.
Мы также работали с руководителями таких компаний, как Comcast, KPMG, Mastercard, Salesforce и Visa, чтобы убедиться, что концепция эффективна во всех отраслях. Наши обсуждения охватили четверть компаний из списка Fortune 100, каждый глобальный системно значимый банк США и практически каждую регулируемую отрасль.
Вот что мы услышали от этого широкого круга клиентов и что заложили в EFS для решения этих общих проблем:
О мониторинге
Предприятия уже давно применяют мониторинг для выявления внутренних угроз, а теперь нуждаются в помощи для повышения уровня мониторинга агентов. Их опасения были связаны с тем, смогут ли автоматизированные системы мониторинга Anthropic соответствовать их нормативным стандартам.
В EFS клиенты сами контролируют процесс проверки данных. Когда мониторинг обнаруживает шаблон, требующий внимания, эти сигналы отправляются напрямую клиентам, чтобы они могли изучить то, что зафиксировали автоматизированные системы.
О хранении данных
Для предприятий добавление еще одного «доверенного поставщика данных» сопряжено с большим объемом работы по ряду причин. Им необходимо уведомить всех своих клиентов о том, кто эти поставщики, и обновить контракты. У них также есть внутренние требования к безопасному хранению и аудиту данных, учитывая их высокий уровень конфиденциальности. Учитывая эти опасения, мы спроектировали EFS таким образом, чтобы клиенты имели возможность хранить данные в своей собственной существующей облачной инфраструктуре.
В EFS клиенты могут управлять хранением данных и их обработкой. Клиенты хотят, чтобы их данные находились в контролируемой ими инфраструктуре, под управлением их собственных ключей шифрования, политик доступа и журналов аудита. Данные об активности, используемые для мониторинга, могут храниться в собственной облачной учетной записи клиента (например, Amazon S3, Azure Blob Storage или Google Cloud Storage).
Об автоматической и ручной проверке
Даже несмотря на то, что автоматизированная проверка становится все более эффективной, человек, изучающий помеченные данные, по-прежнему приносит пользу, подтверждая реальные злоупотребления и отсеивая ложные срабатывания. Но от многих клиентов, особенно в регулируемых отраслях, мы услышали, что проверяющим обязательно должен быть их собственный сотрудник. Многие работают по строгим правилам, жестко регламентирующим то, кому разрешено видеть определенную информацию: конфиденциальные юридические материалы, непубличные сведения, отчеты о безопасности лекарственных средств. Их команды уже обучены и имеют допуск к такой работе.
EFS осуществляет автоматизированный мониторинг безопасности, проверка сотрудниками Anthropic не требуется. Клиенты хотят защиты от кибератак и понимают, что их бывает трудно обнаружить, если они разворачиваются во многих сеансах и аккаунтах. С помощью EFS автоматизированные системы анализируют скользящее окно трафика на предмет признаков серьезных злоупотреблений, включая попытки разработки наступательного кибероружия или биологических возможностей, а также признаки украденных или утечек учетных данных. Эти сигналы отправляются напрямую клиенту, и его сотрудники берут дело в свои руки — ручная проверка сотрудниками Anthropic не требуется.
Средства управления ИИ должны быть разработаны таким образом, чтобы защищать конфиденциальную информацию, и защитные механизмы моделей — важная часть этого процесса. Компания Anthropic привлекла нас к разработке функции Enterprise Frontier Safeguards, чтобы гарантировать ее соответствие нашим требованиям и стандартам.Matt Chung
Директор по информационной безопасности и руководитель направления технологических рисков
Функция Enterprise Frontier Safeguards дает нам именно то, о чем мы просили: наши логи остаются в среде под управлением Wells, защищенной ключами под управлением Wells. Мы сохраняем контроль над своими данными, в то время как Anthropic осуществляет обнаружение. Именно такое разделение позволяет нашим командам безопасно использовать передовые модели и выполнять обязательства перед клиентами, сотрудниками и регулирующими органами. Мы помогли сформировать эти защитные механизмы, потому что они необходимы нашей отрасли.Munish Kumar Sharma
Директор по информационной безопасности
Для компании, управляющей критически важной инфраструктурой, возможности моделей имеют большое значение. Не менее важны и решения, позволяющие хранить наши данные в собственной учетной записи, и функция Enterprise Frontier Safeguards решила этот вопрос.Noopur Davis
Исполнительный вице-президент, директор по информационной безопасности и защите конфиденциальности продуктов
Восемь наших участников работали вместе с Anthropic над тем, что требуется для запуска самых мощных передовых моделей внутри системно значимого банка: кто хранит данные, кто хранит ключи, что автоматическая проверка может и не может видеть, и при каких условиях человеку вообще разрешается заглядывать внутрь. Это сотрудничество ведет к разработке и внедрению улучшенных средств защиты и стандартов, которые могут масштабироваться в нашей отрасли и за ее пределами.Scott DePasquale
Президент и генеральный директор
Одним из ключевых принципов архитектуры безопасности является наша способность сохранять данные вне самой модели, защищая их в нашей среде. Существуют сферы деятельности компании и работы с нашими клиентами, которые подлежат жесткому регулированию и отличаются высокой конфиденциальностью. Эти защитные механизмы фактически позволяют нам применять ИИ в тех областях бизнеса, в которых раньше мы не могли этого делать.Todd LohrСервисный партнер
Старший управляющий партнер по работе с клиентами и рынками
Наши клиенты доверяют нам свои данные уже более двух десятилетий. Именно этот опыт побудил нас помочь Anthropic разобраться в вопросе, а не оставаться в стороне. Мы смогли совместно поработать над новыми функциями безопасности и конфиденциальности на уровне архитектуры, а не только на уровне политик.Meir Amiel
Президент, директор по доверию и инфраструктуре
Наши клиенты хотят использовать передовые модели в работе, а их команды безопасности хотят, чтобы данные оставались в контролируемой ими инфраструктуре. Компания Anthropic создала Enterprise Frontier Safeguards в сотрудничестве с более чем сотней предприятий именно для этого.Lan GuanСервисный партнер
Руководитель отдела по работе с искусственным интеллектом и данными
По мере того как модели ИИ берут на себя все больше регулируемых и конфиденциальных рабочих нагрузок, ответственное масштабирование также сводится к архитектуре, а не только к соблюдению политик. Прямой контроль над средой данных в сочетании с автоматизированным мониторингом безопасности на основе шаблонов предоставляет предприятиям конкретные структурные возможности, необходимые для внедрения с реальным надзором, подотчетностью и уверенностью.Adnan AmjadСервисный партнер
Руководитель практики кибербезопасности в США
Средства защиты и их дизайн — очевидно, вы прислушались к нашим отзывам. Они ставят нас на место водителя. Логи находятся под нашим контролем; они никуда не уходят, если мы сами этого не захотим. Это дает нам контроль над данными, контроль над информацией и контроль над тем, что делается после обнаружения чего-либо, что может превысить порог защиты.Philip Martin
Директор по информационной безопасности
По мере того как ИИ все глубже проникает в деятельность предприятий, именно безопасность и доверие позволяют организациям переходить от экспериментов к масштабному развертыванию. Функция Enterprise Frontier Safeguards закладывает их с самого начала: данные мониторинга остаются в контролируемой клиентом инфраструктуре, а его собственная команда решает, кто имеет к ним доступ.Morgan AdamskiСервисный партнер
Руководитель направления кибербезопасности, данных и технологий в США
Сохранение конфиденциальности данных клиентов — это обещание, которое Snowflake дает каждому клиенту. Мы всегда стремились быстро предоставлять им передовые модели. Самым сложным было сделать это безопасно и в строгом соответствии с требованиями к защите данных. Мы начали партнерство с Anthropic для разработки средств защиты Enterprise Frontier Safeguards, чтобы объединить оба эти аспекта: данные остаются в среде клиента под управлением контролируемых им ключей и с первого же дня используют самые мощные модели Anthropic. Именно так выглядит ответственный подход к передовому ИИ, ориентированный на платформы.Маянк Упадхьяи
Директор по информационной безопасности и защите данных
В Stripe защита клиентских данных является основой нашей работы. Средства защиты Enterprise Frontier Safeguards от Anthropicпозволят нам использовать поддерживаемые передовые модели, сохраняя при этом журналы диалогов в среде AWS компании Stripe под управлением средств контроля безопасности Stripe для доступа и проверки.Мэтью Кемельхар
Руководитель отдела безопасности
Клиенты Rogo рассчитывают на доступ к лучшей из доступных аналитических систем, но не в ущерб безопасности и средствам защиты своих данных. Система Enterprise Frontier Safeguards предоставит финансовым институтам самые мощные модели, одновременно удовлетворяя их строгие требования к данным корпоративного уровня. Такое сочетание передового интеллекта и средств контроля корпоративного уровня имеет решающее значение для внедрения ИИ в сфере финансовых услуг.Стриб Уокер
Руководитель отдела продукта
Компания FIS обеспечивает инфраструктуру для движения денежных средств и работы финансовых институтов, поэтому любые средства защиты ИИ, которые мы внедряем, должны соответствовать этому масштабу и стандарту доверия. Наше партнерство с Anthropic уже включает тестирование их самых передовых моделей на наших собственных системах в рамках проекта Project Glasswing. Claude Enterprise Frontier Safeguards расширяет эту работу, сохраняя хранимые данные в нашей собственной учетной записи и направляя флаги напрямую нашей службе безопасности.Грег Барнетт
Директор по информационной безопасности
Компании доверяют автономным инженерам Cognition реальные производственные задачи, и это доверие зависит от того, остаются ли их задачи конфиденциальными. Благодаря системе Enterprise Frontier Safeguards данные и учетные записи клиентов никогда не покидают нашу сторону. Это позволит нам внедрить передовой ИИ в рабочие процессы без каких-либо компромиссов в вопросах конфиденциальности.Скотт Ву
Генеральный директор
Код и данные наших клиентов — это одна из их наиболее ценных интеллектуальных собственностей. Защита этой информации лежит в основе нашей работы в Factory. Совместно с Anthropic мы предоставляем клиентам возможность использовать самые мощные модели Claude, сохраняя при этом контроль над проприетарными данными в своих руках. Enterprise Frontier Safeguards дает предприятиям доступ к передовому интеллекту вместе с защитой данных, которую требуют их службы безопасности.Ино Рейес
Сооснователь и технический директор
Мы всегда придерживались непоколебимой приверженности конфиденциальности и безопасности клиентов. Ведущие юридические и профессиональные команды, с которыми мы работаем, считают эти принципы непреложными, и мы придерживаемся тех же стандартов. Система Enterprise Frontier Safeguards отражает эту приверженность, предоставляя клиентам с самыми строгими требованиями к конфиденциальности доступ к передовым моделям без сохранения их данных провайдером модели.Джон ЛаБарре
Главный юрисконсульт
Как работает EFS
Эти средства контроля разработаны таким образом, чтобы работать одинаково независимо от того, обращаетесь ли вы к Claude напрямую от Anthropic или через облачного партнера. Клиенты на Amazon Web Services, Google Cloud и Microsoft Azure получат аналогичные средства управления, а данные их активности будут храниться в их собственной облачной учетной записи, в среде, которой они уже доверяют. Мы также работаем над поддержкой сторонних предложений, обслуживающих клиентов, имеющих право на использование Enterprise Frontier Safeguards.
Хранилище, принадлежащее клиенту, ключи шифрования, управляемые клиентом (Customer-Managed Encryption Keys), и полностью автоматизированная проверка являются опциональными функциями, поэтому вы можете включить те из них, которые необходимы вашей организации. Ни одна из них не изменяет поведение модели, ценообразование API или лимиты запросов.
Anthropic не взимает плату за Enterprise Frontier Safeguards. Если клиенты решают хранить свои данные в своей облачной учетной записи, их облачный провайдер выставляет им счета за это хранилище, а также за операции чтения, записи и плату за исходящий трафик данных точно так же, как за любой другой ресурс.
Начало работы
Система Enterprise Frontier Safeguards будет внедряться для клиентов поэтапно с целью сделать ее широко доступной позднее этой осенью. Чтобы запросить доступ к Enterprise Frontier Safeguards, пожалуйста, заполните эту форму.
Полный текст статьи читайте на Anthropic
