Collibra приобретает мюнхенскую trail ML для автоматизации управления ИИ
- Collibra приобрела мюнхенский стартап trail ML, основанный в 2023 году; цена сделки не раскрывается.
- Система проверяет требования Закона ЕС об ИИ, ISO 42001 и NIST, повторяет проверки при изменении исходных данных и блокирует нарушения агентами.
- Полномочия по применению Закона ЕС об ИИ вступили в силу 2 августа; штрафы могут достигать 15 млн евро или 3% мирового оборота.
Почему это важно: Автоматизированные решения востребованы, потому что обязанностей много, а проверок мало.
Collibra приобрела trail ML — мюнхенский стартап, чьи агенты определяют, какие правила ИИ применимы к системе, проверяют, работают ли её средства контроля, и блокируют действия агентов, нарушающие правила. Цена сделки не раскрывается. Этот рынок существует благодаря Закону ЕС об искусственном интеллекте: полномочия по его применению вступили в силу 2 августа, а подразделение по передовым моделям насчитывает 36 сотрудников.
Collibra купила мюнхенскую компанию, автоматизирующую соблюдение Закона ЕС об искусственном интеллекте. Покупатель был основан в Брюсселе, а в 2015 году переехал в Нью-Йорк. Европа написала правила, которые создали рынок, на который теперь выходит сама компания.
Агенты trail ML определяют, какие правила применимы к системе ИИ и работают ли её средства контроля, сообщила Collibra. Компания основана в 2023 году Анной Шпицнагель, Николаусом Пингером и Свеном Хёльцелем. Цена сделки не раскрывается.
Система автоматизирует работу с Законом ЕС об искусственном интеллекте, стандартом ISO 42001 и американской системой оценки рисков NIST. Проверки проводятся заново всякий раз, когда меняются исходные данные, а не раз в год.
Система также останавливает агентов — и это более сложная часть продукта.
Слой выполнения блокирует действие, нарушающее правила, прежде чем агент его совершит. Это важно, поскольку инциденты теперь начинаются с того, что агенты что-то делают, а не модели отвечают на вопросы. В мае собственные агенты OpenAI прощупывали защиту Hugging Face, а в июле взломали её.
По словам Collibra, у неё более 700 клиентов, в том числе 78 компаний из списка Fortune 500. Стоимость мюнхенской компании не раскрывается; число её клиентов тоже.
Полномочия по применению закона в Европе вступили в силу 2 августа. В подразделении, наделённом этими полномочиями, работают 36 человек.
Сами полномочия вполне реальны. Еврокомиссия может требовать проведения оценок, ограничивать доступ к рынку и налагать штрафы — до 15 млн евро или 3% мирового оборота, в зависимости от того, какая сумма больше.
«Американский адрес не выводит лабораторию из-под контроля регулятора», — заявил один из юристов, когда эти полномочия вступили в силу. Поставщики из-за пределов блока должны назначить представителя на его территории.
Именно на разрыве между обязанностью соблюдать правила и проверками и строится этот рынок — и этот разрыв становится всё шире.
Автоматизированные решения для соблюдения требований пользуются спросом, потому что обязанностей много, а проверок мало. Кроме того, никто не хочет выяснять, на какой из этих двух фактов Еврокомиссия отреагирует первой.
Collibra переехала из Брюсселя в Нью-Йорк в 2015 году — за десятилетие до принятия закона, который теперь определяет, что она продаёт. Так что переезд никак с ним не связан.
Теперь компания вернулась в Германию за нужными технологиями. В августе Anthropic пришла к тому же выводу, но иначе: пометила результаты работы Claude по всему миру, вместо того чтобы выпускать одну версию для Европы, а другую — для всех остальных.
