Anthropic и Accenture вложат $2 млрд в «оценщиков моделей»
Anthropic и Accenture объявили о создании команды внедрённых «оценщиков», которая будет работать совместно с внутренними группами безопасности и внешними партнёрами. Каждая компания намерена вложить в это направление минимум
$1 млрд за 5 лет.
Ключевое новшество — модель доступа, которую Anthropic называет embedded evaluation. «Оценщики» получат права, сравнимые с правами сотрудника лаборатории: они смогут наблюдать за циклами разработки и развёртывания моделей, инспектировать выполнение требований по безопасности и выявлять слепые зоны, недоступные при внешнем аудите.
TechCrunch называет эту сделку первым конкретным шагом в реализации недавнего публичного обязательства Anthropic допустить внешних оценщиков внутрь ИИ-лаборатории.
Для команд, отслеживающих практики надзора за ИИ-моделями, ключевыми станут следующие параметры: как именно определён объём доступа, что разрешено раскрывать публично и приводят ли замечания к наблюдаемым изменениям в механизмах кибербезопасности.
© iXBT
