Представляем Clef: наши модели принятия решений с открытым исходным кодом и новую платформу для дообучения с подкреплением01.10.2026 18:34

В последние несколько недель много говорят о моделях принятия решений, таких как модель System One Jev от Typesafe AI. Модели-классификаторы существуют уже некоторое время, но Jev привносит в мир ИИ новую концепцию модели принятия решений — модели, которая быстро, недорого и стабильно генерирует структурированные выходные данные с ограниченным набором вариантов и может быть встроена в рабочий процесс, когда требуется принять решение. Такие модели достаточно мощны, чтобы работать с любым набором входных данных, и при этом их не нужно постоянно переобучать при появлении новых категорий классификации. Это отличается от мира больших языковых моделей (LLM), которые в значительной степени недетерминированы, но обладают достаточно широкими возможностями, чтобы рассуждать, генерировать текст и вызывать инструменты в агентных сценариях.

Сегодня мы выпускаем две модели принятия решений, обученные Cloudflare, — Clef и Clef-flash. Они доступны на Workers AI. В настоящее время Clef занимает первое место в индексе Jev Decision Index; полные результаты можно посмотреть на демосайте с результатами бенчмарков в реальном времени. Эти модели умнее, быстрее и полностью совместимы с API Jev, поэтому вы можете без труда экспериментировать с ними на нашем хостинге. Мы полностью открываем исходный код этих моделей на Hugging Face по лицензии Apache 2.0, чтобы вы могли запускать их локально и экспериментировать самостоятельно.

Наконец, мы рады представить новый продукт для обучения с подкреплением (RL), который позволит клиентам также настраивать Clef под свои сценарии использования.

Что такое модель принятия решений?

Модель принятия решений классифицирует данные, помогая агентам выбирать, как действовать, исходя из определённых вероятностей. Например, можно передать ей сообщение в службу поддержки (входные данные) и спросить, является ли оно срочным и какая команда должна им заняться. Модель вернёт ответы в заданном формате вместе с вероятностями (выходные данные), и ваш код сможет использовать их, чтобы направить обращение нужной команде, инициировать эскалацию или передать его человеку. Это означает, что для принятия агентных решений присутствие человека в контуре больше не обязательно: агенты могут программно собирать контекст, принимать решения и выполнять задачи либо при необходимости передавать их человеку.

В Cloudflare мы тестировали новую модель Clef в команде Threat Intelligence, чтобы классифицировать домены сайтов. Если передать Clef домен (с помощью Browser Run), модель быстро определит категории, к которым он относится. Например, она может с вероятностью 95% классифицировать домен как сайт о моде, с вероятностью 85% — как сайт электронной коммерции, а вероятность фишинга оценить менее чем в 1% и так далее. Модели Clef понадобилось 2,2 секунды, чтобы загрузить, отобразить и классифицировать сайт. Для сравнения: наш самый быстрый универсальный LLM, gpt-oss-120b, затратил на тот же рабочий процесс 4,7 секунды и выдал только две категории. Экономия времени вдвое и более полные результаты могут помочь улучшить процессы сбора данных об угрозах, а также быстрее выявлять вредоносные и легитимные домены. Этот подход можно распространить на любые сценарии, в которых нужно быстро принимать решения программным способом, — и тогда открываются мощные агентные рабочие процессы, способные автономно принимать решения, рассуждать и выполнять действия.

В музыкальной теории ключ — это символ в начале нотного стана, который задаёт названия нот для линий и промежутков. Модель принятия решений похожа на музыкальный ключ: она помогает определить предметную область контекста и последующие ноты (действия). Мы назвали семейство наших моделей принятия решений Clef, поскольку оно выполняет схожую функцию, а буквы CF отсылают к Cloudflare.

Чем Clef отличается от других моделей принятия решений?

Хотя рынок моделей принятия решений становится всё более насыщенным, у Clef есть несколько уникальных особенностей, которые побудили нас открыть модель для широкой публики. Во-первых, в ней есть визуальный энкодер, поэтому она может принимать изображения и классифицировать визуальное содержимое. Это отличает её от Jev, которая пока классифицирует только текст. Во-вторых, контекстное окно нашей модели составляет 64 тыс. токенов (против 32 тыс. у Jev), что позволяет передавать модели больше входных данных для классификации.

В-третьих, наша модель точна и мощна: в различных бенчмарках качества она показывает конкурентоспособные результаты по сравнению с другими моделями принятия решений на рынке. Ниже мы выбрали несколько важных для принятия решений тестов, определённых в индексе Jev Decision Index, и проверили на них несколько наиболее популярных моделей. Результаты бенчмарков приведены в таблице ниже; их также можно посмотреть на нашем демосайте индекса принятия решений в реальном времени:

Мы также провели тесты из собственного набора оценок Typesafe. Наши модели Clef показали хорошие результаты, превзойдя Jev в трёх из четырёх категорий. Особенно примечательно, что Clef-flash демонстрирует отличные результаты, несмотря на значительно более высокую скорость.

По результатам 43 проведённых нами тестов модели Clef превзошли другие модели принятия решений по задержке (за исключением Laya, которая очень быстра, но уступает в качестве в приведённых выше тестах):

Помимо преимуществ самой модели в плане задержки, Clef размещена на Workers AI. Поскольку модели работают на инфраструктуре Cloudflare, мы можем использовать наши периферийные GPU, что снижает сетевую задержку и ускоряет принятие решений. Это позволяет встроить Clef в критически важный путь работы агентов для принятия решений, а затем подключить одну из наших LLM на Workers AI для выполнения действий.

curl https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/run/@cf/cloudflare/clef} \\
  -X POST \\
  -H "Authorization: Bearer $CLOUDFLARE_AUTH_TOKEN" \\
  -d '{
    "model": "clef",
    "state": "Checkout has been failing for every customer for the last hour.",
    "questions": {
      "urgent": { "type": "noul", "instructions": "Is this support request urgent?" },
      "team": {
        "type": "choice",
        "instructions": "Which team should handle this request?",
        "criteria": {
          "billing": "Payments, invoices, and refunds",
          "technical": "Outages, errors, and configuration",
          "sales": "Plans and upgrades"
        }
      },
      "severity": {
        "type": "score",
        "instructions": "How severe is the customer impact?",
        "criteria": ["No impact", "Minor", "Major", "Critical"]
      }
    }
  }'

Clef также выдаёт строго типизированные результаты, как и Jev, и полностью совместима с её API, поэтому перейти на неё очень просто. Более крупная модель Clef — это более мощная и точная модель, а Clef-Flash отлично подходит для решений, критичных к задержке. Модели готовы к использованию в корпоративной среде: мы гарантируем, что не читаем и не храним ваши запросы и ответы и не обучаемся на них (если только вы не решите воспользоваться нашим продуктом для тонкой настройки, о котором расскажем ниже). Начать работу с моделями Clef можно уже сегодня: изучите документацию для разработчиков или поэкспериментируйте с моделью с открытым исходным кодом в репозитории Hugging Face.

Если вам нужна помощь в настройке Clef для конкретной задачи, мы также предлагаем услуги по тонкой настройке. Сначала наша команда инженеров, работающих непосредственно с клиентами (FDE), будет помогать вам лично, а позднее мы запустим платформу самообслуживания, где клиенты смогут обучать модели и повторно развёртывать их на Cloudflare.

Как мы обучали Clef

В ту же неделю, когда вышла Jev, мы рассказали о нескольких экспериментах с нашей собственной моделью принятия решений. В нашей демонстрации показано, как мы адаптировали модель DiffusionGemma для выдачи детерминированных вероятностей, используя логарифмические вероятности, генерируемые большой языковой моделью. Наш первоначальный подход опирался на независимые исследования Мэтта Мастраччи, который активно делится новыми идеями с сообществом машинного обучения (ML) и отправляет запросы на слияние в движок инференса vLLM, чтобы расширить поддержку DiffusionGemma.

Clef развивает эту концепцию, но использует в основе другую базовую модель. Сейчас в качестве базовой модели мы используем Qwen и дообучаем её под задачи принятия решений. Во время инференса Clef выполняет для Qwen только проход предварительного заполнения, а затем параллельно оценивает допустимые варианты схемы. Этап принятия решения не является авторегрессионным: модели не нужно генерировать промежуточный текст по одному токену за раз, поэтому Clef значительно быстрее авторегрессионных LLM. Вместо генерации промежуточного текста для получения структурированных ответов Clef и Clef-flash напрямую извлекают варианты схемы из внутренних представлений базовой модели. Этот подход основан на специализированном двухэтапном процессе маршрутизации внимания: каждый допустимый вариант выбирает контекст, релевантный запросу, позволяя параметрам отдельных полей учитывать другие поля и исходные данные перед оценкой. Благодаря использованию лексического априорного распределения модель сохраняет смысловое намерение для всех вариантов. В итоге архитектура объединяет маршрутизацию данных с учётом конкретных вариантов, совместное перекрёстное внимание между полями и оценивание в рамках схемы.

Зафиксировав Qwen3.8–27B для Clef и Qwen3.5–9B для Clef-flash, мы совместно оптимизировали модуль маршрутизации и низкоранговые адаптеры ранга 256. Для дообучения мы используем кросс-энтропию со сглаживанием меток для допустимых выходных данных схемы в сочетании с потерями Бриера, чтобы улучшить калибровку вероятностей. В ходе обучения применяются наши внутренние синтетические наборы данных с перестановками порядка полей, запросов и структур схем. Мы также разработали метод обучения с подкреплением для калиброванных решений (RLCD) в качестве дополнительной цели оптимизации: он частично засчитывает соседние порядковые варианты, поощряет полностью точные выходные записи и применяет штраф относительно эталонной модели, чтобы избежать сдвига распределения. Это повышает точность и способность модели к обобщению.

Таким образом, с Clef нам удалось добиться сразу нескольких новых результатов: повысить точность классификации, ограничить выходные данные вероятностями вместо генерации текста и сделать модель быстрее Jev и базовых моделей Qwen.

Как тонкая настройка расширяет возможности Clef

Мы узнали о множестве внутренних сценариев, для которых требовалось настроить модель Clef и встроить её в агентные рабочие процессы Cloudflare. Например, внутренним командам нужна модель-классификатор, которая сможет оценивать обращения в Trust & Safety, помогать сортировать запросы в службу поддержки Cloudflare или даже стать частью наших продуктов для работы с ботами, чтобы определять, является ли поисковый робот хорошим или вредоносным ботом.

Эти сценарии очень специфичны, и за многие годы у нас накопилось множество размеченных решений, которые можно использовать для обучения специализированного классификатора. При тонкой настройке модели вы можете пожертвовать некоторыми универсальными возможностями в обмен на более высокую точность в конкретной предметной области. Поскольку Cloudflare располагает более чем 15-летними сетевыми данными по различным доменам, мы можем настроить модель под конкретные сценарии — она будет точнее и быстрее нашей универсальной модели Clef. Мы уже сотрудничаем с внутренними командами, чтобы выяснить, как дообучать Clef и создавать мощные модели ML, которые усилят наши возможности и улучшат рабочие процессы во всей Cloudflare. Работа с этими командами и их сценариями станет следующей задачей нашей новой команды FDE по тонкой настройке и основой для продукта обучения с подкреплением (RL).

Новый сервис RL

Мы предлагаем клиентам помощь в настройке Clef под их задачи силами нашей команды FDE. На основе этого практического опыта мы создадим платформу самообслуживания, с помощью которой клиенты смогут собирать данные, настраивать модель и повторно развёртывать её — всё на Cloudflare.

К этому мы шли уже давно: создавая нашу ИИ-платформу, мы закладывали необходимые базовые компоненты для разработки собственного продукта RL. Интерес к Jev показал, что рынку нужна быстрая, компактная и специализированная модель-классификатор. Мы решили начать эксперименты со средами RL именно с этой ниши.

Для этого мы используем базовые компоненты, уже созданные на платформе Cloudflare:

• Cloudflare AI Gateway — пропускайте весь трафик ИИ через AI Gateway и автоматически создавайте набор данных из запросов для вашего сценария использования
• Cloudflare Workers AI — генерируйте траектории выполнения на основе базовой модели Clef
• Cloudflare Containers — изолированная среда RL для оценки и воспроизведения действий агента
• [НОВОЕ] Trainer — обновление весов тонко настроенной модели Clef
• Cloudflare Workers AI + BYO Model — повторное развёртывание тонко настроенной модели на Workers AI

Всё это объединяет несколько разрабатываемых компонентов ИИ-платформы: AI Gateway, который перехватывает ваш трафик ИИ и позволяет использовать собственные данные запросов и ответов; Containers для изолированных сред RL;, а также работу над функцией Bring Your Own Model (Cog) в Workers AI, которая продолжается после приобретения нами Replicate.

Попробуйте уже сегодня

Сегодня мы рады представить первую модель ML, обученную командой Workers AI для Cloudflare. Мы пока находимся в самом начале пути и планируем множество улучшений, но уже сейчас это прекрасный результат большой работы команды ИИ-платформы. Мы считаем, что Clef способна изменить наш подход к использованию агентов и органично вписывается в миссию Cloudflare — стать облачной платформой для агентов.

Если у вас есть конкретные сценарии использования и вы уже пользуетесь этими продуктами, мы будем рады обсудить их с вами и привлечь вас в качестве партнёров по разработке, пока мы осваиваем эту область.

Попробуйте модели Clef на Workers AI, скачайте веса с Hugging Face , чтобы изучить их самостоятельно, и свяжитесь с нами, если вам нужна помощь с тонкой настройкой.

Наша команда ML расширяет своё влияние: от оптимизации моделей до исследований в области их обучения. Если вы хотите присоединиться к нашей миссии, посмотрите открытые вакансии.

© Cloudflare Blog