Ветки сообщений Anthropic позволяют агентам Claude не отправлять переписку повторно
- Anthropic открыла бета-версию веток для API: агент передаёт переписку один раз, затем — новые сообщения и ID последнего ответа Claude.
- На сессиях объёмом 500 000–1 млн токенов ожидание начала ответа сократилось примерно на 35%; цены и лимиты не изменились.
- Ветки доступны для всех моделей Claude, но хранятся в памяти пять минут и не работают с нулевым хранением данных и HIPAA.
Почему это важно: Функция экономит время, но не снижает расходы: Claude по-прежнему читает всю переписку на каждом шаге.
Anthropic запустила в открытом бета-тестировании ветки сообщений (message threads) для своего API. Агенты отправляют полную переписку один раз, а затем только новые сообщения, что, по словам Anthropic, сокращает ожидание перед ответом Claude примерно на 35% в очень длинных сессиях. Цены и лимиты запросов остаются прежними.
Anthropic запустила ветки сообщений — бета-функцию для разработчиков, создающих ИИ-агентов на базе Claude, сообщила компания в понедельник. Агентам больше не нужно заново отправлять всю переписку при каждом запросе.
Агент для программирования может выполнить сотни запросов за одну сессию, и каждый из них обычно содержит все предыдущие сообщения и результаты вызова инструментов. Когда эта история разрастается до сотен тысяч токенов, её повторная отправка добавляет задержку, прежде чем Claude начнёт отвечать.
С ветками агент отправляет полную переписку один раз. После этого он передаёт только новое, а также ID последнего ответа Claude.
Anthropic уже включила ветки для большинства пользователей Claude Code, своего агента для программирования. По словам компании, на запросах объёмом от 500 000 до 1 млн токенов типичное время ожидания до начала ответа Claude сократилось примерно на 35%.
Функция экономит время, а не деньги. Claude по-прежнему читает всю переписку на каждом шаге, и Anthropic заявляет, что цены и лимиты запросов не изменились. Что касается расходов, в сентябре Anthropic снизила цены на кэш на 75%, поскольку длинные сессии агентов увеличивают счета за ИИ.
Ветки хранятся в памяти в зашифрованном виде и никогда не записываются на диск. Они истекают через пять минут после последнего запроса, поэтому разработчикам необходимо хранить собственную копию каждой переписки. По словам Anthropic, ветки недоступны в конфигурациях с нулевым хранением данных и для работы с медицинскими данными по стандарту HIPAA.
Бета-версия работает со всеми моделями Claude — как на собственной платформе Anthropic, так и через AWS, Microsoft Foundry и Google Cloud. Запуск последовал за выходом более дешёвой модели Opus 5.5, представленной Anthropic в сентябре.
