Ограничения скорости

Существует два типа ограничений:

1. Лимиты расходов устанавливают максимальную ежемесячную сумму, которую организация может потратить на использование API.
2. Ограничения скорости устанавливают максимальное количество запросов к API, которое организация может выполнить за определённый период времени.

API применяет настроенные сервисом ограничения на уровне организации, но вы также можете задавать пользовательские ограничения для рабочих пространств вашей организации.



Об ограничениях скорости

• Ограничения предназначены для предотвращения злоупотреблений API при минимальном влиянии на типичные сценарии использования клиентами.
• Ограничения определяются уровнем использования («usage tier»). Организации автоматически помещаются на определённый уровень на основе истории использования и состояния учётной записи и со временем могут переходить на более высокий уровень по мере использования API.
• Новые организации и организации с ограниченной историей использования могут начинать с уровня Evaluation, с лимитами ниже стандартных, указанных на этой странице, пока формируется история учётной записи. Эти начальные лимиты — часть того, как Anthropic предотвращает мошенничество и злоупотребления; они автоматически повышаются по мере накопления истории использования вашей организацией.
• Ограничения устанавливаются на уровне организации. Вы можете увидеть уровень вашей организации и текущие лимиты на странице Rate limits в Claude Console.
• Вы можете столкнуться с ограничениями скорости на более коротких временных интервалах. Например, скорость 60 запросов в минуту (RPM) может применяться как 1 запрос в секунду. Короткие всплески запросов могут превысить лимит и вызвать ошибки ограничения скорости.
• Приведённые ниже лимиты являются стандартными для каждого уровня. Если вам нужны более высокие лимиты, см. раздел Запрос более высоких лимитов.
• API использует алгоритм token bucket для ограничения скорости. Это означает, что ваша ёмкость непрерывно пополняется до максимального лимита, а не сбрасывается через фиксированные интервалы.
• Все описанные здесь ограничения представляют собой максимально допустимое использование, а не гарантированные минимумы. Эти ограничения предназначены для снижения непреднамеренного перерасхода и обеспечения справедливого распределения ресурсов между пользователями.



Лимиты расходов

Каждый из уровней Start, Build и Scale имеет ежемесячный лимит расходов — максимальную сумму, которую ваша организация может потратить на API за календарный месяц. Как только вы достигнете лимита расходов вашего уровня, использование API приостанавливается до следующего месяца, если вы не запросите более высокий лимит. Вы можете просмотреть ежемесячный лимит расходов вашей организации и установить собственный лимит на странице Billing.

Организации на уровне Custom не имеют ежемесячного лимита расходов; лимиты согласовываются с их командой по работе с клиентами.

Вы также можете установить собственный лимит расходов ниже лимита вашего уровня, чтобы контролировать затраты:



Ограничения скорости

Ограничения скорости для Messages API измеряются в запросах в минуту (RPM), входных токенах в минуту (ITPM) и выходных токенах в минуту (OTPM) для каждого класса моделей. Если вы превысите любое из ограничений скорости, вы получите ошибку 429 с описанием того, какое ограничение скорости было превышено, а также заголовок retry-after, указывающий, сколько нужно подождать.



ITPM с учётом кэша

Многие поставщики API используют объединённый лимит «токенов в минуту» (TPM), который может включать все токены — как кэшированные, так и некэшированные, входные и выходные. Для большинства моделей Claude в лимит ITPM засчитываются только некэшированные входные токены. Это ключевое преимущество, благодаря которому ограничения скорости фактически выше, чем может показаться на первый взгляд.

Ограничения скорости ITPM оцениваются в начале каждого запроса, и оценка корректируется в ходе запроса, чтобы отразить фактическое количество использованных входных токенов.

Вот что засчитывается в ITPM:

• input_tokens (токены после последней точки разрыва кэша) ✓ Засчитываются в ITPM
• cache_creation_input_tokens (токены, записываемые в кэш) ✓ Засчитываются в ITPM
• cache_read_input_tokens (токены, считываемые из кэша) ✗ НЕ засчитываются в ITPM для большинства моделей

Пример: При лимите ITPM в 2 000 000 и доле попаданий в кэш 80% вы фактически можете обрабатывать 10 000 000 входных токенов в минуту (2 млн некэшированных + 8 млн кэшированных), поскольку кэшированные токены не засчитываются в ваше ограничение скорости.

Ограничения скорости OTPM оцениваются в реальном времени по мере генерации выходных токенов, при этом учитываются только фактически сгенерированные токены. Параметр max_tokens не учитывается при расчёте ограничений скорости OTPM, поэтому установка более высокого значения max_tokens не имеет негативных последствий с точки зрения ограничений скорости.

Ограничения скорости применяются отдельно для каждой модели; следовательно, вы можете использовать разные модели одновременно в пределах их соответствующих лимитов. Вы можете проверить текущие ограничения скорости и их поведение на странице Rate limits в Claude Console или программно считать настроенные лимиты с помощью Rate Limits API.

^{* Ограничение скорости для Opus — это общий лимит, применяемый к суммарному трафику по Claude Opus 4.8, Opus 4.7, Opus 4.6 и Opus 4.5. Claude Opus 5 имеет отдельное ограничение скорости и не входит в этот объединённый пул.}

^{** Ограничение скорости для Sonnet 4.x — это общий лимит, применяемый к суммарному трафику по Sonnet 4.6 и Sonnet 4.5. Claude Sonnet 5 имеет отдельное ограничение скорости и не входит в этот объединённый пул.}

^{† Лимит засчитывает cache_read_input_tokens в использование ITPM.}



Message Batches API

Message Batches API имеет собственный набор ограничений скорости, общих для всех моделей. Они включают лимит запросов в минуту (RPM) для всех конечных точек API и лимит на количество пакетных запросов, которые могут находиться в очереди обработки одновременно. Под «пакетным запросом» здесь понимается часть Message Batch. Вы можете создать Message Batch, содержащий тысячи пакетных запросов, каждый из которых засчитывается в этот лимит. Пакетный запрос считается находящимся в очереди обработки, пока он ещё не был успешно обработан моделью.



Управляемые агенты

Конечные точки Claude Managed Agents имеют ограничения скорости на уровне организации. Эти лимиты отделены от ограничений скорости Messages API, описанных выше.



Ограничения скорости быстрого режима

При использовании быстрого режима (исследовательская предварительная версия) с параметром speed: "fast" для Claude Opus 5 или Opus 4.8 применяются выделенные ограничения скорости, отдельные от стандартных ограничений скорости Opus. При превышении ограничений скорости быстрого режима API возвращает ошибку 429 с заголовком retry-after. Быстрый режим недоступен для Claude Opus 4.7 (запросы возвращают ошибку) и Claude Opus 4.6 (запросы к claude-opus-4-6 с speed: "fast" выполняются со стандартной скоростью). См. Быстрый режим.

Ответ включает заголовки anthropic-fast-*, которые указывают статус ваших ограничений скорости быстрого режима. Подробнее об этих заголовках см. Ограничения скорости быстрого режима.



Мониторинг ограничений скорости в Console

Вы можете отслеживать использование ограничений скорости на странице Usage в Claude Console.

Помимо графиков токенов и запросов, страница Usage предоставляет два отдельных графика ограничений скорости. Используйте эти графики, чтобы увидеть, какой запас для роста у вас есть, определить, когда вы можете достигать пикового использования, понять, какие ограничения скорости запрашивать, и узнать, как улучшить показатели кэширования. Графики визуализируют ряд метрик для заданного ограничения скорости (например, по модели):

• График Rate Limit - Input Tokens включает:
  • Почасовой максимум некэшированных входных токенов в минуту
  • Ваш текущий лимит входных токенов в минуту
  • Долю кэширования для ваших входных токенов (то есть процент входных токенов, считанных из кэша)
• График Rate Limit - Output Tokens включает:
  • Почасовой максимум выходных токенов в минуту
  • Ваш текущий лимит выходных токенов в минуту



Запрос более высоких лимитов

Чтобы запросить более высокие ограничения скорости или более высокий ежемесячный лимит расходов, используйте Request rate limit increase на странице Rate limits.



Установка более низких лимитов для рабочих пространств

Подробнее о рабочих пространствах см. Рабочие пространства.

Чтобы защитить рабочие пространства в вашей организации от возможного чрезмерного использования, вы можете установить индивидуальные лимиты расходов и ограничения скорости для каждого рабочего пространства.

Пример: если лимит вашей организации составляет 40 000 входных токенов в минуту и 8 000 выходных токенов в минуту, вы можете ограничить одно рабочее пространство до 30 000 входных токенов в минуту. Это защищает другие рабочие пространства от возможного чрезмерного использования и обеспечивает более справедливое распределение ресурсов в вашей организации. Оставшиеся неиспользованные токены в минуту (или больше, если это рабочее пространство не использует лимит полностью) становятся доступны для других рабочих пространств.

Примечание:

• Вы не можете устанавливать лимиты для рабочего пространства по умолчанию.
• Если лимиты не заданы, лимиты рабочего пространства совпадают с лимитами организации.
• Лимиты рабочего пространства устанавливаются для каждого типа ограничителя (например, запросов в минуту, входных токенов в минуту или выходных токенов в минуту).
• Лимиты на уровне организации применяются всегда, даже если сумма лимитов рабочих пространств превышает их.

Чтобы программно считать текущие ограничения скорости организации и рабочих пространств, используйте Rate Limits API.



Заголовки ответа

Ответ API включает заголовки, которые показывают применяемое ограничение скорости, текущее использование и время, когда лимит будет сброшен.

Возвращаются следующие заголовки:

Заголовки anthropic-ratelimit-tokens-* отображают значения для наиболее строгого лимита, действующего в данный момент. Например, если вы превысили поминутный лимит токенов рабочего пространства, заголовки будут содержать значения поминутного ограничения скорости токенов рабочего пространства. Если лимиты рабочего пространства не применяются, заголовки вернут общее количество оставшихся токенов, где общее — это сумма входных и выходных токенов. Такой подход гарантирует, что вы видите наиболее релевантное ограничение для вашего текущего использования API.