Если все сотрудники выходят через один NAT, лимит `requests per IP` превращает офис в одного клиента. Не увеличивайте число вслепую. Для авторизованного API ключом основной квоты обычно служит user, account или API client; IP остаётся отдельной защитой от массового abuse, а дорогие endpoints получают собственную стоимость и concurrency limit.

Сначала разберите конкретный ответ 429: какой limiter его выдал, какой ключ посчитал, в каком окне и сколько quota units списал запрос. Без decision log легко исправить edge limit, хотя блокировка пришла из приложения, gateway или внешнего провайдера.

Один запрос проходит несколько бюджетов

УровеньКлючЧто защищает
User/clientauthenticated subject или API key IDСправедливость между пользователями за NAT
Tenant/accountorganization IDОбщий договорной бюджет клиента
IP/networkДоверенный client IP или prefixАнонимный flood и распределённый abuse
Endpoint costroute + operation weightТяжёлые exports/search отдельно от ping
Global/concurrencyservice/resource poolБазу, очередь и внешнюю зависимость

Эти лимиты не обязаны иметь одно окно. Короткий burst допускает нормальную загрузку страницы, sustained quota ограничивает длительное потребление, concurrency не даёт запустить слишком много дорогих операций одновременно. На отказе возвращайте причину и retry policy без раскрытия чужого account ID.

Quota key строится из проверенной идентичности

if request.authenticated:
    primary = "user:" + request.subject_id
    tenant  = "tenant:" + request.tenant_id
else:
    primary = "anon-ip:" + trusted_client_ip(request)

cost = endpoint_cost(request.route, request.method)
check(primary, cost); check(tenant, cost); check(global_pool, cost)

HTTP/1.1 429 Too Many Requests
Retry-After: 30

Псевдокод показывает порядок, а не готовую библиотеку. `subject_id` должен быть результатом проверенной аутентификации, а не query-параметром. Не используйте raw token как часть Redis key или лога — возьмите внутренний ID credential. RFC 6585 разрешает серверу самому выбирать, как идентифицировать пользователя и считать запросы.

Forwarded IP доверяем только известному hop

Клиент может прислать собственный `X-Forwarded-For`. Приложение должно принимать original IP только от конкретного load balancer/CDN и по документированному header. Например, Cloudflare отправляет `CF-Connecting-IP` от edge к origin, но в stacked proxy и Worker subrequests семантика меняется. Закройте origin от прямого интернета либо проверяйте источник соединения.

  • Зафиксируйте список trusted proxies и порядок разбора цепочки.
  • Удаляйте входной forwarded header на первой доверенной границе и записывайте свой.
  • Не используйте IP как proof of identity.
  • Учитывайте IPv6 и не схлопывайте всех пользователей в ошибочный общий prefix.
  • Логируйте hash/категорию ключа, а не полный IP, если он не нужен расследованию.

Справедливость проверяется на конфликтных сценариях

Создайте тест с двумя пользователями одного tenant за одним IP. Первый исчерпывает user quota, второй продолжает работу до tenant или IP ceiling. Затем повторите с анонимными запросами, двумя API keys одного клиента и дорогим endpoint. Это показывает, где действительно проходит изоляция.

Счётчик должен обновляться атомарно в распределённой системе. Retry одного запроса, несколько gateway replicas и clock skew не должны умножать разрешённый burst. Если лимит хранится в Redis, используйте поддерживаемую атомарную операцию/скрипт и явно задайте поведение при недоступности limiter: fail-open или fail-closed выбирают по риску endpoint.

Ответ 429 помогает клиенту замедлиться

Возвращайте 429 и `Retry-After`, когда это безопасно и соответствует политике. RFC 6585 рекомендует объяснить условие и допускает Retry-After. Не обещайте абсолютный SLA через оставшуюся квоту: во время перегрузки global limiter может сработать раньше пользовательского окна.

После изменения сравните долю 429 по user, tenant, IP и route, p95 latency и нагрузку зависимости. Откат — вернуть прежний набор policies, но не стирать counters во всём кластере без плана: это создаёт общий burst. Для разбора нужны обезличенный decision log, proxy chain, ключи policies и пример 429 без токенов/IP.

Проверенные источники