Если все сотрудники выходят через один NAT, лимит `requests per IP` превращает офис в одного клиента. Не увеличивайте число вслепую. Для авторизованного API ключом основной квоты обычно служит user, account или API client; IP остаётся отдельной защитой от массового abuse, а дорогие endpoints получают собственную стоимость и concurrency limit.
Сначала разберите конкретный ответ 429: какой limiter его выдал, какой ключ посчитал, в каком окне и сколько quota units списал запрос. Без decision log легко исправить edge limit, хотя блокировка пришла из приложения, gateway или внешнего провайдера.
Один запрос проходит несколько бюджетов
| Уровень | Ключ | Что защищает |
|---|---|---|
| User/client | authenticated subject или API key ID | Справедливость между пользователями за NAT |
| Tenant/account | organization ID | Общий договорной бюджет клиента |
| IP/network | Доверенный client IP или prefix | Анонимный flood и распределённый abuse |
| Endpoint cost | route + operation weight | Тяжёлые exports/search отдельно от ping |
| Global/concurrency | service/resource pool | Базу, очередь и внешнюю зависимость |
Эти лимиты не обязаны иметь одно окно. Короткий burst допускает нормальную загрузку страницы, sustained quota ограничивает длительное потребление, concurrency не даёт запустить слишком много дорогих операций одновременно. На отказе возвращайте причину и retry policy без раскрытия чужого account ID.
Quota key строится из проверенной идентичности
if request.authenticated:
primary = "user:" + request.subject_id
tenant = "tenant:" + request.tenant_id
else:
primary = "anon-ip:" + trusted_client_ip(request)
cost = endpoint_cost(request.route, request.method)
check(primary, cost); check(tenant, cost); check(global_pool, cost)
HTTP/1.1 429 Too Many Requests
Retry-After: 30Псевдокод показывает порядок, а не готовую библиотеку. `subject_id` должен быть результатом проверенной аутентификации, а не query-параметром. Не используйте raw token как часть Redis key или лога — возьмите внутренний ID credential. RFC 6585 разрешает серверу самому выбирать, как идентифицировать пользователя и считать запросы.
Forwarded IP доверяем только известному hop
Клиент может прислать собственный `X-Forwarded-For`. Приложение должно принимать original IP только от конкретного load balancer/CDN и по документированному header. Например, Cloudflare отправляет `CF-Connecting-IP` от edge к origin, но в stacked proxy и Worker subrequests семантика меняется. Закройте origin от прямого интернета либо проверяйте источник соединения.
- Зафиксируйте список trusted proxies и порядок разбора цепочки.
- Удаляйте входной forwarded header на первой доверенной границе и записывайте свой.
- Не используйте IP как proof of identity.
- Учитывайте IPv6 и не схлопывайте всех пользователей в ошибочный общий prefix.
- Логируйте hash/категорию ключа, а не полный IP, если он не нужен расследованию.
Справедливость проверяется на конфликтных сценариях
Создайте тест с двумя пользователями одного tenant за одним IP. Первый исчерпывает user quota, второй продолжает работу до tenant или IP ceiling. Затем повторите с анонимными запросами, двумя API keys одного клиента и дорогим endpoint. Это показывает, где действительно проходит изоляция.
Счётчик должен обновляться атомарно в распределённой системе. Retry одного запроса, несколько gateway replicas и clock skew не должны умножать разрешённый burst. Если лимит хранится в Redis, используйте поддерживаемую атомарную операцию/скрипт и явно задайте поведение при недоступности limiter: fail-open или fail-closed выбирают по риску endpoint.
Ответ 429 помогает клиенту замедлиться
Возвращайте 429 и `Retry-After`, когда это безопасно и соответствует политике. RFC 6585 рекомендует объяснить условие и допускает Retry-After. Не обещайте абсолютный SLA через оставшуюся квоту: во время перегрузки global limiter может сработать раньше пользовательского окна.
После изменения сравните долю 429 по user, tenant, IP и route, p95 latency и нагрузку зависимости. Откат — вернуть прежний набор policies, но не стирать counters во всём кластере без плана: это создаёт общий burst. Для разбора нужны обезличенный decision log, proxy chain, ключи policies и пример 429 без токенов/IP.