Фоновые задачи не запускаются после деплоя: как восстановить worker

Web и worker часто развёртываются разными unit, process group или контейнерами. Новый образ может не содержать команду, supervisor не перечитать конфигурацию, а имя очереди или secret измениться только в одной среде.

Сначала измерьте длину и возраст очереди. Проверьте статус process manager, команду, exit code и версию worker. Не запускайте много копий до понимания причины и скорости обработки backlog.

Что проверить в первую очередь

Для ситуации «после деплоя web работает, а фоновые workers не запускаются или не получают задачи» сначала зафиксируйте один воспроизводимый пример: время, идентификатор объекта, пользователя или операции, входные данные, версию приложения и фактический результат. Отдельно запишите ожидаемое поведение: worker входит в release process, запускается с той же версией кода и конфигурации, проходит readiness и безопасно продолжает необработанные задачи. Не меняйте сразу несколько настроек: один контролируемый шаг должен подтверждать или исключать одну гипотезу.

Начинайте с чтения состояния и журналов. До массового перерасчёта, повторной отправки, удаления записей или изменения прав подготовьте резервную копию и способ отката. Секреты, токены, персональные данные и содержимое документов в диагностические выгрузки не включайте.

• Проверьте systemd или supervisor status.
• Сверьте image tag и commit.
• Уточните queue name и credentials.
• Проверьте миграции и совместимость payload.

Почему возникает проблема

Видимый симптом обычно появляется в конце цепочки. Первичная ошибка может находиться в API, фоновой задаче, кеше, очереди, базе, правах доступа или внешнем сервисе. Основной риск этого сценария: очередь незаметно растёт, письма и интеграции задерживаются, а повторный запуск старых задач создаёт нагрузочный шторм. Поэтому ручная правка итогового статуса часто временно скрывает проблему, но не устраняет причину.

Разбирайте события по хронологии и ищите первую точку расхождения с бизнес-правилом. Учитывайте повтор запроса, задержку события, параллельное выполнение и восстановление после временного отказа: именно в этих условиях проявляются ошибки согласованности и идемпотентности.

• Unit не перезапущен.
• Worker использует старый release path.
• Secret недоступен сервисному пользователю.
• Readiness отсутствует, процесс сразу падает.

Пошаговая диагностика

Создайте безопасный тестовый сценарий, который не затрагивает реальные списания, рассылки и клиентские данные. Назначьте операции единый correlation ID и проследите его через запрос, бизнес-логику, базу, очередь и внешние интеграции. Для каждого этапа сохраните вход, результат, код ответа, длительность и версию записи.

Сравните рабочий и ошибочный случаи по одним полям. Проверьте формат идентификаторов, часовой пояс, порядок событий, права сервисной учётной записи и актуальность конфигурации на каждом экземпляре. Если результат зависит от повтора, задержки или конкретного узла, это важная часть причины, а не случайность.

• Посмотрите restart count и stderr.
• Сравните environment web и worker.
• Отправьте безопасную test job.
• Проверьте broker consumers и heartbeat.

Как включить worker в процесс релиза

Worker является равноправным компонентом релиза с версией, healthcheck, graceful shutdown и проверяемой подпиской на очередь.

Надёжная реализация хранит бизнес-состояние явно. У каждого значимого действия есть стабильный идентификатор, владелец, версия правила и проверяемый переход статуса. Повторная доставка события не создаёт второе действие, а запоздавший ответ не возвращает объект в невозможное состояние.

• Process manager автоматически перезапускает worker.
• Версия кода совпадает с producer.
• Shutdown завершает текущую задачу.
• Backlog и heartbeat наблюдаются.

Как исправить проблему

Разделите исправление кода и восстановление исторических данных. Сначала устраните подтверждённую первопричину, затем повторите исходный сценарий и только после этого готовьте контролируемую коррекцию записей. Для финансовых данных, прав и аудита предпочтительны компенсирующие действия, а не переписывание истории.

Для существующих записей сформируйте dry-run: объект, старое значение, предлагаемое новое значение и основание. Обновление должно быть идемпотентным, ограниченным точной выборкой и создавать отчёт. Любой временный обход ограничьте сроком, пользователями и областью действия.

• Исправьте unit и абсолютные paths.
• Перезапустите workers после успешных миграций.
• Унифицируйте secret injection.
• Добавьте readiness и deploy smoke test.

Безопасный порядок внедрения

• Сохраните конфигурацию, связанные записи и необходимые журналы; отдельно проверьте реальное восстановление резервной копии.
• Воспроизведите проблему на тестовом объекте и сохраните результат до изменения для последующего сравнения.
• Внесите минимальное изменение под контролем версий, опишите причину, ожидаемый эффект и точный откат.
• Проверьте нормальный сценарий, ошибочный ввод, повтор запроса, параллельную операцию и временный отказ зависимости.
• Выпустите изменение на ограниченную долю трафика или один процесс, если архитектура это позволяет.
• После стабильного наблюдения исправьте исторические данные отдельным контролируемым запуском.

Как проверить результат

Один успешный пример недостаточен. Проверьте крайние значения, одновременные действия, перезапуск процесса и восстановление после сбоя сети. Результат подтверждайте не только интерфейсом, но и состоянием базы, очереди, внешнего сервиса и журналом аудита. Особенно важна повторная доставка уже обработанного события.

Критерии приёмки сформулируйте заранее. Каждый пункт должен давать однозначный ответ, а не субъективную оценку. Если тест нельзя автоматизировать, сохраните короткий регрессионный чек-лист с тестовыми данными и ожидаемыми статусами.

• Test job обрабатывается новой версией.
• Rolling restart не теряет задачу.
• Несовместимый payload уходит в контролируемую ошибку.
• Backlog снижается без перегрузки зависимости.

Типичные ошибки при исправлении

• Масштабировать сломанный worker.
• Очищать очередь.
• Запускать вручную без process manager.
• Не ограничивать скорость после долгого простоя.

Не отключайте авторизацию, валидацию, TLS, аудит или контроль дублей ради исчезновения симптома. Такое изменение может сделать интерфейс успешным, но увеличить ущерб при следующем сбое. Временная мера должна иметь владельца, наблюдаемость и дату удаления.

Как предотвратить повторение

Профилактика строится вокруг явных контрактов, идемпотентных обработчиков, наблюдаемости и повторяемых релизов. Система должна быстро показывать нарушение правила после обновления, роста нагрузки или отказа интеграции. Ошибку, которая уже привела к потере денег, данных или заявок, закрепите автоматическим тестом.

Мониторьте полный пользовательский путь, а не только доступность серверов. Техническая метрика должна быть связана с бизнес-результатом: заказ завершён, доступ выдан, файл восстановлен, событие обработано один раз, данные изолированы. Уведомление должно содержать контекст для первого решения.

• Queue age и depth.
• Active consumers и heartbeat.
• Restart count.
• Task success и retry rate по версии.

Что подготовить для технического разбора

• Описание ожидаемого и фактического поведения с точной последовательностью действий.
• Время возникновения, идентификатор тестового объекта и версии затронутых компонентов.
• Обезличенные журналы до и после ошибки с единым correlation ID.
• Список последних изменений, выполненных проверок и условий исчезновения симптома.
• Безопасный доступ к тестовой среде либо минимальный пример без паролей, токенов и персональных данных.

Частые вопросы

Можно ли просто перезапустить supervisor?

Сначала проверьте конфигурацию и причину падения, затем безопасно примените restart.

Что делать с backlog?

Обрабатывать с контролем параллелизма и лимитов внешних сервисов.

Как проверить версию?

Добавить build ID в health и журналы worker.

Когда нужна помощь специалиста

Если workers остановились после деплоя, я могу проверить process manager, окружение, broker и release flow. Для оценки нужны unit config, статус процесса и безопасный фрагмент журнала.