Дубли могут возникать на OCR, сегментации таблицы, объединении страниц или повторном импорте. Удаление одинакового текста опасно: в накладной законно встречаются одинаковые товары.

Возьмите один документ и присвойте идентификатор каждой странице, области и распознанной строке. Найдите первый этап, где одна физическая строка превращается в две записи.

Что проверить в первую очередь

Для ситуации «распознавание накладных создает дубли позиций» сначала зафиксируйте один воспроизводимый пример: время, идентификатор объекта, пользователя или операции, входные данные, версию приложения и фактический результат. Отдельно запишите ожидаемое поведение: pipeline сохраняет координаты и происхождение строк, корректно объединяет переносы и повторные заголовки и дедуплицирует только подтверждённые совпадения. Не меняйте сразу несколько настроек: один контролируемый шаг должен подтверждать или исключать одну гипотезу.

Начинайте с чтения состояния и журналов. До массового перерасчёта, повторной отправки, удаления записей или изменения прав подготовьте резервную копию и способ отката. Секреты, токены, персональные данные и содержимое документов в диагностические выгрузки не включайте.

  • Проверьте повторную обработку файла.
  • Сравните bounding boxes строк.
  • Найдите повторные заголовки страниц.
  • Сверьте ключ импорта документа.

Почему возникает проблема

Видимый симптом обычно появляется в конце цепочки. Первичная ошибка может находиться в API, фоновой задаче, кеше, очереди, базе, правах доступа или внешнем сервисе. Основной риск этого сценария: одна товарная строка импортируется несколько раз, завышая количество, сумму и складские остатки. Поэтому ручная правка итогового статуса часто временно скрывает проблему, но не устраняет причину.

Разбирайте события по хронологии и ищите первую точку расхождения с бизнес-правилом. Учитывайте повтор запроса, задержку события, параллельное выполнение и восстановление после временного отказа: именно в этих условиях проявляются ошибки согласованности и идемпотентности.

  • Перекрывающиеся OCR-регионы.
  • Строка на границе страницы собрана дважды.
  • Retry повторно записывает результат.
  • Header ошибочно распознан как позиция.

Пошаговая диагностика

Создайте безопасный тестовый сценарий, который не затрагивает реальные списания, рассылки и клиентские данные. Назначьте операции единый correlation ID и проследите его через запрос, бизнес-логику, базу, очередь и внешние интеграции. Для каждого этапа сохраните вход, результат, код ответа, длительность и версию записи.

Сравните рабочий и ошибочный случаи по одним полям. Проверьте формат идентификаторов, часовой пояс, порядок событий, права сервисной учётной записи и актуальность конфигурации на каждом экземпляре. Если результат зависит от повтора, задержки или конкретного узла, это важная часть причины, а не случайность.

  • Сохраните OCR JSON с координатами.
  • Проследите document run ID.
  • Сравните confidence и page index.
  • Проверьте уникальные ключи в базе.

Как моделировать строки распознанного документа

Каждая извлечённая строка должна сохранять происхождение и стабильный ключ обработки, чтобы повтор запуска не создавал новые позиции.

Надёжная реализация хранит бизнес-состояние явно. У каждого значимого действия есть стабильный идентификатор, владелец, версия правила и проверяемый переход статуса. Повторная доставка события не создаёт второе действие, а запоздавший ответ не возвращает объект в невозможное состояние.

  • Файл имеет content hash.
  • OCR regions имеют page и coordinates.
  • Нормализация отделена от импорта.
  • Неуверенные совпадения идут на проверку.

Как исправить проблему

Разделите исправление кода и восстановление исторических данных. Сначала устраните подтверждённую первопричину, затем повторите исходный сценарий и только после этого готовьте контролируемую коррекцию записей. Для финансовых данных, прав и аудита предпочтительны компенсирующие действия, а не переписывание истории.

Для существующих записей сформируйте dry-run: объект, старое значение, предлагаемое новое значение и основание. Обновление должно быть идемпотентным, ограниченным точной выборкой и создавать отчёт. Любой временный обход ограничьте сроком, пользователями и областью действия.

  • Уберите перекрытие областей или объединяйте его геометрически.
  • Добавьте idempotency по document run.
  • Фильтруйте повторные header rows.
  • Показывайте оператору подозрительные пары.

Безопасный порядок внедрения

  • Сохраните конфигурацию, связанные записи и необходимые журналы; отдельно проверьте реальное восстановление резервной копии.
  • Воспроизведите проблему на тестовом объекте и сохраните результат до изменения для последующего сравнения.
  • Внесите минимальное изменение под контролем версий, опишите причину, ожидаемый эффект и точный откат.
  • Проверьте нормальный сценарий, ошибочный ввод, повтор запроса, параллельную операцию и временный отказ зависимости.
  • Выпустите изменение на ограниченную долю трафика или один процесс, если архитектура это позволяет.
  • После стабильного наблюдения исправьте исторические данные отдельным контролируемым запуском.

Как проверить результат

Один успешный пример недостаточен. Проверьте крайние значения, одновременные действия, перезапуск процесса и восстановление после сбоя сети. Результат подтверждайте не только интерфейсом, но и состоянием базы, очереди, внешнего сервиса и журналом аудита. Особенно важна повторная доставка уже обработанного события.

Критерии приёмки сформулируйте заранее. Каждый пункт должен давать однозначный ответ, а не субъективную оценку. Если тест нельзя автоматизировать, сохраните короткий регрессионный чек-лист с тестовыми данными и ожидаемыми статусами.

  • Повторная загрузка не создаёт позиции.
  • Одинаковые реальные товары сохраняются.
  • Строка через границу страниц объединяется один раз.
  • Итог количества и суммы совпадает с документом.

Типичные ошибки при исправлении

  • Менять данные вручную без подтверждённой причины.
  • Отключать защитные проверки ради исчезновения симптома.
  • Проверять только один успешный сценарий.
  • Выпускать изменение без журнала и плана отката.

Не отключайте авторизацию, валидацию, TLS, аудит или контроль дублей ради исчезновения симптома. Такое изменение может сделать интерфейс успешным, но увеличить ущерб при следующем сбое. Временная мера должна иметь владельца, наблюдаемость и дату удаления.

Как предотвратить повторение

Профилактика строится вокруг явных контрактов, идемпотентных обработчиков, наблюдаемости и повторяемых релизов. Система должна быстро показывать нарушение правила после обновления, роста нагрузки или отказа интеграции. Ошибку, которая уже привела к потере денег, данных или заявок, закрепите автоматическим тестом.

Мониторьте полный пользовательский путь, а не только доступность серверов. Техническая метрика должна быть связана с бизнес-результатом: заказ завершён, доступ выдан, файл восстановлен, событие обработано один раз, данные изолированы. Уведомление должно содержать контекст для первого решения.

  • Частота ошибки по версии и окружению.
  • Доля повторных операций и ручных исправлений.
  • Время от первого сбоя до обнаружения.
  • Количество объектов в неопределённом состоянии.

Что подготовить для технического разбора

  • Описание ожидаемого и фактического поведения с точной последовательностью действий.
  • Время возникновения, идентификатор тестового объекта и версии затронутых компонентов.
  • Обезличенные журналы до и после ошибки с единым correlation ID.
  • Список последних изменений, выполненных проверок и условий исчезновения симптома.
  • Безопасный доступ к тестовой среде либо минимальный пример без паролей, токенов и персональных данных.

Частые вопросы

Можно ли удалять строки с одинаковым названием?

Нет, нужны количество, артикул, координаты и контекст документа.

Как обрабатывать низкую уверенность?

Направлять на проверку, не угадывая финансовые данные.

Нужен ли hash файла?

Да, он помогает обнаружить повторную загрузку, но не заменяет ключи этапов обработки.

Когда нужна помощь специалиста

Если OCR накладных создаёт дубли, я могу проследить pipeline, исправить сегментацию и идемпотентный импорт и добавить контроль итогов.