RAG нужен, чтобы AI отвечал по базе знаний, а не придумывал. Если система цитирует несуществующий источник, проблема может быть в поиске, метаданных, промпте, чанках или логике сборки ответа.

Когда это становится проблемой

Пользователь получает уверенный ответ со ссылкой на документ, которого нет. Для поддержки, юридических материалов, инструкций и корпоративной базы знаний это критично: доверие к ассистенту падает.

Что проверяю в первую очередь

  • Какие документы реально вернул retrieval
  • Корректность metadata: title, url, page, source_id
  • Размер и качество chunking
  • Смешиваются ли источники при генерации ответа
  • Есть ли запрет отвечать без найденного источника

Как исправляю

Я проверяю не только prompt, а весь pipeline: загрузку документов, индекс, поиск, ранжирование, контекст и формат цитирования. Источник должен быть связан с конкретным найденным фрагментом.

  • Исправляю метаданные и связь chunk с документом
  • Настраиваю retrieval и reranking
  • Добавляю строгий формат ответа со ссылками только на найденные источники
  • Ввожу fallback: если источника нет, ассистент честно говорит об этом

Что важно не сломать

Нельзя лечить проблему одной фразой в промпте. Если retrieval возвращает мусор или метаданные сломаны, модель все равно будет ошибаться.

Что будет после исправления

  • Ответы ссылаются на реальные документы
  • Ассистент не выдумывает источники при отсутствии данных
  • Цитаты можно проверить по фрагментам
  • Качество RAG измеряется тестовыми вопросами

Что подготовить перед обращением

  • Пример неправильного ответа
  • Какие документы должны быть источником
  • Доступ к индексу или коду RAG
  • Тестовые вопросы для проверки

Вопросы и ответы

Можно ли исправить без полной переделки?

Да, обычно помогает настройка retrieval, метаданных и формата ответа. Полностью менять модель часто не нужно.

Сколько времени занимает диагностика?

Первичная причина видна после трассировки одного-двух проблемных запросов.

Нужна похожая задача?

Напишите в Telegram @rabotator_support и коротко опишите проблему. Я посмотрю симптомы, предложу понятный план работ и скажу, какие доступы нужны для безопасного исправления.