RAG‑система может выдать уверенный ответ со ссылкой на документ, который на самом деле никак не повлиял на генерацию. За одинаковым симптомом могут скрываться сбои retrieval, игнорирование контекста или генерация из параметрической памяти модели. Разберём на примерах, как отличить эти сценарии…
Учимся отличать галлюцинации от плохого контекста
Это краткое изложение. Полный текст материала доступен на сайте источника.