Grounding (ugruntowanie odpowiedzi)
Aktualizacja: · zob. też: ugruntowanie, ugruntowanie w źródłach, grounded generation
Model odpowiadający „z pamięci” generuje tekst na podstawie wzorców z treningu. Model ugruntowany dostaje materiał w kontekście i ma odpowiadać wyłącznie na jego podstawie — najlepiej z cytatami.
Najczęstsze sposoby:
- RAG — system wyszukuje fragmenty dokumentów i dokłada je do promptu.
- Wyszukiwanie w sieci — asystent odpowiada na podstawie znalezionych stron i podaje linki.
- Dosłowne cytaty — polecenie „do każdego twierdzenia dodaj cytat ze źródła”. Anthropic wymienia opieranie odpowiedzi na dosłownych cytatach wśród podstawowych technik ograniczania halucynacji.
Ograniczenie: grounding zmniejsza ryzyko zmyśleń, ale go nie usuwa — model może źle zrozumieć fragment albo dopowiedzieć coś, czego w źródle nie ma. Dlatego cytaty warto pokazywać użytkownikowi.
Źródła
- Reduce hallucinations — Anthropic (dostęp: )