agentarium.pl

Grounding (ugruntowanie odpowiedzi)

Aktualizacja: · zob. też: ugruntowanie, ugruntowanie w źródłach, grounded generation

Model odpowiadający „z pamięci” generuje tekst na podstawie wzorców z treningu. Model ugruntowany dostaje materiał w kontekście i ma odpowiadać wyłącznie na jego podstawie — najlepiej z cytatami.

Najczęstsze sposoby:

  • RAG — system wyszukuje fragmenty dokumentów i dokłada je do promptu.
  • Wyszukiwanie w sieci — asystent odpowiada na podstawie znalezionych stron i podaje linki.
  • Dosłowne cytaty — polecenie „do każdego twierdzenia dodaj cytat ze źródła”. Anthropic wymienia opieranie odpowiedzi na dosłownych cytatach wśród podstawowych technik ograniczania halucynacji.

Ograniczenie: grounding zmniejsza ryzyko zmyśleń, ale go nie usuwa — model może źle zrozumieć fragment albo dopowiedzieć coś, czego w źródle nie ma. Dlatego cytaty warto pokazywać użytkownikowi.

Źródła

  1. Reduce hallucinations — Anthropic (dostęp: )