Halucynacje AI
Aktualizacja: · zob. też: halucynacja, konfabulacja AI, AI hallucination
Model językowy nie ma bazy „prawd” — przewiduje kolejne tokeny na podstawie wzorców z treningu. Czasem najbardziej prawdopodobna odpowiedź jest po prostu błędna, mimo że brzmi pewnie.
Jak ograniczać halucynacje:
- Proś o podanie źródeł i sam je sprawdzaj.
- Używaj RAG, czyli podawania modelowi zweryfikowanych dokumentów.
- Przy ważnych decyzjach traktuj odpowiedź jako wstępną, nie ostateczną.
To dlatego w agentarium.pl każdą figurę opieramy na źródle z datą — zob. Jak oceniamy narzędzia.