RAG w praktyce — jak dać agentowi AI dostęp do własnej wiedzy (krok po kroku)
- Poziom: średnio zaawansowany
- Zaawansowani
- Deweloperzy
Po co w ogóle RAG
Model językowy zna tylko to, co widział w treningu — nie zna Twoich procedur, cennika ani wczorajszych ustaleń. RAG rozwiązuje to bez trenowania: najpierw wyszukujemy właściwe fragmenty wiedzy, potem generujemy odpowiedź wyłącznie na ich podstawie. Efekt: odpowiedzi są aktualne dokładnie tak, jak Twoje dokumenty, a każdą można podeprzeć źródłem — co ogranicza halucynacje i buduje zaufanie użytkowników.
Architektura w jednym obrazku
Tor indeksowania (offline): dokumenty → czyszczenie → chunking → embeddingi → baza wektorowa. Tor zapytania (online): pytanie → embedding pytania → wyszukanie najbliższych fragmentów → prompt z kontekstem → odpowiedź ze źródłami.
Sześć kroków wdrożenia znajdziesz w rozpisce powyżej — poniżej to, co najczęściej decyduje o sukcesie albo porażce.
Gdzie projekty RAG zwykle się wykładają
- Chunking po sztywnej długości — fragment ucięty w pół tabeli czy procedury jest bezużyteczny. Tnij wzdłuż struktury dokumentu i testuj 2–3 warianty wielkości fragmentów.
- Retrieval tylko wektorowy — embeddingi słabo łapią kody produktów, nazwy własne i skróty. Wyszukiwanie hybrydowe (wektory + dopasowanie słów kluczowych) to zwykle najtańsza duża poprawa. Gdy odpowiedź wymaga łączenia wielu faktów, rozważ GraphRAG — ale najpierw sprawdź, kiedy graf naprawdę się opłaca.
- Brak metadanych — bez daty i źródła nie odfiltrujesz przeterminowanych procedur ani nie pokażesz użytkownikowi, skąd pochodzi odpowiedź.
- Brak ewaluacji — bez zestawu testowych pytań każda zmiana to zgadywanie. Ewaluacja z kroku 6 jest nudna i bezcenna.
- Zaniedbana higiena bazy — RAG wiernie odpowie na podstawie nieaktualnego dokumentu. Przegląd źródeł wiedzy musi mieć właściciela i kadencję.
RAG w agencie, nie tylko w czacie
W agencie AI RAG staje się po prostu narzędziem: agent sam decyduje, kiedy przeszukać bazę wiedzy, może zadać kilka zapytań z różnymi sformułowaniami i połączyć wyniki. To częsty rdzeń wdrożeń w obsłudze klienta — agent najpierw sprawdza wiedzę, a dopiero potem działa. Gotowe wzorce indeksowania i zapytań znajdziesz we frameworkach omawianych w porównaniu frameworków agentowych (najkrótszą drogę oferuje LlamaIndex).
Kiedy RAG to zły wybór
- Wiedza mieści się w całości w oknie kontekstowym i rzadko się zmienia → po prostu wklej ją do promptu.
- Chcesz zmienić styl lub format odpowiedzi, nie wiedzę → to zadanie dla fine-tuningu albo lepszego promptu (zob. poradnik promptowania).
- Pytania wymagają obliczeń na danych (agregacje, raporty) → lepszy agent z dostępem do bazy/SQL niż wyszukiwanie fragmentów tekstu.