Fine-tuning vs RAG vs prompt — kiedy co wybrać, żeby model robił to, czego chcesz

To wyjaśnienie dla osób, które chcą, żeby model zachowywał się w określony sposób albo znał ich wiedzę — i zastanawiają się, czy „wytrenować własne AI”. Podstawy (czym jest model, pretrening i dostrajanie) znajdziesz w tekście LLM — co to jest duży model językowy.

Trzy dźwignie w jednym zdaniu każda

• Prompt — mówisz modelowi, co ma zrobić, za każdym razem, w treści zapytania.
• RAG — system wyszukuje potrzebne fragmenty Twoich dokumentów i dokłada je do zapytania; model odpowiada na ich podstawie.
• Fine-tuning — douczasz model na setkach lub tysiącach przykładów, żeby zmienić jego zachowanie na stałe.

Porównanie

Dlaczego zaczynać od promptu

OpenAI pisze w dokumentacji wprost, że sam prompt engineering może wystarczyć do świetnych wyników. To nie jest skromność dostawcy: dzisiejsze modele są już dostrojone do wykonywania poleceń (m.in. metodą RLHF), więc dobrze napisana instrukcja z 2–3 przykładami zwykle daje więcej niż dodatkowy trening. Zanim pomyślisz o fine-tuningu, przejdź przez 10 zasad dobrego promptu i techniki dla zaawansowanych.

W świecie agentów jest jeszcze stopień pośredni: procedura zapisana raz i ładowana przez agenta wtedy, gdy jest potrzebna — tak działają skille (SKILL.md). Dają powtarzalność bez trenowania modelu.

Kiedy RAG

RAG wybierasz, gdy problemem jest wiedza, a nie zachowanie: firmowe procedury, dokumentacja produktu, cenniki, baza zgłoszeń. Pierwsza praca o tej technice (Lewis i in., 2020) pokazała, że model z dostępem do zewnętrznego indeksu dokumentów generuje bardziej konkretny i zgodny z faktami tekst niż model polegający tylko na wiedzy z treningu. Do tego dostajesz cytowania, które użytkownik może sprawdzić — to jedna z najskuteczniejszych broni przeciw halucynacjom.

Nie zawsze trzeba budować cały system. Anthropic radzi, że gdy baza wiedzy ma mniej niż ok. 200 tys. tokenów (około 500 stron), można ją po prostu wkleić w całości do promptu. Więcej o limitach: tokeny i okno kontekstowe. Jak zbudować RAG krok po kroku: RAG w praktyce.

Kiedy fine-tuning

Według dokumentacji OpenAI fine-tuning daje przewagę nad samym promptem, gdy:

• potrzebujesz więcej przykładów, niż zmieści się w jednym zapytaniu,
• przy dużej skali chcesz krótszych promptów — niższych kosztów i opóźnień,
• chcesz trenować na danych wrażliwych, nie dołączając ich do każdego zapytania,
• chcesz mniejszego, tańszego modelu do wąskiego zadania, w którym duży model się nie opłaca.

Do tego dochodzą utrwalenie stylu i formatu (np. ton marki, stała struktura odpowiedzi).

Dostępność — stan na 26.09.2026. Tu jest haczyk, o którym rzadko się pisze:

• OpenAI wygasza platformę fine-tuningu: nowi użytkownicy nie mają już do niej dostępu, a dotychczasowi mogą tworzyć zadania treningowe jeszcze przez najbliższe miesiące.
• Anthropic — API Claude według dokumentacji nie oferuje fine-tuningu (zainteresowanych Anthropic odsyła do kontaktu ze swoim opiekunem w firmie).
• Modele otwarte — tu douczanie jest w pełni możliwe, ale na Twojej infrastrukturze i Twoim koszcie utrzymania.

W praktyce oznacza to, że fine-tuning przestaje być domyślną „kolejną dźwignią” w projektach opartych na modelach zamkniętych.

Drzewo decyzji

1. Czy model źle rozumie zadanie albo odpowiada w złym formacie? → Popraw prompt: cel, kontekst, format, przykład. Sprawdź na 10–20 realnych przypadkach.
2. Czy brakuje mu wiedzy (firmowej, aktualnej)? → Mało materiału: wklej go do promptu. Dużo i często się zmienia: RAG.
3. Czy ta sama procedura powtarza się w wielu rozmowach lub u wielu osób? → Zapisz ją jako instrukcję projektu albo skill.
4. Czy przy dużej skali koszt długich promptów jest za wysoki, a zadanie wąskie i stabilne, i masz setki dobrych przykładów? → Rozważ fine-tuning — o ile jest dostępny dla Twojego modelu — albo mniejszy model otwarty dostrojony do tego zadania.

Na każdym etapie potrzebna jest ewaluacja: stały zestaw pytań z wzorcowymi odpowiedziami, na którym mierzysz, czy zmiana cokolwiek poprawiła.

Co dalej

• LLM — co to jest duży model językowy
• RAG w praktyce
• Skille (SKILL.md) — kompletny poradnik
• Tokeny i okno kontekstowe