RAG (retrieval-augmented generation) to technika, w której model językowy przed udzieleniem odpowiedzi wyszukuje informacje w podpiętej bazie wiedzy (dokumentach, cenniku, bazie danych) i odpowiada na ich podstawie, a nie wyłącznie z pamięci treningowej.
Mechanika w trzech krokach: pytanie użytkownika → system wyszukuje pasujące fragmenty w Twoich źródłach → model komponuje odpowiedź z tych fragmentów, często ze wskazaniem źródła. Model nie musi „pamiętać" Twojej oferty; dostaje ją na talerzu w momencie pytania.
Przykład praktyczny: asystent dla klientów biura rachunkowego odpowiada na podstawie aktualnego cennika i procedur firmy, a nie tego, co model „słyszał" o biurach rachunkowych w internecie. Gdy cennik się zmienia, wystarczy podmienić dokument.
Dlaczego to ważne dla biznesu: RAG to rdzeń większości sensownych wdrożeń AI w firmach. Pozwala pracować na własnych, aktualnych danych bez kosztownego trenowania modelu oraz wyraźnie ogranicza halucynacje, bo odpowiedzi mają źródła. Właśnie tak buduje się AI, które zna Twoją firmę.