Co RAG ve skutečnosti je
Jazykový model sám o sobě je jako zkouška se zavřenou knihou. Vše, co vám dokáže říct, bylo dané v okamžiku, kdy skončilo trénování, a když se zeptáte na svou smlouvu, svůj kód nebo včerejší zprávy, dostanete buď odmítnutí, nebo sebevědomý odhad. Proč se AI plete podrobně popisuje problém hádání.
RAG mění zkoušku se zavřenou knihou na zkoušku s otevřenou knihou. Předtím, než model napíše odpověď, systém prohledá zdroj znalostí, například vaše nahrané soubory, firemní wiki nebo živý web, vytáhne nejrelevantnější pasáže a vloží je do promptu spolu s vaší otázkou. Model pak odpovídá z tohoto nalezeného textu, a ne jen z paměti.
To je celá myšlenka. Název zní odstrašujícně, mechanismus je ale prostý: „nejdřív si to najdi“. Všechno ostatní v RAG inženýrství se točí kolem toho, jak zajistit, aby krok vyhledávání našel ty správné pasáže.
Proč modely vůbec potřebují krok vyhledávání
Tuto potřebu vytvářejí dvě tvrdá omezení.
Trénování má konečné datum. Model trénovaný do začátku roku 2026 neví nic o tom, co se stalo poté, a přetrénování špičkového modelu je měsíce trvající a nesmírně nákladný projekt. Vyhledávání je způsob, jak AI produkt odpoví na dnešní ranní oznámení, aniž by kdokoli cokoli přetrénoval.
Trénovací data byla veřejná. Vaše faktury, tikety a interní dokumenty v nich nikdy nebyly, a žádný chytrý prompt nezíská informace, které model nikdy neviděl. Vyhledávání je jediný způsob, jak obecný model dokáže odpovídat na základě soukromých dat.
Existuje i třetí, jemnější důvod: ukotvení (grounding). Když odpověď musí vycházet z dodané pasáže, model může citovat svůj zdroj a vy si to můžete ověřit. Odpověď vytvořená z paměti nenabízí nic, oproti čemu by se dala ověřit, a přesně to je selhání, kvůli kterému jsou halucinace nebezpečné.
Jak RAG pipeline funguje krok za krokem
Každý RAG systém, od funkce chatu s PDF až po podnikový vyhledávací produkt, prochází stejnými pěti kroky.
- Rozdělení na části (chunking). Zdrojové dokumenty se rozdělí na pasáže, obvykle po několika stovkách slov, protože vyhledávání funguje na pasážích, ne na celých souborech.
- Indexace. Každá část se převede na embedding, tedy seznam čísel vyjadřujících její význam, a uloží se do vektorové databáze tak, aby podobné významy ležely blízko sebe.
- Vyhledání. Vaše otázka se zakóduje stejným způsobem a systém vytáhne části, jejichž embeddingy jsou jí nejblíže, obvykle 3 až 10 nejlepších pasáží.
- Rozšíření (augmentace). Tyto pasáže se vloží do promptu, obalené instrukcemi typu „odpovídej pouze z níže uvedeného kontextu“.
- Generování. Model napíše odpověď na základě rozšířeného promptu, ideálně s uvedením, která pasáž podpořila jaké tvrzení.
Když nahrajete dlouhý dokument do chatovacího nástroje a ptáte se na něj, běží na pozadí nějaká verze právě tohoto procesu. Průvodce chatem s PDF ukazuje, jak to v praxi vypadá ve Whizi.
RAG vs dlouhý kontext vs fine-tuning
Tyto tři přístupy se pletou dohromady, protože všechny tři „naučí model něco o vašich datech“. Dělají to ale zcela odlišnými způsoby.
| Přístup | Jak funguje | Nejlepší pro | Slabina |
|---|---|---|---|
| RAG | Nejprve vyhledá, pak odpoví na základě výsledků | Velké nebo měnící se sady dokumentů, citace | Kvalita odpovědi závisí na kvalitě vyhledávání |
| Dlouhý kontext | Vloží vše do promptu | Jeden dokument, hluboké prokřížené odkazování | Náklady a limity pozornosti |
| Fine-tuning | Přetrénuje model na příkladech | Styl, formát a chování | Slabý ve faktech, drahá aktualizace |
Rozhoduje spíš ekonomika než teorie. Kontextové okno s 1M tokeny, které dnes nabízejí špičkové modely jako Gemini a rodina GPT-5.6, pojme zhruba 1 500 stran, takže skutečně můžete vložit celý manuál. Při sazbě GPT-5.6 Terra $2 za milion vstupních tokenů ale odeslání 300 000 tokenů manuálu s každou otázkou stojí zhruba $0.60 za otázku, zatímco vyhledání správných 2 000 tokenů stojí méně než půl centu. Položte tři otázky a dlouhý kontext vyjde 100krát dráž za stejné odpovědi. Co je kontextové okno vysvětluje tento základní limit.
Fine-tuning je ten, který vybočuje: mění, jak se model chová, ne to, co ví. Týmy ho používají pro tón a formát výstupu a pro fakta si stejně přidají RAG.
Kde už RAG používáte, aniž byste si to uvědomovali
Vyhledávání na webu v chatbotech. Když ChatGPT, Gemini nebo Perplexity prohledá web a odpoví s odkazy, jde o RAG s internetem jako zdrojem znalostí.
Chat s vašimi soubory. Nahrajete PDF a ptáte se na něj: rozdělení na části, embedding a vyhledávání běží na pozadí u každého dokumentu, který je příliš dlouhý na to, aby se pohodlně vešel do kontextu.
Zákaznická podpora s chatbotem. Ti, kteří odpovídají na základě skutečného centra nápovědy a citují článek, jsou RAG systémy. Ti, kteří si vymýšlejí, nejsou, a je to na nich vidět.
AI asistenti odpovídající na aktuální dění. Jakákoli správná odpověď na něco po datu ukončení trénování modelu vznikla díky vyhledávání, ne díky paměti.
Kde RAG selhává a jak to poznat
RAG snižuje halucinace, neodstraňuje je úplně a přidává i vlastní způsoby selhání.
Chybné vyhledání. Pokud krok vyhledávání vytáhne špatné pasáže, model plynule odpoví z irelevantního kontextu. Příznak: odpověď, která cituje váš dokument, ale řeší mírně jinou otázku.
Zastaralé indexy. Vektorová databáze zná dokumenty jen ve stavu poslední indexace. RAG systém postavený na pravidlech z minulého čtvrtletí dá sebevědomě zastaralou odpověď opatřenou citacemi, což působí přesvědčivěji než obyčejná halucinace, a je to proto horší.
Protichůdné zdroje. Když se nalezené pasáže neshodují, modely je mají tendenci spojit do jednoho hladkého, ale chybného odstavce, místo aby na konflikt upozornily.
Praktická obrana je stejná jako u jakékoli odpovědi od AI: zkontrolujte citovanou pasáž, ne jen to, že citace existuje. Odpověď z RAG, jejíž zdroj ve skutečnosti neříká to, co odpověď tvrdí, je nejčastější závažné selhání v produkčních systémech.
- Používejte nástroje ve stylu RAG (nahrávání souborů, vyhledávání na webu) vždy, když se otázka týká vašich dat nebo aktuálního dění
- Pro jeden dokument, který chcete důkladně prozkoumat, volte dlouhý kontext, pro velké nebo měnící se sady dat volte vyhledávání
- Neočekávejte, že fine-tuning přidá fakta, mění chování, ne znalosti
- Vždy si otevřete citovanou pasáž a ověřte, že říká to, co odpověď tvrdí
- Sebevědomou odpověď bez citace berte jako odhad z paměti
Časté dotazy
Co znamená RAG v AI?
RAG znamená retrieval augmented generation. Retrieval (vyhledávání) znamená prohledání zdroje znalostí kvůli relevantním pasážím, augmented (rozšíření) znamená přidání těchto pasáží do promptu a generation (generování) znamená, že model na jejich základě napíše odpověď. Tato technika umožňuje modelu odpovídat na základě dokumentů a dat, na kterých nikdy nebyl trénován.
Je RAG lepší než fine-tuning?
Řeší jiné problémy. RAG je lepší pro fakta, protože aktualizace znalostí znamená přeindexování dokumentů, ne přetrénování, a odpovědi mohou citovat zdroje. Fine-tuning je lepší pro styl, tón a formát výstupu. Produkční systémy běžně používají obojí: fine-tuning pro chování, RAG pro znalosti.
Dělá velké kontextové okno RAG zbytečným?
Ne, jen posouvá hranici. S okny o 1M tokenech můžete přímo vložit zhruba 1 500 stran, což u práce s jedním dokumentem skutečně RAG nahradí. Vkládání všeho do každé otázky ale pokaždé stojí vstupní tokeny, zhruba $0.60 za otázku u manuálu o 300 000 tokenech při sazbě $2 za milion tokenů, zatímco vyhledávání odešle jen pár tisíc tokenů. U velkých, měnících se nebo často dotazovaných sad dat zůstává vyhledávání ekonomičtější volbou.
Musím pro použití RAG něco stavět?
Jako uživatel ne. Nahrání dokumentu do chatovacího nástroje nebo zapnutí vyhledávání na webu už spouští vyhledávání na pozadí. Stavba vlastní pipeline s vektorovou databází dává smysl až tehdy, když vyvíjíte software, který musí automaticky odpovídat na základě soukromé sbírky dokumentů.
Zastaví RAG halucinace AI?
Výrazně je omezuje tím, že odpovědi ukotví v nalezeném textu, ale přináší vlastní selhání: vytažení špatné pasáže, odpověď ze zastaralého indexu nebo smíchání protichůdných zdrojů. Spolehlivý návyk je ověřit, že citovaná pasáž skutečně podporuje tvrzení, což RAG umožňuje a čistě odpověď z paměti ne.
