Що таке RAG насправді
Мовна модель сама по собі це іспит із закритою книгою. Все, що вона може вам сказати, було зафіксоване на момент завершення навчання, і питання про ваш контракт, вашу кодову базу чи вчорашні новини дають або відмову, або впевнену вигадку. Чому ШІ помиляється детально розглядає проблему вигадування.
RAG перетворює іспит із закритою книгою на іспит із відкритою. Перш ніж модель напише відповідь, система шукає у джерелі знань, наприклад у ваших завантажених файлах, вікі компанії або в реальному вебі, дістає найрелевантніші фрагменти і вставляє їх у промпт разом із вашим питанням. Модель тоді відповідає на основі цього знайденого тексту, а не лише з пам'яті.
Це і є вся ідея. Назва звучить складно, а механізм простий: "спочатку пошукай". Все інше в інженерії RAG стосується того, як зробити пошук таким, щоб він знаходив правильні фрагменти.
Чому моделям взагалі потрібен крок пошуку
Потребу створюють два жорсткі обмеження.
У навчання є дата завершення. Модель, навчена до початку 2026 року, не знає нічого з того, що сталося після, а перенавчання флагманської моделі це багатомісячний і надзвичайно дорогий проєкт. Пошук це спосіб, яким продукт зі ШІ відповідає про сьогоднішню новину без потреби будь-кого перенавчувати.
Дані для навчання були публічними. Ваші рахунки, тікети та внутрішні документи в них ніколи не потрапляли, і жодна вигадлива формула промпту не відновить інформацію, яку модель ніколи не бачила. Пошук це єдиний спосіб, яким загальна модель може відповідати за приватними даними.
Є ще тонша третя причина: обґрунтування. Коли відповідь має походити з наданого фрагмента, модель може процитувати своє джерело, і ви можете це перевірити. Відповідь, згенерована з пам'яті, не дає нічого для перевірки, а це і є та поведінка, через яку галюцинації небезпечні.
Як працює конвеєр RAG, крок за кроком
Кожна система RAG, від функції чату з PDF до корпоративного пошукового продукту, виконує ті самі п'ять кроків.
- Розбиття на фрагменти (chunking). Вихідні документи розбиваються на уривки, зазвичай по кілька сотень слів кожен, тому що пошук працює з уривками, а не з цілими файлами.
- Індексація. Кожен фрагмент перетворюється на ембединг, список чисел, що представляє його зміст, і зберігається у векторній базі даних так, щоб схожі значення опинялися поруч.
- Пошук. Ваше питання перетворюється на ембединг тим самим способом, і система дістає фрагменти, чиї ембединги розташовані найближче до нього, зазвичай від 3 до 10 найкращих уривків.
- Доповнення (augmentation). Ці уривки вставляються у промпт, обгорнуті в інструкції типу "відповідай лише на основі наведеного нижче контексту".
- Генерація. Модель пише відповідь на основі доповненого промпту, в ідеалі вказуючи, який уривок підтверджує кожне твердження.
Коли ви завантажуєте великий документ у чат-інструмент і задаєте про нього питання, працює якась версія цього процесу. Гайд з чату з PDF показує, як це виглядає на практиці всередині Whizi.
RAG проти довгого контексту проти донавчання
Ці три поняття плутають, бо всі три "навчають модель вашим даним". Але роблять це несумісними способами.
| Підхід | Як це працює | Найкраще для | Слабкість |
|---|---|---|---|
| RAG | Спочатку пошук, потім відповідь на основі результатів | Великих чи змінних наборів документів, цитувань | Якість відповіді залежить від якості пошуку |
| Довгий контекст | Вставляння всього в промпт | Одного документа, глибокого перехресного посилання | Обмеження вартості та уваги |
| Донавчання (fine tuning) | Перенавчання моделі на прикладах | Стилю, формату і поведінки | Погано з фактами; дороге для оновлення |
Економіка вирішує більше, ніж теорія. Контекстне вікно на 1M токенів, яке зараз пропонують флагманські моделі, як Gemini і сімейство GPT-5.6, вміщує приблизно 1500 сторінок, тож ви справді можете вставити цілий посібник. Але за ставкою GPT-5.6 Terra $2 за мільйон вхідних токенів, надсилання 300 000 токенів посібника з кожним питанням коштує приблизно $0.60 за питання, тоді як пошук потрібних 2000 токенів коштує менше половини цента. Задайте три питання, і довгий контекст стає у 100 разів дорожчим за ті самі відповіді. Що таке контекстне вікно пояснює це базове обмеження.
Донавчання (fine tuning) стоїть окремо: воно змінює те, як модель поводиться, а не те, що вона знає. Команди використовують його для тону і формату виводу, а потім все одно додають RAG для фактів.
Де ви вже користуєтеся RAG, навіть не помічаючи цього
Веб-пошук у чат-ботах. Коли ChatGPT, Gemini або Perplexity шукає в інтернеті і відповідає з посиланнями, це RAG, де джерелом знань є інтернет.
Чат з вашими файлами. Завантажте PDF і задайте питання: розбиття на фрагменти, ембединг і пошук працюють за кулісами для будь-якого документа, надто довгого, щоб зручно вміститися в контекст.
Боти підтримки клієнтів. Ті, що відповідають на основі реального довідкового центру і цитують статтю, є системами RAG. Ті, що імпровізують, ні, і це видно.
Асистенти зі ШІ, які відповідають про поточні події. Будь-яка правильна відповідь про щось, що сталося після дати завершення навчання моделі, прийшла завдяки пошуку, а не пам'яті.
Де RAG дає збій і як це помітити
RAG зменшує кількість галюцинацій; він не усуває їх повністю і додає власні режими збоїв.
Помилки пошуку. Якщо крок пошуку дістає неправильні фрагменти, модель відповідає бездоганно, але на основі нерелевантного контексту. Симптом: відповідь, яка цитує ваш документ, але стосується трохи іншого питання.
Застарілі індекси. Векторна база даних знає документи лише станом на момент останньої індексації. Система RAG на основі політик минулого кварталу дає впевнено застарілі відповіді з прикріпленими цитатами, а це переконливіше за звичайну галюцинацію і тому гірше.
Суперечливі джерела. Коли знайдені уривки суперечать одне одному, моделі схильні змішувати їх в один плавний, але неправильний абзац, замість того щоб позначити конфлікт.
Практичний захист той самий, що і для будь-якої відповіді ШІ: перевіряйте процитований уривок, а не лише сам факт наявності цитати. Відповідь RAG, чиє джерело насправді не підтверджує те, що стверджує відповідь, це найпоширеніший серйозний збій у робочих системах.
- Використовуйте інструменти у стилі RAG (завантаження файлів, веб-пошук), коли питання стосується ваших даних чи поточних подій
- Надавайте перевагу довгому контексту для одного документа, який ви глибоко досліджуєте; надавайте перевагу пошуку для великих чи змінних наборів
- Не очікуйте, що донавчання (fine tuning) додасть факти; воно змінює поведінку, а не знання
- Завжди відкривайте процитований уривок і перевіряйте, чи він підтверджує те, що стверджує відповідь
- Сприймайте впевнену відповідь без цитати як припущення, засноване на пам'яті
Поширені запитання
Що означає RAG у ШІ?
RAG означає retrieval augmented generation (генерація з доповненням пошуком). Retrieval означає пошук у джерелі знань релевантних уривків, augmented означає додавання цих уривків до промпту, а generation означає, що модель пише відповідь на їх основі. Ця техніка дозволяє моделі відповідати за документами і даними, на яких її ніколи не навчали.
Чи RAG кращий за донавчання (fine tuning)?
Вони вирішують різні проблеми. RAG кращий для фактів, тому що оновлення знань означає переіндексацію документів, а не перенавчання, і відповіді можуть цитувати джерела. Донавчання кращe для стилю, тону і формату виводу. Робочі системи зазвичай використовують обидва: донавчання для поведінки, RAG для знань.
Чи робить велике контекстне вікно RAG застарілим?
Ні, воно змінює порогове значення. З вікнами на 1M токенів ви можете вставити приблизно 1500 сторінок безпосередньо, що справді замінює RAG для роботи з одним документом. Але вставляння всього в кожне питання коштує вхідних токенів кожного разу, приблизно $0.60 за питання для посібника на 300 000 токенів при ставці $2 за мільйон токенів, тоді як пошук надсилає лише кілька тисяч токенів. Для великих, змінних або часто опитуваних колекцій пошук залишається економічно вигіднішою відповіддю.
Чи потрібно щось будувати, щоб користуватися RAG?
Не як користувачу. Завантаження документа в чат-інструмент або включення веб-пошуку вже запускає пошук за кулісами. Побудова власного конвеєра з векторною базою даних стає доречною лише тоді, коли ви розробляєте програмне забезпечення, яке має автоматично відповідати за приватною колекцією документів.
Чи зупиняє RAG галюцинації ШІ?
Він суттєво зменшує їх, обґрунтовуючи відповіді знайденим текстом, але вносить власні збої: пошук неправильного уривка, відповідь на основі застарілого індексу або змішування суперечливих джерел. Надійна звичка це перевіряти, що процитований уривок насправді підтверджує твердження, що RAG робить можливим, а чисто пам'яттю засновані відповіді ні.
