Что такое RAG на самом деле
Языковая модель сама по себе, это экзамен с закрытой книгой. Всё, что она может рассказать, было зафиксировано на момент окончания обучения, и вопрос о вашем договоре, вашем коде или вчерашних новостях получит либо отказ, либо уверенную догадку. Почему ИИ ошибается подробно разбирает эту проблему догадок.
RAG превращает экзамен с закрытой книгой в экзамен с открытой книгой. Перед тем как модель напишет ответ, система ищет по источнику знаний, например по загруженным файлам, корпоративной вики или живому интернету, находит наиболее релевантные фрагменты и вставляет их в промпт рядом с вашим вопросом. Затем модель отвечает на основе этого найденного текста, а не только по памяти.
В этом вся идея. Название звучит устрашающе, а механизм прост: «сначала посмотреть». Всё остальное в инженерии RAG сводится к тому, чтобы этап поиска находил нужные фрагменты.
Зачем моделям вообще нужен этап поиска
Эту необходимость создают два жёстких ограничения.
У обучения есть срок окончания. Модель, обученная до начала 2026 года, ничего не знает о том, что произошло позже, а переобучение флагманской модели, это многомесячный и крайне дорогой проект. Поиск позволяет продукту на основе ИИ отвечать про утреннее объявление без какого-либо переобучения.
Обучающие данные были публичными. Ваши счета, тикеты и внутренние документы в них никогда не входили, и никакая ловкая формулировка промпта не восстановит информацию, которую модель никогда не видела. Поиск, это единственный способ, которым обычная модель может отвечать на основе приватных данных.
Есть и третья, более тонкая причина: обоснованность (grounding). Когда ответ должен опираться на предоставленный фрагмент, модель может сослаться на источник, и вы можете это проверить. Ответ, созданный по памяти, не даёт ничего, что можно было бы проверить, а именно это и делает галлюцинации опасными.
Как работает конвейер RAG, шаг за шагом
Любая система RAG, от функции чата с PDF до корпоративного поискового продукта, выполняет одни и те же пять шагов.
- Разбиение на фрагменты (chunking). Исходные документы делятся на фрагменты, обычно по несколько сотен слов каждый, потому что поиск работает с фрагментами, а не с целыми файлами.
- Индексация. Каждый фрагмент преобразуется в эмбеддинг, набор чисел, представляющий его смысл, и сохраняется в векторной базе данных так, чтобы похожие смыслы оказывались рядом.
- Поиск. Ваш вопрос кодируется тем же способом, и система извлекает фрагменты, чьи эмбеддинги оказались к нему ближе всего, обычно от 3 до 10 фрагментов.
- Дополнение (augmentation). Эти фрагменты вставляются в промпт, обёрнутые в инструкции вида «отвечай только на основе приведённого ниже контекста».
- Генерация. Модель пишет ответ на основе дополненного промпта, в идеале указывая, какой фрагмент подтверждает каждое утверждение.
Когда вы загружаете длинный документ в чат-инструмент и задаёте по нему вопросы, запускается какая-то версия этого процесса. Руководство по чату с PDF показывает, как это выглядит на практике в Whizi.
RAG, длинный контекст и тонкая настройка
Эти три подхода путают, потому что все три «учат модель вашим данным». Но делают это несовместимыми способами.
| Подход | Как работает | Лучше всего для | Слабость |
|---|---|---|---|
| RAG | Сначала поиск, потом ответ по результатам | Больших или меняющихся наборов документов, ссылок на источники | Качество ответа зависит от качества поиска |
| Длинный контекст | Вставить всё в промпт целиком | Одного документа, глубоких взаимных ссылок | Ограничения по стоимости и внимания модели |
| Тонкая настройка | Переобучение модели на примерах | Стиля, формата и поведения | Плохо работает с фактами, дорого обновлять |
Экономика решает больше, чем теория. Контекстное окно на 1 млн токенов, которое сейчас предлагают флагманские модели, такие как Gemini и семейство GPT-5.6, вмещает примерно 1500 страниц, так что вставить туда целое руководство действительно можно. Но при тарифе GPT-5.6 Terra в $2 за миллион входных токенов отправка 300 000 токенов руководства с каждым вопросом стоит около $0.60 за вопрос, тогда как поиск нужных 2000 токенов обходится меньше чем в половину цента. Задайте три вопроса, и длинный контекст окажется в 100 раз дороже при тех же ответах. Что такое контекстное окно объясняет это базовое ограничение.
Тонкая настройка выбивается из этого ряда: она меняет поведение модели, а не её знания. Команды используют её для тона и формата вывода, а для фактов всё равно добавляют RAG.
Где вы уже используете RAG, даже не замечая этого
Веб-поиск в чат-ботах. Когда ChatGPT, Gemini или Perplexity ищут в интернете и отвечают со ссылками, это RAG, где источником знаний служит сам интернет.
Чат с вашими файлами. Загружаете PDF и задаёте вопросы: разбиение на фрагменты, эмбеддинги и поиск работают за кулисами для любого документа, который слишком велик, чтобы удобно поместиться в контекст.
Боты поддержки клиентов. Те, что отвечают на основе реального центра поддержки и ссылаются на статью, это системы RAG. Те, что импровизируют, нет, и это заметно.
ИИ-помощники, отвечающие о текущих событиях. Любой правильный ответ о том, что произошло после отсечки обучения модели, пришёл через поиск, а не из памяти.
Где RAG даёт сбой и как это заметить
RAG снижает число галлюцинаций, но не устраняет их полностью, и добавляет собственные виды сбоев.
Промахи поиска. Если этап поиска извлекает неверные фрагменты, модель бегло отвечает на основе нерелевантного контекста. Симптом: ответ, который ссылается на ваш документ, но отвечает на немного другой вопрос.
Устаревшие индексы. Векторная база данных знает документы только по состоянию на момент последней индексации. Система RAG над политиками прошлого квартала уверенно даёт устаревшие ответы со ссылками на источники, а это убедительнее обычной галлюцинации и потому хуже.
Противоречащие источники. Когда найденные фрагменты противоречат друг другу, модели склонны сливать их в один гладкий, но неверный абзац, вместо того чтобы отметить противоречие.
Практическая защита та же, что и для любого ответа ИИ: проверяйте сам процитированный фрагмент, а не только наличие ссылки на источник. Ответ RAG, чей источник на самом деле не говорит того, что утверждает ответ, это самый распространённый серьёзный сбой в рабочих системах.
- Используйте инструменты в стиле RAG (загрузку файлов, веб-поиск) всегда, когда вопрос касается ваших данных или текущих событий
- Выбирайте длинный контекст для одного документа, который нужно глубоко изучить, а поиск, для больших или меняющихся наборов
- Не ждите, что тонкая настройка добавит факты: она меняет поведение, а не знания
- Всегда открывайте процитированный фрагмент и проверяйте, что он говорит то, что утверждает ответ
- Считайте уверенный ответ без ссылки на источник догадкой по памяти
Частые вопросы
Что означает RAG в ИИ?
RAG означает retrieval augmented generation (генерация с дополнением через поиск). Retrieval, поиск релевантных фрагментов в источнике знаний, augmented, добавление этих фрагментов в промпт, а generation, написание моделью ответа на их основе. Эта техника позволяет модели отвечать на основе документов и данных, на которых её никогда не обучали.
RAG лучше тонкой настройки?
Они решают разные задачи. RAG лучше подходит для фактов, потому что обновление знаний означает переиндексацию документов, а не переобучение, и ответы могут ссылаться на источники. Тонкая настройка лучше подходит для стиля, тона и формата вывода. В рабочих системах обычно используют и то и другое: тонкую настройку для поведения, RAG для знаний.
Делает ли большое контекстное окно RAG устаревшим?
Нет, оно меняет порог. С окнами на 1 млн токенов можно вставить напрямую примерно 1500 страниц, что действительно заменяет RAG для работы с одним документом. Но вставка всего в каждый вопрос каждый раз стоит входных токенов, примерно $0.60 за вопрос для руководства на 300 000 токенов при тарифе $2 за миллион токенов, тогда как поиск отправляет всего несколько тысяч токенов. Для больших, меняющихся или часто запрашиваемых коллекций поиск остаётся более экономичным решением.
Нужно ли что-то создавать самому, чтобы использовать RAG?
Не как пользователю. Загрузка документа в чат-инструмент или включение веб-поиска уже запускает поиск за кулисами. Создание собственного конвейера с векторной базой данных становится нужным только тогда, когда вы разрабатываете программу, которая должна автоматически отвечать на основе приватной коллекции документов.
Останавливает ли RAG галлюцинации ИИ?
Он существенно снижает их за счёт обоснования ответов найденным текстом, но вносит собственные сбои: извлечение неверного фрагмента, ответ по устаревшему индексу или слияние противоречащих источников. Надёжная привычка, проверять, что процитированный фрагмент действительно подтверждает утверждение, а это RAG делает возможным, в отличие от чисто основанных на памяти ответов.
