- RAG — це пошук + генерація: система спершу знаходить релевантні фрагменти ваших документів, а потім модель відповідає на їх основі.
- Якість відповіді майже повністю залежить від якості пошуку: як розрізані документи, чи актуальні вони і чи враховані права доступу.
- Кожна відповідь має показувати джерело, а «не знаю» — бути нормальною відповіддю.
- Для 20 документів і одного користувача RAG-система не потрібна: вистачить Gemini Notebook (NotebookLM).
Що таке RAG простими словами
RAG розшифровується як retrieval-augmented generation — генерація, доповнена пошуком. Уявіть нового співробітника, який дуже добре пише, але нічого не знає про вашу компанію. Якщо його запитати про умови повернення товару, він або вигадає відповідь, або скаже, що не знає.
Тепер дайте йому доступ до папки з регламентами й скажіть: «перш ніж відповідати, знайди потрібний документ і процитуй його». Саме це і робить RAG: перед відповіддю система шукає у ваших джерелах кілька найбільш релевантних фрагментів і передає їх моделі разом із питанням.
Як працює RAG: два етапи
Система складається з підготовки знань (відбувається заздалегідь і оновлюється) і відповіді на питання (відбувається щоразу, коли людина питає).
- 01ДокументиDrive, Notion, CRM, PDF
- 02Фрагментирозрізання на смислові шматки
- 03Ембедінгитекст → числовий вектор
- 04Векторна базаіндекс для пошуку за змістом
- 1
Збір джерел
Регламенти, договори-шаблони, база відповідей підтримки, описи продуктів. Разом з текстом зберігаються метадані: дата, автор, відділ, хто має доступ.
- 2
Розрізання на фрагменти
Документ ділиться на шматки по кілька абзаців, зазвичай за заголовками. Занадто дрібні фрагменти втрачають контекст, занадто великі — точність пошуку.
- 3
Ембедінги
Спеціальна модель перетворює кожен фрагмент на вектор — набір чисел, що описує зміст. Схожі за змістом тексти отримують близькі вектори, навіть якщо в них різні слова.
- 4
Індекс
Вектори зберігаються у векторній базі разом з посиланням на оригінал і метаданими.
Що відбувається, коли людина ставить питання
Питання теж перетворюється на вектор, і база повертає найближчі фрагменти. Перед цим застосовуються фільтри: користувач бачить лише ті документи, до яких має доступ, і лише актуальні версії.
Модель отримує інструкцію відповідати тільки на основі наданих фрагментів і посилатися на них. Якщо у фрагментах відповіді немає, правильна поведінка — сказати про це, а не відповісти «з загальних знань».
- 01Питання«Які умови повернення?»
- 02Пошукнайближчі фрагменти + фільтр прав
- 03Контекстпитання + 3–8 фрагментів
- 04Модельвідповідь лише з наданого
- 05Відповідьз посиланнями на джерела
Де RAG найчастіше ламається
Коли RAG-система дає погані відповіді, проблема рідко в моделі. Майже завжди — в даних і пошуку.
| Симптом | Причина | Що робити |
|---|---|---|
| Впевнена відповідь за старим регламентом | У базі кілька версій документа | Зберігати дату й статус, індексувати лише чинну редакцію |
| «Не знайшов», хоча документ є | Невдале розрізання або пошук лише за змістом | Розрізати за заголовками, додати пошук за ключовими словами (гібридний) |
| Відповідь з чужого відділу | Немає фільтра прав доступу | Фільтрувати за правами до пошуку, а не після |
| Відповідь склеєна з двох суперечливих джерел | Модель не бачить конфлікту | Вимагати цитати й показувати обидва джерела |
| Відповідь «з голови» | Слабка інструкція | Явно дозволити «немає в джерелах» і перевіряти це в тестах |
Як перевірити якість до запуску
RAG-систему не можна оцінювати враженнями від кількох вдалих питань. Потрібен набір тестів, який проганяється після кожної зміни.
- 1
Зберіть 30–50 реальних питань
Ті, що люди справді ставлять: з чатів підтримки, листів, онбордингу. Для кожного запишіть правильну відповідь і документ, де вона є.
- 2
Додайте складні випадки
Питання, відповіді на яке немає; питання, де дві редакції суперечать; питання від користувача без доступу до документа.
- 3
Перевіряйте пошук окремо від відповіді
Чи потрапив правильний документ у знайдені фрагменти? Якщо ні — модель не винна.
- 4
Рахуйте помилки, а не середній бал
Одна впевнена неправильна відповідь про гроші чи право важить більше, ніж десять ідеальних.
RAG, fine-tuning чи просто довгий контекст
| Підхід | Коли підходить | Обмеження |
|---|---|---|
| Довгий контекст | Кілька документів, разовий аналіз | Дорого й повільно при частих запитах, немає прав доступу |
| RAG | Багато документів, що змінюються; потрібні джерела | Потрібні підготовка даних і тести |
| Fine-tuning | Стиль, формат, специфічна термінологія | Не додає свіжих фактів і не показує джерела |
Для бізнес-бази знань майже завжди починають з RAG. Fine-tuning додають рідко й пізніше — коли модель має говорити в особливому стилі або розуміти вузьку термінологію.
З чого збирають RAG-систему
- Оркестрація: n8n (має готові nodes для векторних сховищ і AI Agent), LangChain або власний backend.
- Векторна база: PostgreSQL з pgvector (часто через Supabase), Qdrant, Pinecone, Weaviate — вибір залежить від обсягу й де мають жити дані.
- Модель ембедінгів і модель відповіді: OpenAI, Gemini, Anthropic або локальні моделі, якщо дані не можна виносити.
- Конектори до джерел: Google Drive, Notion, Confluence, SharePoint, CRM — з синхронізацією змін.
- Інтерфейс: Telegram, Slack, віджет на сайті або вбудований пошук у внутрішній системі.
Як почати: пілот на одному відділі
- 1
Оберіть одну аудиторію
Наприклад, підтримка першої лінії або онбординг нових співробітників — там багато повторюваних питань і зрозумілий ефект.
- 2
Наведіть лад у джерелах
Приберіть дублікати й старі версії, визначте власника кожного документа. Це половина роботи, і її не автоматизує жодна модель.
- 3
Зберіть тестовий набір
30–50 реальних питань з правильними відповідями — до того, як писати код.
- 4
Запустіть для 5–10 людей
З кнопкою «відповідь неправильна» і збором таких випадків. Через два тижні буде зрозуміло, що покращувати.
Потрібен пошук по документах, якому можна довіряти?
Спроєктуємо джерела, права доступу, тестовий набір і інтерфейс — і почнемо з одного відділу.
RAG — це те саме, що ChatGPT з файлами?
Принцип схожий: модель відповідає з урахуванням ваших документів. Але корпоративна RAG-система додатково враховує права доступу, синхронізує зміни, працює з тисячами документів і показує джерело кожної відповіді.
Чи вигадує RAG відповіді?
Може, якщо пошук знайшов не те або інструкція слабка. Тому відповідь має містити посилання на джерело, «немає в документах» має бути дозволеною відповіддю, а якість перевіряється на тестовому наборі.
Чи можна зробити RAG, щоб дані не виходили з компанії?
Так. Векторну базу й оркестрацію можна розгорнути на власному сервері, а для моделей використати локальні або корпоративні версії з відповідними умовами обробки даних.
Скільки часу займає пілот?
Для одного відділу з упорядкованими джерелами — кілька тижнів, включно з тестами. Якщо документи розкидані й дублюються, більше часу піде на їх упорядкування, ніж на саму систему.
Що таке ембедінги?
Числове представлення змісту тексту. Тексти зі схожим змістом мають близькі вектори, тому пошук знаходить потрібний фрагмент навіть тоді, коли в питанні інші слова, ніж у документі.
Матеріал написала команда AI Insider на основі практики проєктування AI-пошуку по корпоративних документах. Концепція RAG описана в дослідженні Lewis et al. (2020); інструменти звірені з офіційною документацією. Тут немає рейтингу постачальників — вибір залежить від ваших даних і вимог.