У каждой компании одна и та же проблема в разных формах: ответ существует, но его никто не может найти. Актуальный прайс лежит в папке SharePoint, правило для исключений — на странице Confluence 2024 года, технический нюанс — в закрытом тикете, а настоящее объяснение — в голове у коллеги. Новички задают одни и те же вопросы, опытные сотрудники отвечают на них снова и снова.
Ассистент на основе retrieval-augmented generation (RAG) обещает это исправить: спросите обычным языком — получите ответ по своим документам со ссылкой на источник. Спрос реальный: в исследовании Anthropic 2026 года 41% технических руководителей назвали управление базами знаний одним из самых эффективных применений ИИ-агентов (Anthropic).
Но внутренний чат-бот — и тот ИИ-проект, который чаще всех оказывается «в столе». Демо впечатляет, а потом им перестают пользоваться: ответы устарели, права доступа «протекают» или никто не может понять, верен ли ответ. В этом руководстве — архитектура, которая избегает этих провалов, цены 2026 года и план внедрения.
Как работает RAG — простыми словами
- Загрузка. Коннекторы забирают документы из ваших систем и держат их в синхронизации, включая изменения и удаления.
- Разбор и нарезка. Документы превращаются в чистый текст и делятся на фрагменты, сохраняющие заголовки, таблицы и контекст.
- Индексация. Каждый фрагмент сохраняется с эмбеддингом (числовым представлением смысла), а также с ключевыми словами и метаданными: источник, дата, язык, права доступа.
- Поиск. На вопрос система находит самые релевантные фрагменты из тех, что пользователю разрешено видеть.
- Переранжирование. Вторая, более точная модель переставляет кандидатов так, чтобы лучшие доказательства оказались наверху.
- Ответ. Языковая модель формулирует ответ только на основе этих фрагментов и цитирует их.
- Логи и оценка. Вопросы, найденные источники, ответы, отзывы, задержка и стоимость сохраняются, чтобы качество можно было измерить.
Модель — это только шаг шесть. Большая часть качества — и работы — находится в остальных шести.
Эталонная архитектура
| Слой | Что делает | Типичный выбор | Ключевое решение |
|---|---|---|---|
| Коннекторы | Синхронизация из Confluence, SharePoint, Google Drive, Notion, хелпдеска, CRM | Штатные API, MCP-серверы | Инкрементальная синхронизация и передача удалений |
| Разбор и нарезка | Превращает PDF, презентации и таблицы в чистые фрагменты | Парсеры, понимающие вёрстку | Не разрывать таблицы и заголовки |
| Индекс | Хранит фрагменты для поиска | Postgres с pgvector, OpenSearch, Qdrant | Гибридный поиск: смысловой плюс по ключевым словам |
| Права доступа | Отсекает то, что пользователю видеть нельзя | Синхронизация списков доступа, группы SSO | Применять при поиске, а не только в промпте |
| Модель | Пишет ответ | Облачные модели (OpenAI, Anthropic, Google) или в ЕС и на своих серверах (Mistral) | Держать заменяемой за шлюзом |
| Ограничители | Отвечать только по источникам, иначе отказывать | Системные инструкции, проверки ответа | Понятный сценарий «не знаю» |
| Оценка и наблюдаемость | Измеряет качество, стоимость и задержку | Langfuse, Helicone, свои дашборды | Тестовый набор с первого дня |
| Интерфейс | Где задают вопросы | Teams, Slack, Telegram, интранет, панель в хелпдеске | Там, где люди уже работают |
Права доступа — самая сложная часть
Интеграции и разграничение доступа обычно забирают 40–60% бюджета RAG-проекта (ment.tech). Причина проста: если ассистент может читать кадровые документы, протоколы совета директоров или данные о зарплатах, рано или поздно кто-то задаст вопрос, который их вытащит. Права нужно применять в момент поиска — по реальным правам пользователя в исходной системе. Инструкция модели «не раскрывай конфиденциальное» — это не разграничение доступа.
Качество поиска важнее выбора модели
Большинство неверных ответов вызваны не слабой моделью, а не теми фрагментами. Проверенные приёмы: гибридный поиск (смысловая близость плюс точные ключевые слова — важно для артикулов и названий), переранжирование, фильтры по метаданным (страна, продуктовая линейка, дата действия) и нарезка, при которой таблица остаётся вместе со своим заголовком.
Ссылки на источники и «не знаю»
Каждый ответ должен ссылаться на источники, чтобы его можно было проверить в один клик. Не менее важно: если поиск не нашёл ничего релевантного, ассистент должен так и сказать и подсказать, к кому обратиться, а не импровизировать. Честное «не знаю» вызывает больше доверия, чем гладкая догадка.
Коннекторы через MCP
Model Context Protocol стал стандартным способом подключать ИИ-системы к корпоративным инструментам. С декабря 2025 года им управляет Agentic AI Foundation в составе Linux Foundation (блог MCP), а публичных MCP-серверов уже больше 10 000 (Digital Applied). Это сокращает работу над коннекторами, но каждый сервер требует проверки безопасности. Как подключать их безопасно — в статье о MCP-интеграциях.
Сценарии по командам
Одна и та же архитектура обслуживает очень разные команды. Меняются источники, модель прав доступа и представление о хорошем ответе.
| Команда | Типичные вопросы | Основные источники | От чего зависит успех |
|---|---|---|---|
| Поддержка клиентов | «Какая гарантия на модель X в Казахстане?» | Справка, регламенты, данные о товарах, решённые обращения | Актуальные регламенты, цитаты, которые можно вставить в ответ |
| Продажи и пресейл | «Поддерживаем ли мы SSO? Какие у нас клиенты в логистике?» | Документация продукта, ответы по безопасности, кейсы | Утверждённые формулировки, даты версий |
| HR и онбординг | «Как оформить отпуск по уходу за ребёнком?» | Справочник сотрудника, политики, формы | Жёсткое отделение от личных дел сотрудников |
| IT-поддержка | «Как подключить новый ноутбук к VPN?» | Инструкции, прошлые тикеты | Пошаговые ответы, ссылки на формы |
| Инженеры и сервис | «Момент затяжки для этого узла? Интервал обслуживания?» | Руководства, спецификации, сервисные отчёты | Разбор таблиц, точные значения, вариант на своих серверах |
Для многоязычных компаний — например, с офисами в Германии и Казахстане — ассистент может принимать вопрос на одном языке и находить ответ в документах на другом. Но это нужно отдельно проверять на тестовом наборе: качество на русском, казахском или узбекском может отличаться от качества на английском.
RAG или дообучение?
На первых встречах часто звучит вопрос: «А нельзя просто обучить модель на наших данных?» Для знаний компании ответ обычно — нет. Дообучение меняет то, как модель пишет, классифицирует или соблюдает формат; факты оно надёжно не закладывает, на источник сослаться не позволяет и требует повторения при каждом изменении документов. Хуже того, оно ничего не знает о правах доступа: всё, что «зашито» в модель, доступно любому пользователю.
RAG держит знания вне модели — актуальными и с указанием источника. Дообучение может пригодиться позже, например чтобы меньшая и более дешёвая модель держала ваш формат ответа, — но как оптимизация, а не фундамент.
Купить или построить?
Встроенные ассистенты — Microsoft Copilot, помощники в Confluence, Notion или хелпдеске — хорошо работают, когда почти всё знание живёт в одном наборе продуктов с его моделью прав. Microsoft Copilot Studio, например, стоит $200 за 25 000 кредитов (CloudZero).
Собственный ассистент имеет смысл, если:
- знания разбросаны по нескольким системам, которые не покрывает ни один вендор;
- права доступа сложные — по странам, клиентам или проектам;
- нужны несколько языков с одинаковым качеством;
- данные должны оставаться в ЕС или на ваших серверах;
- ответы должны вести к действиям — создать тикет, обновить карточку в CRM;
- нужна измеримая точность по каждой предметной области, а не общее впечатление.
Простой «чат с нашими документами» становится массовым товаром. Ценность собственного решения — в том, чего не умеет универсальный инструмент: ваши права доступа, ваши источники, ваше измерение качества.
Сколько это стоит в 2026 году
| Уровень | Типичный объём | Европа | США | Сроки |
|---|---|---|---|---|
| Старт | 1–3 источника, ссылки на источники, виджет или чат | €7–14 тыс. плюс €180–380 в месяц | $15–30 тыс. | Прототип примерно за 2 недели |
| Бизнес | 5–10 источников, права доступа, интеграция с CRM | €14–28 тыс. | $40–75 тыс. | Продакшен за 4–8 недель |
| Корпоративный | Мультиарендность, комплаенс, действия в ERP или CRM | €28–45 тыс. | $80–150 тыс. и выше | 2–4 месяца с ERP или CRM |
Источники: LSI Analytics для Европы, ment.tech для США.
Текущие расходы на токены и хостинг обычно составляют €180–700 в месяц (LSI Analytics); при большом масштабе средний агент тратит на модели $50–500 в месяц (Lets-Viz). Сделать их предсказуемыми помогают маршрутизация простых вопросов на более дешёвые модели, кэширование частых ответов и бюджеты с оповещениями. Подробнее — в статье об LLM-шлюзе и контроле затрат.
Как измерять качество: evals
До запуска соберите 100–200 реальных вопросов от команд, которые будут пользоваться ассистентом, с правильным ответом и документом-источником, подтверждёнными ответственным за содержание. Этот тестовый набор — ваш договор о качестве.
| Метрика | На какой вопрос отвечает |
|---|---|
| Попадание поиска | Был ли нужный документ среди верхних результатов? |
| Правильность ответа | Верен ли ответ по мнению владельца содержания? |
| Точность цитирования | Подтверждают ли процитированные фрагменты ответ? |
| Корректные отказы | Говорит ли ассистент «не знаю», когда ответа нет в источниках? |
| Тесты прав доступа | Не видит ли пользователь без доступа даже следов закрытого содержимого? |
| Задержка и стоимость ответа | Достаточно ли быстро и дёшево для ежедневной работы? |
| Использование и отзывы | Возвращаются ли люди и на что жалуются? |
Прогоняйте набор после каждого изменения промптов, моделей, нарезки или источников. Без него любое «улучшение» — догадка. Методика подробно описана в статье об оценке качества ИИ.
Защита данных и хостинг в Европе
Европейские покупатели внимательно смотрят, откуда их ИИ: по данным Deloitte, 77% компаний учитывают страну происхождения ИИ-вендора, а 66% беспокоит зависимость от иностранного ИИ (DEV Community). В Германии требования к защите данных — главный барьер для 66% компаний, которые уже используют ИИ (Bitkom).
Есть три основных варианта:
- Облачная модель с обработкой данных в ЕС и DPA — самый быстрый старт и самые сильные модели.
- Эндпоинты моделей с хостингом в ЕС — модель работает в европейском регионе, с договорными гарантиями использования данных.
- Собственные открытые модели (например, Mistral) на своих или европейских серверах — максимум контроля, больше операционной работы.
Что бы вы ни выбрали: не индексируйте всё подряд (кадровые документы и персональные данные редко место в общем ассистенте), задайте сроки хранения логов и убедитесь, что удаления в исходной системе доходят до индекса — иначе право на удаление по GDPR превратится в проблему. О варианте с собственными серверами — в статье о частных и on-premise LLM.
Типичные ошибки
- Устаревшие источники. Если у содержания нет хозяина, ассистент уверенно повторяет прошлогодние цены. Назначьте каждому источнику ответственного и дату пересмотра.
- Утечки через права доступа. Поиск без фильтра по правам — утечка данных, которая ждёт правильного вопроса.
- Индексировать всё. Больше документов — не значит лучше ответы. Начните с источников, которые действительно нужны и поддерживаются.
- Сломанные таблицы и сканы. Прайсы и спецификации часто живут в таблицах; плохой разбор превращает их в шум.
- Нет тестового набора. Без него никто не скажет, помогло изменение или навредило.
- Prompt injection через документы. Загруженный файл или веб-страница могут содержать инструкции для модели. Относитесь к содержимому как к данным, ограничивайте инструменты и держите чувствительные действия за согласованием человека.
- Нет плана внедрения. Разместите ассистента там, где работают люди, проведите 30-минутное обучение и опубликуйте, на что он может ответить, а на что нет.
- Привязка к вендору. Индекс, промпты и тестовые наборы должны жить в ваших аккаунтах, чтобы модель или поставщика можно было сменить.
Внедрение за 6–8 недель
- Недели 1–2: границы проекта. Выберите одну команду и одну область (например, поддержку или технический пресейл), перечислите источники и ответственных, соберите тестовые вопросы.
- Недели 2–4: сборка. Коннекторы, разбор, гибридный индекс, права доступа, первые ответы со ссылками; измерение на тестовом наборе.
- Недели 4–6: пилот. От десяти до тридцати реальных пользователей, ежедневная обратная связь, еженедельные прогоны оценки, правки источников и нарезки.
- Недели 6–8: запуск и передача. Открыть доступ всей команде, настроить мониторинг, оповещения о затратах и ежемесячный пересмотр содержания.
Вывод
Ассистент по базе знаний выигрывает или проигрывает на неброских деталях: какие источники он читает, кто поддерживает их актуальность, применяются ли права доступа и измеряется ли качество. Если с этим порядок, выбор модели становится деталью, которую можно поменять позже. Если нет, даже лучшая модель будет уверенно выдавать чепуху.
Хотите реалистичную оценку для ваших источников, прав доступа и требований к хостингу? Запишитесь на бесплатный 15-минутный аудит — скажем, хватит ли встроенного ассистента или где окупится собственное RAG-решение. Подробнее о нашей работе — в разделах ИИ-агенты и интеграция систем.