RAG-система для поддержки: как ускорить автоматизацию ИИ-помощником

Представьте себе: обычное утро IT-службы, на экране Confluence и Jira — нескончаемые списки тикетов, свежая документация и комментарии. Вдруг инженер задаёт вопрос: «Где инструкция по апгрейду сервиса Х, а что делать с форс-мажором Y?» Раньше в ответ — ворох поисковых строк и штурм форумов — теперь появился автоматический ИИ-помощник, который сам “выныривает” из тонны внутренних знаний и мгновенно ведёт к нужному ответу. Такой сценарий — уже не фантастика, а реальность, которую реализовала команда МТС на базе RAG-системы с гибридным поиском и автономным ИИ внутри корпоративного периметра.

Почему это важно для бизнеса? Потому что скорость и точность поддержки — это деньги, клиентский опыт, стабильность процессов. Сегодня расскажу, как даже небольшая команда смогла собрать свою RAG-систему, чем она отличается от “готовых решений”, какие подводные камни ждут энтузиаста оптимизации — и дам пару идей, что можно автоматизировать у себя буквально “с понедельника”.

Что такое RAG и зачем он бизнесу — на пальцах

В двух словах: RAG (Retrieval-Augmented Generation) — это когда ИИ отвечает не на «догадках», а подтягивает проверенные куски знаний (например, из вашей базы или внутренней документации), и генерирует на их основе понятный ответ. Такой подход сегодня особенно горяч — и в саппорте, и в e-commerce, и в аналитике: где нужен быстрый, информативный и объяснимый ответ, без “галлюцинаций” модели.

В кейсе МТС “прокачка” классического ПО поддержки выглядела так: данные из Confluence и Jira регулярно забираются, очищаются, разбиваются на фрагменты, переводятся в “понимаемый ИИ” формат (эмбеддинги), и превращаются в гибридный поисковой индекс. На выходе — простой веб-интерфейс, где каждый тикет или инструкция найдётся мгновенно, а ответ будет не абстрактным, а с ссылками на первоисточник.

Технический стек: просто, но с нюансами

Столкнувшись с выбором, где “волшебство” заканчивается и начинается инженерия, команда пошла по проверенному пути:

• Python 3.12+ (asyncio, aiohttp) — быстрый прототипинг и надёжная асинхронность;
• Streamlit UI — мгновенный запуск из браузера. Не нужно засорять голову фронтом — всё просто;
• pgvector + PostgreSQL — “сердце” для семантики и векторного поиска;
• BM25 (полнотекстовый индекс в SQLite) — для тех случаев, когда надо найти “точную фразу”;
• BGE-m3 для эмбеддингов (развёрнут у МТС внутри, без риска утечек и лишних расходов на облако);
• Pipeline сборки и метрики мониторинга — GitLab CI, VictoriaMetrics, Grafana.

Всё крутится внутри компании, без “внешних API”: и безопасно, и экономично.

Как работает система: конвейер без “магии”

Процесс выглядит так:

1. Данные собираются с помощью API Confluence/Jira;
2. Обрабатываются и переводятся в Markdown (без потери структуры: списки, заголовки, code blocks — всё сохраняется);
3. Разбиваются на фрагменты (~3000 символов, с “оверлапом” для сохранения контекста);
4. Генерируются эмбеддинги (BGE-m3 → pgvector), текст параллельно индексируется в BM25;
5. Собираются гибридные индексы, которые можно искать по смыслу и по ключевым словам одновременно;
6. Пользователь вбивает запрос — система приводит его к стандарту (lowercase, синонимы, транслитерация);
7. SearchManager параллельно ищет и по “смылу”, и по тексту, комбинирует баллы, предварительно фильтрует и ранжирует выдачу.
8. LLM формирует финальный ответ, прикладывая ссылки на первоисточник.

Ключевая идея Марата: “Всё, что повторяется — автоматизируй. Процессы должны работать так, чтобы инженер или сотрудник тратил время только на осознанные задачи, а не на поиск ответов в хаосе данных.”

Мини-кейс: как автоматизация в e-commerce “вытащила” команду из рутины

Однажды клиент на маркетплейсе просил: “Автоматизируйте аналитику остатков, хочется не вручную сверять каждый день, а одним кликом видеть дефицит и избыток”. Решение — связка Google Sheets и скрипт на Apps Script, который сам собирает остатки с 4 площадок, cчитает дефицит/избыток по правилам и шлёт алерт в Telegram.

Факты:

• Экономия времени — минус 8 часов операционной рутины каждую неделю.
• Ошибки из-за “человеческого фактора” ушли практически полностью.
• Команда стала оптимизировать ценовые предложения — время освободилось для маркетинга.

“Оптимизация — это не только экономия, а путь к росту и спокойной командной работе”.

Гибридный поиск — как минимум x2 к качеству ответов

Обычный поиск в документах выглядит как старый анекдот: “Как найти иголку в стоге сена? Медленно и мучительно.” Гибридная модель (pgvector+BM25) закрывает обе задачи — ищет “по смыслу” и ловит точные формулировки запросов.

По факту — только за счёт внедрения гибридного поиска МТС смогли повысить релевантность топ-5 результатов почти до 80%. Для корпоративной поддержки это означает “минус стресс, минус ошибки” у инженеров каждую смену. И это ещё только первая треть года!

Автоматизация — быстрее и дешевле, чем кажется

Современные решения вроде PostgreSQL+pgvector и Streamlit уже стремятся занять место привычной Excel-рутины даже для малого бизнеса.

• С экономической точки зрения, эффект от внедрения ИИ в России к 2028 году может составить до 6,9 трлн рублей, или 4% ВВП страны. Чувствуете масштаб?
• Low-code платформы (популярность в РФ подскочила — их используют уже 70% компаний) позволяют запускать такие mini-pilot-проекты “без пароля от DevOps”.

Мой опыт подсказывает: пилот “на коленке” — часто лучше длительного внедрения от интегратора. Бизнес-пользователь сразу видит эффект, а бюджет расходует только на то, что реально работает.

Роль точной настройки промптов: мелочь, которая решает

Настройка системных промптов — как вбить сваи перед стройкой. На практике от них зависит, будет ли ваша LLM “креативить” (и путать разные версии инструкций), или давать конкретику по фактам. Команда МТС, пройдя через эксперименты, вывела главное правило: краткость и ясность лучше “мудрёных” формулировок. Это в итоге снижает “галлюцинации” и делает ответы более человечными.

Типичные грабли на пути автоматизации

Прямо по пунктам, из жизни:

• Размер чанков: слишком мелкие — теряем смысл, слишком крупные — шум, бесполезные ответы. Оптимум — от 2000 до 3500 символов, с перекрытием 10% для связанности тем.
• Аббревиатуры и внутренние термины: всегда нужен отдельный словарь/тезаурус, иначе AI не поймёт “слово из вашей команды”.
• Логика обновления индексов: “инкремент”, soft-delete и content_hash — must have в любой быстро меняющейся базе.
• Мониторинг и тестирование: не ограничивайтесь только кодом. Реальные метрики — время отклика, релевантность, отклонение от эталона — должны быть прозрачны в графиках.
• Распределение нагрузки: использование микробатчей и кеширования реально экономит ресурсы (у МТС — микробатчинг порой снижал загрузку RAM в 2 раза).

Лучше пару дней “посвятить” API и структуре данных, чем месяцами потом объяснять, почему “вчера работало, а сегодня нет”.

Промпт-инженер — уже профессия: что это даёт бизнесу?

Звучит модно, но задача проста — промпт-инженер отвечает за то, чтобы ваши LLM-решения были максимально “послушными” и точными. Просто так скопировать пару фраз из чата GPT не выйдет. Хороший промпт — это продукт тестов, циклов и знания особенностей вашей базы. Уже сейчас такие специалисты востребованы не только в ИТ — в e-commerce, маркетинге, аналитике.

В “боевых” условиях даже небольшая оптимизация промпта способна снизить расход токенов на 10–20% и повысить precision@5 без дополнительных расходов на инфраструктуру.

Где попробовать собрать свою RAG-систему?

Реальные советы (без серебряных пуль):

• Начните с выгрузки данных из любимого Google Sheets или Bitrix24 — сделайте мини-конвейер (данные → Markdown → BM25 индекс или simple embedding);
• Используйте готовые решения для векторного поиска на тестовых данных — Chroma, FAISS, или pgvector (PostgreSQL);
• Не бойтесь низкокодовых платформ — до первого результата они подходят отлично;
• Внедряйте мониторинг буквально “с первого дня”. Любой Data Studio или Google Sheets с дашбордом пригодятся для отслеживания KPIs;
• Делайте mini-pilot. Даже если у вас мало данных — главный тест не в точности ИИ, а в вовлечённости и экономии времени команды.

Главное — выбирайте там, где требуется простая автоматизация (алерты, отчёты, базовый поиск) или обработка повторяющихся вопросов. Всё, что связано с чувствительными данными или сложной интеграцией — сразу выделяйте на отдельный трек для кастомных скриптов и аналитиков.

Слово о безопасности: не “бонус”, а must-have

Решения МТС собраны в полностью изолированном периметре, без внешних API и без “утечек в облако”. Концепция актуальна для любой компании, где внутри — коммерческие, персональные или финансовые данные. Для малых бизнесов подойдёт хотя бы базовая аутентификация и шифрование в хранилище.

Автоматизация, аналитика, e-commerce: сфера применения — шире, чем кажется

МТС доказали: современный RAG-подход приносит ценность не только в поддержке, но и в сочетании с задачами маркетинга и e-commerce. У меня был проект, где RAG-система стала “помощником” по быстрой аналитике конкурентов — агрегированные фрагменты отзывов, цен и новых акций сразу попадали в рабочий дашборд отдела. За счёт этого бюджет на рекламу перераспределяли точнее, снижая лишние траты — только потому, что нужные сведения были “под рукой”, а не в десятом Excel-файле.

Приватный ИИ + автосбор + гибридный поиск — это возможность быстрее и дешевле собрать свой “самописный” интеллект, не теряя контроль над данными.

Персонализация — ваш будущий конкурентный плюс

Компании, внедрившие генеративный ИИ для персонализации предложений, уже сообщают об увеличении доходов до 40%. Всё — за счёт точной подстройки советов и динамических рекомендаций для клиентов. Инвестиции окупаются через повышение лояльности и сокращение затрат на обработку повторных обращений. Не пренебрегайте этим трендом, даже если идёте с самого минимума!

Тренды и что делать дальше — от сомнения к действию

По мере ухода зарубежных решений российский рынок идёт в сторону low-code и внутреннего ИИ — 70% компаний так и делают. Попробуйте начать даже с автоматизированного анализа фидбэка клиентов или оптимизации ваших воронок в CRM. Всё, что не требует вторжения в “святая святых” инфраструктуру, — отличный старт. А дальше можно идти к “своим” ассистентам: RAG-системы покажут эффективность быстро, если давать им хорошие данные.

Я бы советовал: ставьте метрики “экспериментально” (Precision@K, скорость ответа, экономия времени), делайте mini-pilot, адаптируйте, а потом масштабируйте. И не забывайте о клиенте — автоматизация должна помогать ему на каждом этапе.

Выводы: сделать самому реально, результат понятен

МТС показали: даже сложную RAG-систему реально собрать без “магии”, если шаг за шагом выстраивать инфраструктуру, чистить данные, подключать гибридный поиск и оперативно оптимизировать промпты. Эффект — скорость, стабильность, контроль над знаниями.

Не стоит ждать готовых решений и идеального роадмапа. Начните с рабочих “мини-процессов” — ваша команда быстро почувствует выгоду. А вот без автоматизации отчётов, гибридных индексов и понятного интерфейса вы рискуете остаться в вечном “хаосе чатов и данных”.

Эксперты подчеркивают: не стоит гнаться за ИИ ради хайпа — начинать надо всегда с актуальных бизнес-задач и выстроенной системной автоматизации. А дальше — уже подбирать ИИ на свои кейсы.

Всегда опирайтесь на данные, а не на догадки!