Финтех / RAG · compliance2.4M документов
RAG-копилот для compliance-аналитиков
Задача. Аналитики тратили 30–60 минут на разбор каждого кейса: искали по 2.4M внутренних документов и сверялись с регуляторными требованиями. Open-source-поиск выдавал нерелевантные результаты, а наивный RAG галлюцинировал.
Что сделали. Гибридный поиск (BM25 + эмбеддинги) с ре-ранжированием на cross-encoder. Чанкинг с учётом структуры документов. Отдельный проход проверки фактов на Claude. Интерфейс с цитированием, где каждое утверждение ведёт к источнику. Оценка на golden set из 1200 пар.
Результат. Faithfulness 0.94 (против 0.71 у baseline), время разбора кейса сократилось с 40 до 6 минут, стоимость токенов ниже на 72% — за счёт кеширования префиксов и маршрутизации простых вопросов на более дешёвые модели.
6.5×быстрее анализ
0.94faithfulness
−72%стоимость против наивного RAG
E-commerce / агенты800K тикетов / мес.
AI-агент в поддержке маркетплейса
Задача. Большой поток типовых обращений: «где мой заказ», «верните деньги», «поменяйте адрес». Время первого ответа — 9 минут, сотрудники поддержки выгорали, NPS держался на уровне −18.
Что сделали. Агентный пайплайн на LangGraph с tool use: проверка статуса заказа, оформление возврата, изменение адреса, эскалация. Human-in-the-loop для возвратов выше порога. Отдельный защитный слой от prompt injection.
Результат. Время первого ответа сократилось с 9 минут до 12 секунд, 68% обращений решаются автоматически, NPS поддержки — +12. Команда поддержки переключилась на сложные случаи и проактивную работу с клиентами.
45×быстрее первый ответ
68%решается автоматически
+12 NPSподдержки
SaaS / LLMOps10M req/day · multi-team
Production LLM gateway с маршрутизацией и кешированием
Задача. 14 продуктовых команд независимо друг от друга ходили в OpenAI и Anthropic. Затраты росли быстрее выручки, никто не видел, кто сколько тратит, запросы регулярно упирались в rate limits, а fallback не было.
Что сделали. Спроектировали и запустили gateway: единый API, маршрутизация между Claude, GPT и Llama по типу задачи и SLO, семантический кеш, rate limiting по тенантам, retry и fallback при 429 / 5xx, учёт затрат через OpenTelemetry. PII-фильтры и бюджет токенов на пользователя.
Результат. Стоимость токенов снизилась на 64% за квартал. Overhead gateway — 42 ms на p99. Ни одного инцидента из-за rate limits за 6 месяцев. Каждая команда видит свои расходы в реальном времени.
10Mзапросов / день
−64%стоимость токенов
42 msoverhead p99
DevOps / AI-агент1.4K инцидентов / мес.
AI-агент для автоматического триажа продакшен-инцидентов
Задача. SRE-команда тонула в алертах: 50% ложных срабатываний, MTTA — 18 минут, дежурных инженеров будили по 3–4 раза за ночь.
Что сделали. AI-агент читает алерт, подтягивает связанные метрики и логи через MCP, ищет похожие инциденты в постмортемах (RAG) и предлагает гипотезу и runbook. Если уверенность ниже порога, эскалирует человеку — с уже собранным контекстом.
Результат. MTTA сократился с 18 до 2 минут, потому что контекст для инженера собирает агент. 41% алертов закрывается без дежурного — как известные проблемы. Ночных побудок стало меньше в 3.5 раза.
9×ниже MTTA
41%авто-триаж
−72%нагрузка на on-call
Аналитика / data lake & DWH120K часов звонков / мес.
Анализ звонков отдела продаж с помощью LLM
Задача. Записи звонков были неструктурированным шумом. Прослушивать их вручную было невозможно, старая BI охватывала только CRM, а менеджеры заполняли поля как придётся.
Что сделали. Пайплайн: транскрипция (Whisper), диаризация, структурированное извлечение (LLM пишет в строгую JSON-схему), выделение возражений и ключевых вопросов, витрины в ClickHouse, дашборды для отдела продаж и продуктовой команды.
Результат. 100% звонков размечаются автоматически в течение 5 минут после завершения. Продуктовая команда видит реальные возражения клиентов, а менеджеры получают обратную связь с цитатами. Конверсия продаж выросла на 9% за квартал.
100%покрытие звонков
5 minSLA от конца звонка
+9%конверсия