Фінтех / RAG · compliance2.4M документів
RAG-копілот для compliance-аналітиків
Задача. Аналітики витрачали 30–60 хвилин на розбір кожного кейсу: шукали серед 2.4M внутрішніх документів і звіряли регуляторні вимоги. Open-source пошук видавав нерелевантні результати, а наївний RAG галюцинував.
Що зробили. Гібридний пошук (BM25 + ембединги) з cross-encoder ре-ранжуванням. Чанкінг з урахуванням структури документів. Окремий прохід фактчекінгу на Claude. Citation-aware UI, де кожне твердження посилається на джерело. Оцінювання на golden set із 1200 пар.
Результат. Faithfulness 0.94 (проти 0.71 у baseline), час розбору кейсу скоротився з 40 до 6 хвилин, вартість токенів знизилася на 72% завдяки prefix caching і маршрутизації простих запитань на дешевші моделі.
6.5×швидший аналіз
0.94faithfulness
−72%вартість проти наївного RAG
E-commerce / агенти800K тікетів / місяць
AI-агент у службі підтримки маркетплейсу
Задача. Великий потік типових звернень: «де моє замовлення», «поверніть гроші», «змініть адресу». Час першої відповіді становив 9 хвилин, оператори підтримки вигорали, NPS був −18.
Що зробили. Агентний пайплайн на LangGraph із tool use: перевірка статусу замовлення, оформлення повернення, зміна адреси, ескалація. Human-in-the-loop для повернень коштів понад порогову суму. Окремий захисний шар від prompt injection.
Результат. Час першої відповіді скоротився з 9 хвилин до 12 секунд, 68% звернень закриваються автоматично, NPS підтримки — +12. Команда підтримки переключилася на складні випадки та проактивну роботу з клієнтами.
45×швидша перша відповідь
68%автоматичне вирішення
+12 NPSпідтримки
SaaS / LLMOps10M req/day · multi-team
Production LLM gateway з маршрутизацією та кешуванням
Задача. 14 продуктових команд незалежно одна від одної зверталися до OpenAI та Anthropic. Витрати зростали швидше за виручку, ніхто не бачив, хто скільки витрачає, запити часто впиралися в rate limit, а fallback не було.
Що зробили. Спроєктували й запустили gateway: єдиний API, маршрутизація між Claude, GPT і Llama за типом задачі та SLO, семантичний кеш, rate limiting для кожного тенанта, retry і fallback на 429 / 5xx, розподіл витрат через OpenTelemetry. PII-фільтри та бюджет токенів на користувача.
Результат. Вартість токенів за квартал знизилася на 64%. Overhead gateway — 42 ms на p99. Жодного інциденту через rate limit за 6 місяців. Кожна команда бачить свої витрати в реальному часі.
10Mзапитів / день
−64%вартість токенів
42 msoverhead p99
DevOps / AI-агент1.4K інцидентів / місяць
AI-агент для автоматичного тріажу продакшен-інцидентів
Задача. SRE-команда тонула в алертах: 50% хибних спрацьовувань, MTTA 18 хвилин, чергових інженерів будили 3–4 рази за ніч.
Що зробили. AI-агент читає алерт, підтягує пов'язані метрики й логи через MCP, шукає схожі інциденти в постмортемах (RAG) і пропонує гіпотезу та runbook. Якщо впевненість нижча за поріг, передає інцидент людині разом з уже зібраним контекстом.
Результат. MTTA скоротився з 18 до 2 хвилин, бо контекст для інженера збирає агент. 41% алертів закриваються без участі чергового як відомі проблеми. Нічних пробуджень стало у 3.5× менше.
9×нижчий MTTA
41%автотріаж
−72%навантаження на on-call
Аналітика / data lake & DWH120K годин дзвінків / місяць
Аналіз дзвінків відділу продажів за допомогою LLM
Задача. Записи дзвінків були неструктурованим шумом. Прослуховувати їх вручну було неможливо, стара BI-система охоплювала лише CRM, а менеджери заповнювали поля як доведеться.
Що зробили. Пайплайн: транскрипція (Whisper), діаризація, структуроване видобування даних (LLM пише за суворою JSON-схемою), виділення заперечень і ключових запитань, вітрини в ClickHouse, дашборди для відділу продажів і продуктової команди.
Результат. 100% дзвінків автоматично розмічаються протягом 5 хвилин після завершення розмови. Продуктова команда бачить реальні заперечення клієнтів, а менеджери отримують зворотний зв'язок із цитатами. Конверсія продажів за квартал зросла на 9%.
100%покриття дзвінків
5 minSLA від завершення дзвінка
+9%конверсія