Fintech / RAG · compliance2.4M dokumentů
RAG kopilot pro compliance analytiky
Zadání. Analytici trávili posouzením každého případu 30–60 minut: prohledávali 2,4 milionu interních dokumentů a ověřovali regulatorní požadavky. Open-source vyhledávání vracelo irelevantní výsledky a naivní RAG halucinoval.
Co jsme udělali. Hybridní vyhledávání (BM25 + embeddingy) s cross-encoder re-rankingem. Chunking, který respektuje strukturu dokumentů. Samostatný fact-checking krok na Claude. Citation-aware UI, kde každé tvrzení odkazuje na svůj zdroj. Evaluace na golden setu o 1200 párech.
Výsledek. Faithfulness 0.94 (oproti baseline 0.71), doba posouzení případu klesla ze 40 na 6 minut, náklady na tokeny jsou o 72 % nižší díky prefix cachingu a směrování jednoduchých dotazů na levnější modely.
6.5×rychlejší analýza
0.94faithfulness
−72%náklady vs. naivní RAG
E-commerce / agenti800K ticketů / měsíc
AI agent v zákaznické podpoře marketplace
Zadání. Velký objem typických požadavků: „kde je moje objednávka“, „vraťte mi peníze“, „změňte adresu“. Doba první odpovědi byla 9 minut, pracovníci podpory vyhořívali, NPS bylo −18.
Co jsme udělali. Agentní pipeline na LangGraph s tool use: kontrola stavu objednávky, zahájení vratky, změna adresy, eskalace. Human-in-the-loop u refundací nad stanovený limit. Samostatná bezpečnostní vrstva proti prompt injection.
Výsledek. První odpověď se zkrátila z 9 minut na 12 sekund, 68 % požadavků se vyřeší automaticky, NPS podpory je +12. Tým podpory se přesunul ke složitým případům a proaktivní komunikaci.
45×rychlejší první odpověď
68%automatické vyřešení
+12 NPSpodpora
SaaS / LLMOps10M req/day · více týmů
Produkční LLM gateway s routingem a cachováním
Zadání. 14 produktových týmů volalo OpenAI a Anthropic nezávisle na sobě. Náklady rostly rychleji než tržby, nikdo neviděl, kdo kolik utrácí, časté byly výpadky kvůli rate limitům a chyběl fallback.
Co jsme udělali. Navrhli a spustili jsme gateway: jednotné API, routing mezi Claude, GPT a Llama podle typu úlohy a SLO, sémantická cache, rate limiting per tenant, retry a fallback při 429 / 5xx, přiřazení nákladů přes OpenTelemetry. PII filtry a tokenový rozpočet na uživatele.
Výsledek. Náklady na tokeny klesly za čtvrtletí o 64 %. Overhead gatewaye je 42 ms na p99. Za 6 měsíců žádný incident kvůli rate limitům. Každý tým vidí své výdaje v reálném čase.
10Mpožadavků / den
−64%náklady na tokeny
42 msoverhead p99
DevOps / AI agent1.4K incidentů / měsíc
AI agent pro automatickou triáž produkčních incidentů
Zadání. SRE tým se topil v alertech: 50 % falešných poplachů, MTTA 18 minut, on-call inženýři buzeni 3–4× za noc.
Co jsme udělali. AI agent si přečte alert, přes MCP stáhne související metriky a logy, prohledá minulé incidenty v postmortemech (RAG) a navrhne hypotézu a runbook. Pod prahem jistoty eskaluje na člověka s již připraveným kontextem.
Výsledek. MTTA kleslo z 18 minut na 2 minuty, protože kontext pro inženýra sbírá agent. 41 % alertů se uzavře bez on-callu jako známé problémy. Nočních buzení je 3,5× méně.
9×nižší MTTA
41%automatická triáž
−72%zátěž on-callu
Analytika / data lake & DWH120K hodin hovorů / měsíc
Analýza obchodních hovorů pomocí LLM
Zadání. Nahrávky hovorů byly nestrukturovaný šum. Poslouchat je ručně nebylo možné, původní BI pokrývalo jen CRM a manažeři vyplňovali pole nejednotně.
Co jsme udělali. Pipeline: transkripce (Whisper), diarizace, strukturovaná extrakce (LLM zapisující do striktního JSON schématu), zvýraznění námitek a klíčových otázek, pohledy v ClickHouse, dashboardy pro obchodní i produktový tým.
Výsledek. 100 % hovorů se automaticky otaguje do 5 minut od konce hovoru. Produktový tým vidí skutečné námitky zákazníků a manažeři dostávají zpětnou vazbu s citacemi. Konverze prodeje vzrostla za čtvrtletí o 9 %.
100%pokrytí hovorů
5 minSLA od konce hovoru
+9%konverze