AI tým
RAG, agenti, prompt engineering, fine-tuning, evaluační pipeline. Vědí, čím se liší cross-encoder od bi-encoderu a kdy je LoRA lepší než plný fine-tuning. A také proč většinou není potřeba ani jedno.
cat about.md
Architektuře a highload systémům se věnujeme od roku 2013 a od roku 2023 systematicky vedeme projekty AI integrace. Nejsme AI startup hnaný hypem ani integrátoři, kteří o LLM teprve nedávno zaslechli: jsou to dva plnohodnotné směry jednoho inženýrského týmu. Tým dnes pracuje pod značkou KV.solutions a bezpečnost je samostatným směrem.
Nejprve architektura a highload, poté AI integrace jako druhý plnohodnotný směr a nyní bezpečnost jako samostatný směr.
Každý projekt dostane vyhrazeného architekta a 2–4 inženýry podle rozsahu. Žádné dlouhé schvalovací řetězce a žádní manažeři mezi vámi a inženýry.
RAG, agenti, prompt engineering, fine-tuning, evaluační pipeline. Vědí, čím se liší cross-encoder od bi-encoderu a kdy je LoRA lepší než plný fine-tuning. A také proč většinou není potřeba ani jedno.
Go, Node.js, Python. Stavějí API kolem modelů, gateway vrstvy, fronty a integrace s interními systémy. Všichni mají zkušenosti z produktových týmů a z on-callu.
Kubernetes, vLLM, Terraform, observabilita, FinOps. Stavějí inferenční clustery a LLM gatewaye, na kterých produktové týmy vydávají AI funkce denně, ne „až se uvolní GPU“.
Postgres / pgvector, ClickHouse, Qdrant, Weaviate, Kafka, pipeline s Whisperem. Vektorovou infrastrukturu a pipeline pro nestrukturovaná data dotahují do stavu připraveného pro produkci.
Golden datasety, Ragas, Langfuse, A/B testy, regresní testy promptů a modelů. Nevydáváme naslepo s nadějí, že to dopadne. Nejdřív měříme.
Nejsou to korporátní mantry. Je to filtr, kterým prochází každý projekt a každé rozhodnutí.
LLM, mikroslužby, Kubernetes: každé řešení musí svou složitost obhájit. Pokud problém vyřeší SQL nebo monolit, řekneme to.
Golden datasety, evaluační pipeline, faithfulness, context precision, A/B testy na uživatelích. Bez nich jsou „zlepšení“ jen věcí vkusu.
Náklady na tokeny, cache-hit rate a cenu za požadavek počítáme od prvního dne. AI projekty selhávají kvůli účtům za cloud častěji než kvůli kvalitě.
SLO, on-call, postmortemy, observabilita, rate limity, fallbacky. Vydat AI funkci znamená provozovat ji pod zátěží, ne ji jednou předvést na demu.
PII filtry, ochrana proti prompt injection, auditní stopa. Žádné „doplníme později“: je to součást architektury od začátku.
Společný návrh, review, předávání znalostí. Po našem odchodu váš tým vlastní prompty, modely i orchestraci.
AI funkce, optimalizace highload služby nebo architektura od nuly: popište, kde jste teď a kam se chcete dostat. Odpovíme do jednoho pracovního dne a před probíráním detailů podepíšeme NDA.