AI-команда
RAG, агенты, промпт-инжиниринг, fine-tuning, eval-пайплайны. Знают, чем cross-encoder отличается от bi-encoder и когда LoRA лучше full tuning. И почему чаще всего не нужно ни то, ни другое.
cat about.md
С 2013 года занимаемся архитектурой и highload-системами, с 2023-го системно ведём проекты по AI-интеграции. Мы не AI-стартап на хайпе и не интеграторы, которые только что услышали про LLM: это два полноценных направления одной инженерной команды. Сейчас команда работает под именем KV.solutions, а безопасность стала отдельным направлением.
Сначала архитектура и highload, затем AI-интеграция как второе полноценное направление, а теперь и безопасность — как отдельное.
На каждом проекте — выделенный архитектор и 2–4 инженера, в зависимости от масштаба. Без длинных цепочек согласований и без менеджеров между вами и инженерами.
RAG, агенты, промпт-инжиниринг, fine-tuning, eval-пайплайны. Знают, чем cross-encoder отличается от bi-encoder и когда LoRA лучше full tuning. И почему чаще всего не нужно ни то, ни другое.
Go, Node.js, Python. Строят API вокруг моделей, gateway-слои, очереди и интеграции с внутренними системами. У всех есть опыт работы в продуктовых командах и в on-call.
Kubernetes, vLLM, Terraform, observability, FinOps. Поднимают inference-кластеры и LLM gateways, на которых продуктовые команды выпускают AI-фичи каждый день, а не «когда освободится GPU».
Postgres / pgvector, ClickHouse, Qdrant, Weaviate, Kafka, пайплайны на Whisper. Доводят векторную инфраструктуру и пайплайны неструктурированных данных до production-ready состояния.
Golden datasets, Ragas, Langfuse, A/B-тесты, регрессионные тесты на промпты и модели. Мы не релизим наудачу. Сначала измеряем.
Это не корпоративные мантры, а фильтр, через который мы пропускаем каждый проект и каждое решение.
LLM, микросервисы, Kubernetes: каждое решение должно оправдывать свою сложность. Если задачу решает SQL или монолит, мы так и скажем.
Golden datasets, eval-пайплайн, faithfulness, context precision, A/B-тесты на пользователях. Без этого «улучшения» — дело вкуса.
Считаем стоимость токенов, cache-hit rate и стоимость запроса с первого дня. AI-проекты чаще проваливаются из-за счетов за облако, чем из-за качества.
SLO, on-call, постмортемы, observability, rate limits, fallback. Выпустить AI-фичу — значит эксплуатировать её под нагрузкой, а не показать один раз на демо.
PII-фильтры, защита от prompt injection, аудит-след. Не «потом добавим»: это заложено в архитектуру с самого начала.
Парное проектирование, ревью, передача знаний. После нашего ухода промпты, модели и оркестрация остаются в руках вашей команды.
AI-фича, оптимизация highload-сервиса или архитектура с нуля — опишите, где вы сейчас и куда хотите прийти. Ответим в течение одного рабочего дня и подпишем NDA до обсуждения деталей.