AI infrastruktura na produkční úrovni
Vektorové databáze a GPU servery jsou dva pilíře moderních AI stacků. Máme obojí. Qdrant nebo ChromaDB pro embeddingy, RAG a sémantické vyhledávání; GPU servery pro trénink, fine-tuning a inferenci vlastních modelů. Vaše data zůstávají v EU, faktury obsahují DPH EU s přenesenou daňovou povinností u B2B a soulad s GDPR máte od první minuty.
Vektorové databáze — RAG, embeddingy, vyhledávání
Vektorové databáze jsou základem aplikací postavených na LLM. Ukládají embeddingy dokumentů a podobnosti hledají během milisekund. Vyberte si databázi, která vám vyhovuje — všechny hostujeme v EU s fakturací s DPH EU. Každá přichází s předinstalovaným klientem pro Python a ukázkovými notebooky Jupyter.
Qdrant
Postavený na Rustu, vysoký výkon, připravený pro produkci. Ideální pro aplikace RAG s miliony embeddingů. Index HNSW, filtrování podle metadat, snapshoty.
ChromaDB
Vektorová databáze s nejjednodušším použitím. Skvělá pro prototypy a menší AI aplikace. Python na prvním místě, automatické embeddingy z OpenAI nebo Sentence Transformers.
Weaviate
Datové schéma s metadaty. Hybridní vyhledávání (vektor + filtr podle tagů). Vestavěné moduly generativní AI, API GraphQL.
pgvector
Rozšíření PostgreSQL. Pokud už Postgres používáte, přidáte vektory bez nové databáze. Plná integrace se stávajícími tabulkami a transakcemi SQL.
GPU servery — RTX PRO 4000 a RTX PRO 6000
Profesionální karty NVIDIA s hotovým prostředím CUDA. Pro fine-tuning, inferenci LLM, počítačové vidění a 3D rendering. Měsíční nebo roční fakturace, každý měsíc je v ceně 10 hodin DevOps. Všechny GPU mají předinstalované CUDA 12.4, cuDNN 9, PyTorch 2.4, TensorFlow 2.18, JAX a Hugging Face Transformers.
Náklady typických AI úloh
Příklady scénářů a jejich měsíční náklady na naší infrastruktuře. Ceny se načítají živě z našich aktuálních plánů, bez DPH. Ve srovnání se sazbami OpenAI / AWS Bedrock / Anthropic se vlastní infrastruktura v mnoha případech vyplatí od 50–100 tisíc požadavků měsíčně.
| AI úloha | Konfigurace | Cena/měsíc |
|---|---|---|
| RAG pro 1 M dokumentů (chat s dokumenty) | VPS 32G + Qdrant + OpenAI API | od 240 EUR |
| Sémantické vyhledávání pro obchod (50 tis. SKU) | VPS 16G + pgvector + Sentence Transformers | od 100 EUR |
| Inference Llama 3 70B (~5 tis. dotazů/den) | GPU server RTX PRO 6000 + vLLM | od 4 000 EUR |
| Trénink vlastního modelu OCR (CV) | GPU server RTX PRO 4000 (měsíčně) | od 800 EUR |
| Produkční LLM 70B s vyvažováním zátěže | 2× GPU server RTX PRO 6000 + Kubernetes | od 8 000 EUR |
Produkční AI pipeline — 5 fází
Takto vypadá typický produkční AI projekt od nápadu po běžící aplikaci. Pro každou fázi máme připravenou infrastrukturu a postupy, které nemusíte vymýšlet od nuly.
Příprava dat
Indexace dokumentů, čištění textu, normalizace. Skripty v Pythonu na VPS, výstup do MinIO (kompatibilní s S3) nebo PostgreSQL.
Generování embeddingů
OpenAI text-embedding-3-large, Cohere nebo lokální model (Sentence Transformers, BGE-M3). Embeddingy se zapisují do Qdrantu nebo pgvectoru.
Retrieval + RAG
Aplikace ve FastAPI/Next.js odešle dotaz, vektorová databáze vrátí top-K dokumentů a kontext se připojí k promptu LLM.
Inference LLM
Na výběr: Claude/GPT přes API (nejrychlejší start), nebo lokální LLM na GPU (plná kontrola, nižší náklady ve větším měřítku).
Monitoring a vyhodnocení
Logy dotazů v Loki, latence v Prometheus, náklady na OpenAI v Grafaně. Vyhodnocení kvality přes LangSmith nebo vlastní benchmark.
Co můžete postavit
Firemní asistent (RAG)
Zaindexujte firemní dokumenty v Qdrantu, připojte Claude nebo GPT přes API a vracejte odpovědi s ohledem na kontext. Nízká latence odezvy. Vícejazyčné embeddingy, tokenizér přizpůsobený vašemu jazyku.
Sémantické vyhledávání
Místo hledání podle klíčových slov — hledání podle významu. Zákazníci e-shopů vidí nárůst konverzí o více než 30 %. Dobře si poradí i s flektivními jazyky.
Hostovaný LLM (Llama, Mistral)
Váš vlastní model na GPU serveru. Žádná data se neposílají do OpenAI/Anthropic. Plná kontrola, soulad s GDPR. vLLM nebo Ollama pro snadnou inferenci.
Počítačové vidění v produkci
Detekce vad, OCR, rozpoznávání objektů. Trénujte na vlastním datasetu s RTX PRO 6000. YOLO, Detectron2, Segment Anything Model.
Soulad s GDPR u AI aplikací
AI je z pohledu GDPR citlivá oblast — trénovací data, embeddingy, logy dotazů. Naše řešení minimalizuje riziko tím, že všechna data zůstávají v EU a vy máte plnou kontrolu nad zpracováním.
- Všechna data (dokumenty, embeddingy, logy) v datacentrech v EU — žádný přenos do USA, Velké Británie ani Asie
- Možnost používat lokální LLM (Llama, Mistral) místo OpenAI/Anthropic — žádný přenos dat do USA
- Logy dotazů se uchovávají nejvýše 90 dní, na požádání je lze smazat dříve
- Embeddingy jsou odvozená data — úplné smazání je možné přeindexováním po anonymizaci zdroje
- Auditní log každého přístupu do vektorové databáze (kdo, kdy, jaký dotaz)
- Bezplatná smlouva o zpracování osobních údajů (DPA) v souladu s článkem 28 GDPR
Často kladené otázky
Mohu používat OpenAI / Anthropic s vektorovou databází v EU?
Ano. Vektorovou databázi (Qdrant/ChromaDB) máte u nás v EU. Do LLM posíláte jen kontext top-K a dotaz uživatele. Naše příklady ukazují, jak přenos dat minimalizovat.
Jak velký model mohu na vašem GPU provozovat?
Llama 3 8B / Mistral 7B běží plynule na RTX PRO 4000 (24 GB), vhodné pro modely do zhruba 14B parametrů. Llama 3 70B potřebuje RTX PRO 6000 (96 GB). Mixtral 8x22B a větší: několik GPU serverů. S výběrem vám pomůžeme.
Jak dlouho trvá nastavení AI prostředí?
Prostředí je předinstalované — CUDA, PyTorch, TF, vLLM, Ollama. První inference za 5 minut. U vlastních konfigurací (konkrétní model, fine-tuning) obvykle 1–3 hodiny s naší pomocí.
Podporujete fine-tuning vlastních modelů?
Ano. RTX PRO 6000 (96 GB VRAM) zvládne fine-tuning modelů až do 70B pomocí LoRA/QLoRA. RTX PRO 4000 (24 GB) pokryje lehký fine-tuning malých modelů. Plný trénink modelů třídy GPT se na jeden GPU server nevejde.
Mohu používat Pinecone, když Qdrant je u vás?
Ano. Pinecone je externí služba účtovaná podle využití; Qdrant běží na vašem vlastním VPS v EU, data nikdy neopustí váš server a cenou je pevná měsíční cena VPS. Migraci z Pinecone do Qdrantu zajistíme z vašich zahrnutých hodin DevOps.
Vyberte GPU nebo VPS s vektorovou databází
GPU servery s RTX PRO 4000 nebo RTX PRO 6000 a VPS s předinstalovaným Qdrantem; aktuální ceny najdete na stránce plánů. GPU se fakturují měsíčně nebo ročně, s 10 hodinami DevOps měsíčně.
Zobrazit GPU plány →