Produkčná AI infraštruktúra
Vektorové databázy a GPU servery sú dva piliere moderných AI stackov. Máme obe. Qdrant alebo ChromaDB pre embeddingy, RAG a sémantické vyhľadávanie; GPU servery na trénovanie, fine-tuning a inferenciu vašich vlastných modelov. Vaše dáta zostávajú v EÚ, faktúry obsahujú DPH EÚ s B2B reverse charge a súlad s GDPR máte od prvej minúty.
Vektorové databázy — RAG, embeddingy, vyhľadávanie
Vektorové databázy sú základom aplikácií poháňaných LLM. Ukladajú embeddingy dokumentov a podobnosti nachádzajú v milisekundách. Vyberte si databázu, ktorú preferujete — všetky hostujeme v EÚ s fakturáciou s DPH EÚ. Každá je dodávaná s predinštalovaným klientom pre Python a ukážkovými notebookmi Jupyter.
Qdrant
Postavená na Ruste, vysoký výkon, pripravená do produkcie. Ideálna pre RAG aplikácie s miliónmi embeddingov. Index HNSW, filtrovanie podľa metadát, snapshoty.
ChromaDB
Najjednoduchšie použiteľná vektorová databáza. Skvelá pre prototypy a menšie AI aplikácie. Python na prvom mieste, automatické embeddingy z OpenAI alebo Sentence Transformers.
Weaviate
Dátová schéma s metadátami. Hybridné vyhľadávanie (vektor + filter podľa značiek). Vstavané generatívne AI moduly, API GraphQL.
pgvector
Rozšírenie pre PostgreSQL. Ak už používate Postgres, pridajte vektory bez novej databázy. Plná integrácia s existujúcimi tabuľkami a transakciami SQL.
GPU servery — RTX PRO 4000 a RTX PRO 6000
Profesionálne karty NVIDIA s pripraveným prostredím CUDA. Na fine-tuning, inferenciu LLM, počítačové videnie a 3D rendering. Mesačná alebo ročná fakturácia, s 10 hodinami DevOps v cene každý mesiac. Všetky GPU majú predinštalované CUDA 12.4, cuDNN 9, PyTorch 2.4, TensorFlow 2.18, JAX a Hugging Face Transformers.
Náklady typických AI úloh
Ukážkové scenáre a ich mesačné náklady na našej infraštruktúre. Ceny sa preberajú naživo z našich aktuálnych plánov, bez DPH. V porovnaní so sadzbami OpenAI / AWS Bedrock / Anthropic sa vlastná infraštruktúra v mnohých prípadoch vyplatí už pri 50 – 100 tisíc požiadavkách mesačne.
| AI úloha | Konfigurácia | Náklady/mesiac |
|---|---|---|
| RAG pre 1M dokumentov (chat nad dokumentmi) | VPS 32G + Qdrant + OpenAI API | od 240 EUR |
| Sémantické vyhľadávanie pre e-shop (50k SKU) | VPS 16G + pgvector + Sentence Transformers | od 100 EUR |
| Inferencia Llama 3 70B (~5k dotazov/deň) | GPU server RTX PRO 6000 + vLLM | od 4 000 EUR |
| Trénovanie vlastného modelu OCR (CV) | GPU server RTX PRO 4000 (mesačne) | od 800 EUR |
| Produkčný LLM 70B s vyvažovaním záťaže | 2× GPU server RTX PRO 6000 + Kubernetes | od 8 000 EUR |
Produkčný AI pipeline — 5 etáp
Takto vyzerá typický produkčný AI projekt od nápadu po bežiacu aplikáciu. Pre každú etapu máme pripravenú infraštruktúru a postupy, ktoré nemusíte vymýšľať od nuly.
Príprava dát
Indexovanie dokumentov, čistenie textu, normalizácia. Skripty v Pythone na VPS, výstup do MinIO (kompatibilné s S3) alebo PostgreSQL.
Generovanie embeddingov
OpenAI text-embedding-3-large, Cohere alebo lokálny model (Sentence Transformers, BGE-M3). Embeddingy sa zapisujú do Qdrantu alebo pgvectoru.
Retrieval + RAG
Aplikácia FastAPI/Next.js odošle otázku, vektorová databáza vráti top-K dokumentov a kontext sa pripojí k promptu LLM.
Inferencia LLM
Na výber: Claude/GPT cez API (najrýchlejší štart) alebo lokálny LLM na GPU (plná kontrola, nižšie náklady vo veľkom rozsahu).
Monitoring a vyhodnocovanie
Logy dotazov v Loki, latencie v Prometheus, náklady na OpenAI v Grafane. Vyhodnotenie kvality cez LangSmith alebo vlastný benchmark.
Čo môžete postaviť
Firemný asistent (RAG)
Zaindexujte firemné dokumenty v Qdrante, pripojte Claude alebo GPT cez API a získajte odpovede s ohľadom na kontext. Nízka latencia odpovede. Viacjazyčné embeddingy, tokenizér prispôsobený vášmu jazyku.
Sémantické vyhľadávanie
Namiesto vyhľadávania podľa kľúčových slov — hľadanie podľa významu. Zákazníci e-shopov vidia nárast konverzie o 30 % a viac. Bez problémov zvláda ohýbané jazyky.
Hostovaný LLM (Llama, Mistral)
Váš vlastný model na GPU serveri. Žiadne dáta neodchádzajú do OpenAI/Anthropic. Plná kontrola, súlad s GDPR. vLLM alebo Ollama pre jednoduchú inferenciu.
Počítačové videnie v produkcii
Detekcia chýb, OCR, rozpoznávanie objektov. Trénujte na vlastnom datasete s RTX PRO 6000. YOLO, Detectron2, Segment Anything Model.
Súlad s GDPR pre AI aplikácie
AI je z hľadiska GDPR citlivá oblasť — trénovacie dáta, embeddingy, logy dotazov. Naše riešenie minimalizuje riziko tým, že všetky dáta zostávajú v EÚ a máte plnú kontrolu nad spracúvaním.
- Všetky dáta (dokumenty, embeddingy, logy) v dátových centrách EÚ — žiadny prenos do USA, Spojeného kráľovstva ani Ázie
- Možnosť používať lokálne LLM (Llama, Mistral) namiesto OpenAI/Anthropic — žiadny prenos dát do USA
- Logy dotazov sa uchovávajú najviac 90 dní, s možnosťou skoršieho vymazania na požiadanie
- Embeddingy sú odvodené dáta — úplné vymazanie je možné opätovným indexovaním po anonymizácii zdroja
- Auditný log každého prístupu k vektorovej databáze (kto, kedy, aký dotaz)
- Bezplatná zmluva o spracúvaní osobných údajov (DPA) v súlade s článkom 28 GDPR
Často kladené otázky
Môžem používať OpenAI / Anthropic s vektorovou databázou v EÚ?
Áno. Vektorovú databázu (Qdrant/ChromaDB) máte u nás v EÚ. Do LLM posielate iba top-K kontext a otázku používateľa. Naše príklady ukazujú, ako minimalizovať prenos dát.
Aký veľký model môžem spustiť na vašom GPU?
Llama 3 8B / Mistral 7B bežia plynulo na RTX PRO 4000 (24 GB), vhodnej pre modely do približne 14B parametrov. Llama 3 70B vyžaduje RTX PRO 6000 (96 GB). Mixtral 8x22B a väčšie: niekoľko GPU serverov. Pomôžeme vám s výberom.
Ako dlho trvá nastavenie AI prostredia?
Prostredie je predinštalované — CUDA, PyTorch, TF, vLLM, Ollama. Prvá inferencia za 5 minút. Pri vlastných konfiguráciách (konkrétny model, fine-tuning) typicky 1 – 3 hodiny s našou pomocou.
Podporujete fine-tuning vlastných modelov?
Áno. RTX PRO 6000 (96 GB VRAM) zvláda fine-tuning modelov do 70B pomocou LoRA/QLoRA. RTX PRO 4000 (24 GB) pokryje ľahký fine-tuning malých modelov. Plné trénovanie modelov triedy GPT sa na jeden GPU server nezmestí.
Môžem používať Pinecone, ak je Qdrant u vás?
Áno. Pinecone je externá služba účtovaná podľa využitia; Qdrant beží na vašom vlastnom VPS v EÚ, dáta nikdy neopustia váš server a náklady tvorí pevná mesačná cena VPS. Migráciu z Pinecone do Qdrantu zabezpečíme z vašich hodín DevOps v cene.
Vyberte si GPU alebo VPS s vektorovou databázou
GPU servery s RTX PRO 4000 alebo RTX PRO 6000 a VPS s predinštalovaným Qdrantom; aktuálne ceny nájdete na stránke s plánmi. GPU s mesačnou alebo ročnou fakturáciou, s 10 hodinami DevOps mesačne.
Zobraziť plány GPU →