AI infrastruktura za produkciju
Vektorske baze podataka i GPU serveri su dva stuba savremenog AI stack-a. Imamo oba. Qdrant ili ChromaDB za embeddinge, RAG i semantičku pretragu; GPU serveri za treniranje, fine-tuning i inferenciju sopstvenih modela. Vaši podaci ostaju u EU, računi sadrže EU PDV uz B2B reverse charge, a usklađenost sa GDPR-om postoji od prvog minuta.
Vektorske baze podataka — RAG, embeddinzi, pretraga
Vektorske baze podataka su temelj aplikacija zasnovanih na LLM-ovima. Čuvaju embeddinge dokumenata i pronalaze sličnosti za milisekunde. Izaberite bazu koju želite — hostujemo sve u EU, uz fakturisanje sa EU PDV-om. Svaka dolazi sa unapred instaliranim Python klijentom i primerima Jupyter notebook-ova.
Qdrant
Zasnovan na Rustu, visokih performansi, spreman za produkciju. Idealan za RAG aplikacije sa milionima embeddinga. HNSW indeks, filtriranje po metapodacima, snapshotovi.
ChromaDB
Vektorska baza koju je najlakše koristiti. Odlična za prototipove i manje AI aplikacije. Python-first pristup, automatski embeddinzi iz OpenAI ili Sentence Transformers.
Weaviate
Šema podataka sa metapodacima. Hibridna pretraga (vektor + filter po oznakama). Ugrađeni moduli za generativni AI, GraphQL API.
pgvector
Ekstenzija za PostgreSQL. Ako već koristite Postgres, dodajte vektore bez nove baze. Potpuna integracija sa postojećim tabelama i SQL transakcijama.
GPU serveri — RTX PRO 4000 i RTX PRO 6000
Profesionalne NVIDIA kartice sa spremnim CUDA okruženjem. Za fine-tuning, LLM inferenciju, računarski vid i 3D rendering. Mesečno ili godišnje naplaćivanje, sa 10 DevOps sati uključenih svakog meseca. Sve GPU kartice dolaze sa unapred instaliranim CUDA 12.4, cuDNN 9, PyTorch 2.4, TensorFlow 2.18, JAX i Hugging Face Transformers.
Cena tipičnih AI opterećenja
Primeri scenarija i njihova mesečna cena na našoj infrastrukturi. Cene dolaze uživo iz naših aktuelnih paketa, bez PDV-a. U poređenju sa cenama OpenAI / AWS Bedrock / Anthropic — u mnogim slučajevima sopstvena infrastruktura se isplati pri 50–100 hiljada zahteva mesečno.
| AI opterećenje | Konfiguracija | Cena/mesec |
|---|---|---|
| RAG za 1M dokumenata (chat sa dokumentima) | VPS 32G + Qdrant + OpenAI API | od 240 EUR |
| Semantička pretraga za prodavnicu (50k SKU) | VPS 16G + pgvector + Sentence Transformers | od 100 EUR |
| Inferencija Llama 3 70B (~5k upita dnevno) | GPU server RTX PRO 6000 + vLLM | od 4.000 EUR |
| Treniranje sopstvenog OCR modela (CV) | GPU server RTX PRO 4000 (mesečno) | od 800 EUR |
| LLM 70B u produkciji sa balansiranjem opterećenja | 2× GPU server RTX PRO 6000 + Kubernetes | od 8.000 EUR |
AI pipeline u produkciji — 5 faza
Ovako izgleda tipičan AI projekat u produkciji, od ideje do aplikacije koja radi. Za svaku fazu imamo spremnu infrastrukturu i obrasce koje ne morate da izmišljate iz početka.
Priprema podataka
Indeksiranje dokumenata, čišćenje teksta, normalizacija. Python skripte na VPS-u, izlaz u MinIO (kompatibilan sa S3) ili PostgreSQL.
Generisanje embeddinga
OpenAI text-embedding-3-large, Cohere ili lokalni model (Sentence Transformers, BGE-M3). Embeddinzi se upisuju u Qdrant ili pgvector.
Pretraživanje + RAG
FastAPI/Next.js aplikacija šalje pitanje, vektorska baza vraća top-K dokumenata, a kontekst se dodaje u prompt za LLM.
LLM inferencija
Izaberite: Claude/GPT preko API-ja (najbrži start) ili lokalni LLM na GPU-u (potpuna kontrola, niža cena pri velikom obimu).
Nadzor i evaluacija
Logovi upita u Loki, kašnjenja u Prometheus, trošak OpenAI u Grafana. Evaluacija kvaliteta preko LangSmith ili sopstvenog benchmarka.
Šta možete da izgradite
Asistent za kompaniju (RAG)
Indeksirajte dokumentaciju kompanije u Qdrantu, povežite Claude ili GPT preko API-ja i dobijajte odgovore u kontekstu. Malo kašnjenje odgovora. Višejezični embeddinzi, tokenizator prilagođen vašem jeziku.
Semantička pretraga
Umesto pretrage po ključnim rečima — pretraga po značenju. Kupci u e-trgovini beleže rast konverzije od preko 30%. Dobro se nosi sa jezicima sa bogatom promenom oblika reči.
LLM na vašem serveru (Llama, Mistral)
Sopstveni model na GPU serveru. Nijedan podatak se ne šalje OpenAI/Anthropic. Potpuna kontrola, usklađeno sa GDPR-om. vLLM ili Ollama za jednostavnu inferenciju.
Računarski vid u produkciji
Detekcija defekata, OCR, prepoznavanje objekata. Trenirajte na sopstvenom skupu podataka uz RTX PRO 6000. YOLO, Detectron2, Segment Anything Model.
Usklađenost sa GDPR-om za AI aplikacije
AI je osetljivo područje za GDPR — podaci za treniranje, embeddinzi, logovi upita. Naše rešenje smanjuje rizik tako što sve podatke drži u EU i daje vam punu kontrolu nad obradom.
- Svi podaci (dokumenta, embeddinzi, logovi) u EU data centrima — bez prenosa u SAD, Ujedinjeno Kraljevstvo ili Aziju
- Mogućnost korišćenja lokalnih LLM-ova (Llama, Mistral) umesto OpenAI/Anthropic — bez prenosa podataka u SAD
- Logovi upita se čuvaju najviše 90 dana, uz ranije brisanje na zahtev
- Embeddinzi su izvedeni podaci — potpuno brisanje je moguće ponovnim indeksiranjem nakon anonimizacije izvora
- Audit log za svaki pristup vektorskoj bazi (ko, kada, koji upit)
- Besplatan Ugovor o obradi podataka (DPA) usklađen sa članom 28 GDPR-a
Najčešća pitanja
Mogu li da koristim OpenAI / Anthropic sa vektorskom bazom u EU?
Da. Vektorsku bazu (Qdrant/ChromaDB) držite kod nas u EU. LLM-u šaljete samo top-K kontekst i pitanje korisnika. Naši primeri pokazuju kako da prenos podataka svedete na minimum.
Koliki model mogu da pokrenem na vašem GPU-u?
Llama 3 8B / Mistral 7B rade glatko na RTX PRO 4000 (24 GB), koji odgovara modelima do oko 14B parametara. Llama 3 70B zahteva RTX PRO 6000 (96 GB). Mixtral 8x22B i veći: više GPU servera. Pomažemo u izboru.
Koliko traje podešavanje AI okruženja?
Okruženje je unapred instalirano — CUDA, PyTorch, TF, vLLM, Ollama. Prva inferencija za 5 minuta. Za prilagođena podešavanja (određeni model, fine-tuning) obično 1–3 sata uz našu pomoć.
Podržavate li fine-tuning sopstvenih modela?
Da. RTX PRO 6000 (96 GB VRAM) podnosi fine-tuning modela do 70B uz LoRA/QLoRA. RTX PRO 4000 (24 GB) pokriva lagani fine-tuning malih modela. Potpuno treniranje modela klase GPT ne staje na jedan GPU server.
Mogu li da koristim Pinecone dok je Qdrant kod vas?
Da. Pinecone je spoljna usluga koja se naplaćuje po potrošnji; Qdrant radi na vašem VPS-u u EU, podaci nikada ne napuštaju vaš server, a cena je fiksna mesečna cena VPS-a. Migraciju sa Pinecone na Qdrant radimo iz vaših uključenih DevOps sati.
Izaberite GPU ili VPS sa vektorskom bazom
GPU serveri sa RTX PRO 4000 ili RTX PRO 6000 i VPS sa unapred instaliranim Qdrantom; aktuelne cene su na stranici sa paketima. GPU se naplaćuje mesečno ili godišnje, uz 10 DevOps sati mesečno.
Pogledajte GPU pakete →