AI-infrastructuur op productieniveau
Vector databases en GPU-servers zijn de twee pijlers van moderne AI-stacks. Wij hebben beide. Qdrant of ChromaDB voor embeddings, RAG en semantisch zoeken; GPU-servers voor training, fine-tuning en inferentie van uw eigen modellen. Voor Nederlandse bedrijven: data blijft in de EU, BTW-factuur in EUR, AVG-conformiteit vanaf minuut één.
Vector databases — RAG, embeddings, search
Vector databases vormen de basis van LLM-gedreven apps. Ze slaan document-embeddings op en vinden overeenkomsten in milliseconden. Kies de gewenste database — we hosten allemaal in de EU met BTW-facturatie in EUR.
Qdrant
Rust-based, hoge prestaties, productie-klaar. Ideaal voor RAG-apps met miljoenen embeddings. HNSW index, metadata-filtering, snapshots.
ChromaDB
De makkelijkste vector database. Perfect voor prototypes en kleinere AI-apps. Python-first, automatische embeddings via OpenAI of Sentence Transformers.
Weaviate
Data-schema met metadata. Hybride zoeken (vector + tag-filter). Ingebouwde generatieve AI-modules, GraphQL API.
pgvector
PostgreSQL extensie. Als u al Postgres gebruikt, voeg vectors toe zonder een nieuwe database. Volledige integratie met bestaande tabellen en SQL-transacties.
GPU-servers — RTX PRO 4000 en RTX PRO 6000
Professionele NVIDIA-kaarten met een kant-en-klare CUDA-omgeving. Voor fine-tuning, LLM-inferentie, computer vision en 3D-rendering. Maandelijks of jaarlijks gefactureerd, met 10 DevOps-uren per maand inbegrepen. Alle GPU's leveren CUDA 12.4, cuDNN 9, PyTorch 2.4, TensorFlow 2.18, JAX, Hugging Face Transformers voorgeïnstalleerd.
Kosten van typische AI-workloads
Voorbeeldscenario's en hun maandelijkse kosten op onze infrastructuur. De prijzen komen rechtstreeks uit onze actuele abonnementen, exclusief btw. Vergeleken met OpenAI / AWS Bedrock / Anthropic tarieven — eigen infrastructuur loont vaak vanaf 50-100k requests/maand.
| AI-workload | Setup | Kosten/maand |
|---|---|---|
| RAG voor 1M documenten (doc chat) | VPS 32G + Qdrant + OpenAI API | vanaf 240 EUR |
| Semantische zoekfunctie voor shop (50k SKUs) | VPS 16G + pgvector + Sentence Transformers | vanaf 100 EUR |
| Llama 3 70B inferentie (~5k queries/dag) | GPU server RTX PRO 6000 + vLLM | vanaf 4.000 EUR |
| Training van eigen OCR-model (CV) | GPU server RTX PRO 4000 (maandelijks) | vanaf 800 EUR |
| Productie-LLM 70B met load balancing | 2× GPU server RTX PRO 6000 + Kubernetes | vanaf 8.000 EUR |
Productie-AI pipeline — 5 fasen
Zo ziet een typisch productie-AI-project eruit van concept tot werkende app. Voor elke fase hebben we kant-en-klare infrastructuur en patterns die u niet vanaf nul hoeft te bedenken.
Data preparation
Document indexing, tekst opschoning, normalisatie. Python scripts op een VPS, output naar MinIO (S3-compatible) of PostgreSQL.
Embedding generation
OpenAI text-embedding-3-large, Cohere, of lokaal model (Sentence Transformers, BGE-M3). Embeddings opgeslagen in Qdrant of pgvector.
Retrieval + RAG
Een FastAPI/Next.js app stuurt een vraag, de vector DB retourneert top-K docs, context wordt toegevoegd aan de LLM-prompt.
LLM inferentie
Kies: Claude/GPT via API (snelste start), of een lokale LLM op GPU (volledige controle, lagere kosten bij schaal).
Monitoring en evaluatie
Query logs in Loki, latencies in Prometheus, OpenAI kosten in Grafana. Quality eval via LangSmith of eigen benchmark.
Wat u kunt bouwen
Bedrijfsassistent (RAG)
Indexeer bedrijfsdocumenten in Qdrant, koppel Claude of GPT via API, retourneer context-bewuste antwoorden. Low response latency. Nederlandse tokenizer, meertalige embeddings.
Semantische zoekfunctie
In plaats van keyword search — zoek op betekenis. Nederlandse e-commerce ziet 30%+ conversiestijging. Werkt met Nederlandse verbuigingen.
Gehoste LLM (Llama, Mistral)
Eigen model op een GPU-server. Geen data naar OpenAI/Anthropic. Volledige controle, AVG-conform. vLLM of Ollama voor eenvoudige inferentie.
Computer vision in productie
Detectie van defecten, OCR, objectherkenning. Train op eigen dataset met RTX PRO 6000. YOLO, Detectron2, Segment Anything Model.
AVG-conformiteit voor AI-apps
AI is een gevoelig gebied voor AVG — trainingsdata, embeddings, query-logs. Onze oplossing minimaliseert risico door alle data in de EU te houden en u volledige controle over verwerking te geven.
- Alle data (documenten, embeddings, logs) in EU-datacenters — geen transfer naar VS, VK of Azië
- Optie om lokale LLMs (Llama, Mistral) te gebruiken in plaats van OpenAI/Anthropic — geen datatransfer naar VS
- Query-logs maximaal 90 dagen bewaard, met on-demand eerdere verwijdering
- Embeddings zijn afgeleide data — volledige verwijdering mogelijk door re-indexing na anonimisering van de bron
- Audit log voor elke vector DB-toegang (wie, wanneer, welke query)
- Gratis Verwerkersovereenkomst (DPA) conform AVG art. 28
Veelgestelde vragen
Kan ik OpenAI / Anthropic gebruiken met een vector DB in de EU?
Ja. U houdt de vector DB (Qdrant/ChromaDB) bij ons in de EU. Naar de LLM stuurt u alleen de top-K context + gebruikersvraag. Onze voorbeelden tonen hoe datatransfer geminimaliseerd wordt.
Hoe groot model kan ik op uw GPU draaien?
Llama 3 8B / Mistral 7B draaien soepel op RTX PRO 4000 (24 GB), geschikt voor modellen tot circa 14 mld. parameters. Llama 3 70B vereist RTX PRO 6000 (96 GB). Mixtral 8x22B en groter: meerdere GPU-servers. Wij helpen kiezen.
Hoe lang duurt AI-omgeving setup?
De omgeving is voorgeïnstalleerd — CUDA, PyTorch, TF, vLLM, Ollama. Eerste inferentie in 5 minuten. Voor custom setups (specifiek model, fine-tuning) typisch 1-3 uur met onze hulp.
Ondersteunen jullie fine-tuning van eigen modellen?
Ja. RTX PRO 6000 (96 GB VRAM) handelt fine-tuning van tot 70B modellen met LoRA/QLoRA. Op RTX PRO 4000 (24 GB) doet u lichte fine-tuning van kleine modellen. Volledige training van GPT-class modellen past niet op één GPU-server.
Kan ik Pinecone gebruiken terwijl Qdrant bij u staat?
Ja. Pinecone is een externe dienst die per gebruik factureert; Qdrant draait op uw eigen VPS in de EU, de data verlaten uw server niet en de kosten zijn de vaste maandprijs van de VPS. De migratie van Pinecone naar Qdrant doen we vanuit de inbegrepen DevOps-uren.
Kies een GPU of VPS met een vector database
GPU-servers met RTX PRO 4000 of RTX PRO 6000 en VPS met voorgeïnstalleerde Qdrant; de actuele prijzen staan bij de abonnementen. GPU's maandelijks of jaarlijks gefactureerd, met 10 DevOps-uren per maand.
Bekijk GPU-plannen →