Tuotantokelpoinen tekoälyinfrastruktuuri
Vektoritietokannat ja GPU-palvelimet ovat modernin tekoälypinon kaksi peruspilaria. Meiltä saat molemmat. Qdrant tai ChromaDB upotuksille, RAG-ratkaisuille ja semanttiselle haulle; GPU-palvelimet omien mallien koulutukseen, hienosäätöön ja inferenssiin. Datasi pysyy EU:ssa, laskuissa on EU:n ALV ja B2B-käänteinen verovelvollisuus, ja GDPR-vaatimustenmukaisuus on mukana ensimmäisestä minuutista.
Vektoritietokannat — RAG, upotukset, haku
Vektoritietokannat ovat LLM-pohjaisten sovellusten perusta. Ne tallentavat dokumenttien upotukset ja löytävät samankaltaisuudet millisekunneissa. Valitse haluamasi tietokanta — isännöimme ne kaikki EU:ssa EU:n ALV-laskutuksella. Jokaisessa on valmiiksi asennettu Python-asiakasohjelmisto ja esimerkkeinä Jupyter-notebookit.
Qdrant
Rust-pohjainen, tehokas ja tuotantovalmis. Sopii erinomaisesti RAG-sovelluksiin, joissa on miljoonia upotuksia. HNSW-indeksi, metadatasuodatus, tilannevedokset.
ChromaDB
Helppokäyttöisin vektoritietokanta. Sopii hyvin prototyyppeihin ja pienempiin tekoälysovelluksiin. Python edellä, automaattiset upotukset OpenAI:lta tai Sentence Transformersilta.
Weaviate
Tietoskeema metadatalla. Hybridihaku (vektori + tunnistesuodatus). Sisäänrakennetut generatiivisen tekoälyn moduulit, GraphQL-rajapinta.
pgvector
PostgreSQL-laajennus. Jos käytät jo Postgresia, lisää vektorit ilman uutta tietokantaa. Täysi integraatio olemassa olevien taulujen ja SQL-transaktioiden kanssa.
GPU-palvelimet — RTX PRO 4000 ja RTX PRO 6000
Ammattitason NVIDIA-näytönohjaimet ja valmis CUDA-ympäristö. Hienosäätöön, LLM-inferenssiin, konenäköön ja 3D-renderöintiin. Kuukausi- tai vuosilaskutus, ja jokaiseen kuukauteen sisältyy 10 DevOps-tuntia. Kaikissa GPU-palvelimissa on valmiiksi asennettuna CUDA 12.4, cuDNN 9, PyTorch 2.4, TensorFlow 2.18, JAX ja Hugging Face Transformers.
Tyypillisten tekoälykuormien kustannukset
Esimerkkitapauksia ja niiden kuukausikustannukset infrastruktuurissamme. Hinnat haetaan reaaliajassa voimassa olevista paketeistamme, ALV:tta lukuun ottamatta. OpenAI:n, AWS Bedrockin ja Anthropicin hintoihin verrattuna oma infrastruktuuri maksaa itsensä takaisin monessa tapauksessa 50–100 tuhannella pyynnöllä kuukaudessa.
| Tekoälykuorma | Kokoonpano | Hinta/kk |
|---|---|---|
| RAG 1 miljoonalle dokumentille (dokumenttichatti) | VPS 32G + Qdrant + OpenAI API | alkaen 240 EUR |
| Semanttinen haku verkkokaupalle (50 000 tuotetta) | VPS 16G + pgvector + Sentence Transformers | alkaen 100 EUR |
| Llama 3 70B -inferenssi (~5 000 kyselyä/päivä) | GPU-palvelin RTX PRO 6000 + vLLM | alkaen 4 000 EUR |
| Oman OCR-mallin koulutus (konenäkö) | GPU-palvelin RTX PRO 4000 (kuukausiveloitus) | alkaen 800 EUR |
| Tuotantokäytön LLM 70B kuormantasauksella | 2× GPU-palvelin RTX PRO 6000 + Kubernetes | alkaen 8 000 EUR |
Tuotantokäytön tekoälyputki — 5 vaihetta
Näin tyypillinen tuotannon tekoälyprojekti etenee ideasta toimivaan sovellukseen. Jokaiseen vaiheeseen meillä on valmis infrastruktuuri ja toimintamallit, joita sinun ei tarvitse keksiä alusta alkaen.
Datan valmistelu
Dokumenttien indeksointi, tekstin siivous, normalisointi. Python-skriptit VPS:llä, tuloste MinIOon (S3-yhteensopiva) tai PostgreSQL:ään.
Upotusten luonti
OpenAI text-embedding-3-large, Cohere tai paikallinen malli (Sentence Transformers, BGE-M3). Upotukset tallennetaan Qdrantiin tai pgvectoriin.
Haku + RAG
FastAPI/Next.js-sovellus lähettää kysymyksen, vektoritietokanta palauttaa top-K-dokumentit ja konteksti liitetään LLM:n kehotteeseen.
LLM-inferenssi
Valitse: Claude/GPT rajapinnan kautta (nopein aloitus) tai paikallinen LLM GPU:lla (täysi hallinta, edullisempi suurella volyymilla).
Seuranta ja arviointi
Kyselyloki Lokissa, viiveet Prometheuksessa, OpenAI-kustannukset Grafanassa. Laadun arviointi LangSmithillä tai omalla vertailutestillä.
Mitä voit rakentaa
Yrityksen avustaja (RAG)
Indeksoi yrityksen dokumentit Qdrantiin, yhdistä Claude tai GPT rajapinnan kautta ja palauta kontekstia hyödyntäviä vastauksia. Lyhyt vasteaika. Monikieliset upotukset, kielellesi sovitettu tokenisoija.
Semanttinen haku
Avainsanahaun sijaan haetaan merkityksen perusteella. Verkkokauppa-asiakkaat saavat yli 30 %:n konversionoston. Taivutuskielet sujuvat luontevasti.
Omalla palvelimella isännöity LLM (Llama, Mistral)
Oma mallisi GPU-palvelimella. Dataa ei lähetetä OpenAI:lle tai Anthropicille. Täysi hallinta, GDPR-yhteensopiva. vLLM tai Ollama helpottavat inferenssiä.
Konenäkö tuotannossa
Virheiden tunnistus, OCR, kohteiden tunnistus. Kouluta omalla aineistollasi RTX PRO 6000:lla. YOLO, Detectron2, Segment Anything Model.
GDPR-vaatimustenmukaisuus tekoälysovelluksille
Tekoäly on GDPR:n kannalta herkkä alue — koulutusdata, upotukset, kyselyloki. Ratkaisumme pienentää riskiä pitämällä kaiken datan EU:ssa ja antamalla sinulle täyden hallinnan käsittelyyn.
- Kaikki data (dokumentit, upotukset, lokit) EU:n datakeskuksissa — ei siirtoja Yhdysvaltoihin, Isoon-Britanniaan tai Aasiaan
- Mahdollisuus käyttää paikallisia LLM-malleja (Llama, Mistral) OpenAI:n/Anthropicin sijaan — ei datasiirtoa Yhdysvaltoihin
- Kyselylokit säilytetään enintään 90 päivää, ja ne voi pyynnöstä poistaa aiemmin
- Upotukset ovat johdettua dataa — täydellinen poisto onnistuu indeksoimalla uudelleen lähdedatan anonymisoinnin jälkeen
- Auditointiloki jokaisesta vektoritietokannan käytöstä (kuka, milloin, mikä kysely)
- Maksuton henkilötietojen käsittelysopimus (DPA), joka täyttää GDPR:n 28 artiklan vaatimukset
Usein kysytyt kysymykset
Voinko käyttää OpenAI:ta / Anthropicia EU:ssa sijaitsevan vektoritietokannan kanssa?
Kyllä. Vektoritietokanta (Qdrant/ChromaDB) pysyy meillä EU:ssa. LLM:lle lähetetään vain top-K-konteksti ja käyttäjän kysymys. Esimerkkimme näyttävät, miten datansiirto minimoidaan.
Kuinka suuren mallin voin ajaa GPU:illanne?
Llama 3 8B / Mistral 7B toimivat sujuvasti RTX PRO 4000:lla (24 GB), joka sopii noin 14B parametriin asti oleville malleille. Llama 3 70B vaatii RTX PRO 6000:n (96 GB). Mixtral 8x22B ja suuremmat: useita GPU-palvelimia. Autamme valinnassa.
Kuinka kauan tekoälyympäristön käyttöönotto kestää?
Ympäristö on valmiiksi asennettu — CUDA, PyTorch, TF, vLLM, Ollama. Ensimmäinen inferenssi 5 minuutissa. Räätälöidyissä toteutuksissa (tietty malli, hienosäätö) tyypillisesti 1–3 tuntia avullamme.
Tuetteko omien mallien hienosäätöä?
Kyllä. RTX PRO 6000 (96 GB VRAM) hoitaa jopa 70B-mallien hienosäädön LoRA/QLoRA-menetelmillä. RTX PRO 4000 (24 GB) riittää pienten mallien kevyeeseen hienosäätöön. GPT-luokan mallien täysi koulutus ei mahdu yhdelle GPU-palvelimelle.
Voinko käyttää Pineconea, vaikka Qdrant on teillä?
Kyllä. Pinecone on ulkoinen, käytön mukaan laskutettava palvelu; Qdrant toimii omalla VPS:llä EU:ssa, data ei koskaan poistu palvelimeltasi ja kustannus on VPS:n kiinteä kuukausihinta. Hoidamme siirron Pineconesta Qdrantiin pakettiisi sisältyvillä DevOps-tunneilla.
Valitse GPU tai VPS vektoritietokannalla
GPU-palvelimet RTX PRO 4000:lla tai RTX PRO 6000:lla ja VPS valmiiksi asennetulla Qdrantilla; ajantasaiset hinnat ovat pakettisivulla. GPU:t laskutetaan kuukausi- tai vuosiveloituksella, ja mukana on 10 DevOps-tuntia kuukaudessa.
Katso GPU-paketit →