Infraestructura de IA lista para producción
Las bases de datos vectoriales y los servidores GPU son los dos pilares de los stacks de IA modernos. Tenemos ambos. Qdrant o ChromaDB para embeddings, RAG y búsqueda semántica; servidores GPU para entrenar, ajustar y ejecutar la inferencia de tus propios modelos. Tus datos permanecen en la UE, las facturas llevan IVA de la UE con inversión del sujeto pasivo B2B y el cumplimiento del RGPD está presente desde el primer minuto.
Bases de datos vectoriales: RAG, embeddings, búsqueda
Las bases de datos vectoriales son la base de las aplicaciones con LLM. Almacenan los embeddings de los documentos y encuentran similitudes en milisegundos. Elige la que prefieras: las alojamos todas en la UE con factura con IVA de la UE. Cada una incluye un cliente de Python preinstalado y notebooks de Jupyter de ejemplo.
Qdrant
Basada en Rust, de alto rendimiento y lista para producción. Ideal para aplicaciones RAG con millones de embeddings. Índice HNSW, filtrado por metadatos, snapshots.
ChromaDB
La base de datos vectorial más fácil de usar. Perfecta para prototipos y aplicaciones de IA pequeñas. Pensada primero para Python, con embeddings automáticos de OpenAI o Sentence Transformers.
Weaviate
Esquema de datos con metadatos. Búsqueda híbrida (vectorial + filtro por etiquetas). Módulos de IA generativa integrados, API GraphQL.
pgvector
Extensión de PostgreSQL. Si ya usas Postgres, añade vectores sin una base de datos nueva. Integración total con tus tablas existentes y con las transacciones SQL.
Servidores GPU: RTX PRO 4000 y RTX PRO 6000
Tarjetas NVIDIA profesionales con un entorno CUDA listo. Para fine-tuning, inferencia de LLM, visión artificial y renderizado 3D. Facturación mensual o anual, con 10 horas de DevOps incluidas cada mes. Todas las GPU llevan preinstalados CUDA 12.4, cuDNN 9, PyTorch 2.4, TensorFlow 2.18, JAX y Hugging Face Transformers.
Coste de cargas de trabajo de IA típicas
Escenarios de ejemplo y su coste mensual en nuestra infraestructura. Los precios se leen en directo de nuestros planes actuales, sin IVA. Frente a las tarifas de OpenAI / AWS Bedrock / Anthropic, en muchos casos la infraestructura propia se amortiza a partir de 50-100k solicitudes al mes.
| Carga de trabajo de IA | Configuración | Coste/mes |
|---|---|---|
| RAG para 1M de documentos (chat con documentos) | VPS 32G + Qdrant + API de OpenAI | desde 240 EUR |
| Búsqueda semántica para una tienda (50k SKU) | VPS 16G + pgvector + Sentence Transformers | desde 100 EUR |
| Inferencia de Llama 3 70B (~5k consultas/día) | Servidor GPU RTX PRO 6000 + vLLM | desde 4000 EUR |
| Entrenamiento de tu propio modelo de OCR (CV) | Servidor GPU RTX PRO 4000 (mensual) | desde 800 EUR |
| LLM 70B en producción con balanceo de carga | 2× servidor GPU RTX PRO 6000 + Kubernetes | desde 8000 EUR |
Pipeline de IA en producción: 5 etapas
Así es un proyecto de IA típico en producción, desde la idea hasta la aplicación en marcha. Para cada etapa tenemos infraestructura y patrones listos, para que no tengas que inventarlo todo desde cero.
Preparación de datos
Indexación de documentos, limpieza de texto, normalización. Scripts de Python en un VPS, con salida a MinIO (compatible con S3) o a PostgreSQL.
Generación de embeddings
OpenAI text-embedding-3-large, Cohere o un modelo local (Sentence Transformers, BGE-M3). Los embeddings se escriben en Qdrant o pgvector.
Recuperación + RAG
Una aplicación FastAPI/Next.js envía una pregunta, la base vectorial devuelve los top-K documentos y el contexto se añade al prompt del LLM.
Inferencia del LLM
Elige: Claude/GPT por API (el arranque más rápido) o un LLM local en GPU (control total, menor coste a gran escala).
Monitorización y evaluación
Registros de consultas en Loki, latencias en Prometheus, coste de OpenAI en Grafana. Evaluación de calidad con LangSmith o tu propio benchmark.
Qué puedes construir
Asistente de empresa (RAG)
Indexa los documentos de la empresa en Qdrant, conecta Claude o GPT por API y obtén respuestas con contexto. Baja latencia de respuesta. Embeddings multilingües, tokenizador ajustado a tu idioma.
Búsqueda semántica
En lugar de buscar por palabras clave, busca por significado. Los clientes de comercio electrónico ven un aumento de conversión superior al 30 %. Maneja bien los idiomas con flexión.
LLM alojado (Llama, Mistral)
Tu propio modelo en un servidor GPU. Sin enviar datos a OpenAI/Anthropic. Control total, conforme al RGPD. vLLM u Ollama para una inferencia sencilla.
Visión artificial en producción
Detección de defectos, OCR, reconocimiento de objetos. Entrena con tu propio conjunto de datos en una RTX PRO 6000. YOLO, Detectron2, Segment Anything Model.
Cumplimiento del RGPD para aplicaciones de IA
La IA es un terreno sensible para el RGPD: datos de entrenamiento, embeddings, registros de consultas. Nuestra solución minimiza el riesgo manteniendo todos los datos en la UE y dándote control total sobre el tratamiento.
- Todos los datos (documentos, embeddings, registros) en centros de datos de la UE: sin transferencia a EE. UU., el Reino Unido ni Asia
- Posibilidad de usar LLM locales (Llama, Mistral) en lugar de OpenAI/Anthropic: sin transferencia de datos a EE. UU.
- Registros de consultas conservados como máximo 90 días, con eliminación anticipada bajo petición
- Los embeddings son datos derivados: es posible su eliminación total reindexando tras anonimizar la fuente
- Registro de auditoría de cada acceso a la base vectorial (quién, cuándo, qué consulta)
- Contrato de encargado del tratamiento (DPA) gratuito conforme al artículo 28 del RGPD
Preguntas frecuentes
¿Puedo usar OpenAI / Anthropic con una base vectorial en la UE?
Sí. Mantienes la base vectorial (Qdrant/ChromaDB) con nosotros, en la UE. Al LLM solo le envías el contexto top-K y la pregunta del usuario. Nuestros ejemplos muestran cómo minimizar la transferencia de datos.
¿De qué tamaño puede ser el modelo que ejecute en vuestras GPU?
Llama 3 8B / Mistral 7B funcionan con fluidez en la RTX PRO 4000 (24 GB), adecuada para modelos de hasta unos 14B de parámetros. Llama 3 70B necesita la RTX PRO 6000 (96 GB). Mixtral 8x22B y mayores: varios servidores GPU. Te ayudamos a elegir.
¿Cuánto tarda la puesta en marcha del entorno de IA?
El entorno viene preinstalado: CUDA, PyTorch, TF, vLLM, Ollama. Primera inferencia en 5 minutos. Para configuraciones a medida (un modelo concreto, fine-tuning) suele llevar de 1 a 3 horas con nuestra ayuda.
¿Admitís el fine-tuning de modelos propios?
Sí. La RTX PRO 6000 (96 GB de VRAM) permite el fine-tuning de modelos de hasta 70B con LoRA/QLoRA. La RTX PRO 4000 (24 GB) cubre el fine-tuning ligero de modelos pequeños. El entrenamiento completo de modelos de clase GPT no cabe en un único servidor GPU.
¿Puedo usar Pinecone si Qdrant lo tengo con vosotros?
Sí. Pinecone es un servicio externo que se factura por uso; Qdrant se ejecuta en tu propio VPS en la UE, los datos nunca salen de tu servidor y el coste es el precio mensual fijo del VPS. Nos encargamos de la migración de Pinecone a Qdrant con tus horas de DevOps incluidas.
Elige una GPU o un VPS con base de datos vectorial
Servidores GPU con RTX PRO 4000 o RTX PRO 6000 y VPS con Qdrant preinstalado; los precios actuales están en la página de planes. GPU con facturación mensual o anual, con 10 horas de DevOps al mes.
Ver planes GPU →