RAG local con ChromaDB o Qdrant para la documentación de tu empresa: cómo alojarlo en España

Guía práctica para pymes: qué es un RAG, qué base de datos vectorial elegir, cómo dimensionarla y qué tener en cuenta con el RGPD. Datos a 30.09.2026.

Respuesta corta

1RAG (generación aumentada por recuperación) hace que un modelo de lenguaje responda con fragmentos de tus propios documentos, que una base de datos vectorial localiza por similitud.
2ChromaDB es la opción más sencilla para empezar o para un corpus moderado; Qdrant encaja mejor cuando el volumen crece y necesitas filtrado por metadatos y cuantización.
3Ambas se pueden alojar por tu cuenta en un VPS: los documentos y los vectores se quedan en un servidor que tú controlas.
4Los centros de datos de 4hosting están en la UE (Fráncfort), no en España; para el RGPD lo relevante es que se queden dentro del Espacio Económico Europeo.
5El dimensionamiento se calcula con una fórmula sencilla y lo que decide la calidad de las respuestas es la ingesta y el troceado de los documentos, no el tamaño del servidor.

Qué es RAG y por qué una pyme lo quiere en local

Un asistente que contesta sobre contratos, manuales, procedimientos internos o el histórico de tickets necesita acceso a esa documentación. En lugar de reentrenar un modelo, el RAG hace tres pasos: divide tus documentos en fragmentos, convierte cada fragmento en un vector numérico (embedding) y, ante cada pregunta, recupera los fragmentos más parecidos para pasárselos al modelo como contexto.

La base de datos vectorial es la pieza que guarda esos vectores y los busca. Alojarla tú mismo tiene una razón práctica: la documentación de una empresa suele incluir datos personales de clientes y empleados, y así sabes en qué servidor está y quién puede acceder a él.

ChromaDB o Qdrant: cuál elegir

ChromaDB es de código abierto (licencia Apache 2.0) y se puede ejecutar en modo cliente-servidor con un solo comando (chroma run --path, puerto 8000 por defecto). Es una buena elección para un prototipo, una intranet pequeña o un corpus de miles de documentos.

Qdrant se despliega con Docker (puertos 6333 para REST y 6334 para gRPC, datos en /qdrant/storage) y ofrece cuantización: la escalar comprime cada componente de 32 a 8 bits, con una reducción de memoria de 4 veces, y la binaria llega según su documentación hasta 32 veces, a costa de una pequeña pérdida de precisión. Suele ser la mejor opción cuando el volumen crece o necesitas filtrar por metadatos, por ejemplo por departamento o por cliente.

Cómo dimensionar el servidor

La memoria mínima para los vectores se estima así: número de fragmentos × dimensiones del embedding × 4 bytes (float32). Con 100.000 fragmentos y un modelo de 384 dimensiones son unos 154 MB; con un millón de fragmentos, unos 1,5 GB. A eso súmale el índice, los metadatos, el sistema y el margen para picos.

Si generas los embeddings en tu propio servidor, cuenta también con CPU o GPU para ese proceso; si usas la API de un tercero, cada fragmento enviado sale de tu infraestructura y debe constar en tu registro de tratamientos.

Privacidad y RGPD: lo que sí y lo que no resuelve el hosting

El Reglamento (UE) 2016/679 se aplica directamente en España y la Ley Orgánica 3/2018 (LOPDGDD) lo completa; la autoridad de control es la AEPD. Si un proveedor trata datos por tu cuenta, el artículo 28 del RGPD exige un contrato de encargado del tratamiento, y el artículo 32 obliga a aplicar medidas de seguridad adecuadas. Si el tratamiento entraña un riesgo alto para las personas, puede ser necesaria una evaluación de impacto (artículo 35).

Alojar en la UE evita una transferencia internacional (artículos 44 a 46), pero solo para ese servidor: el modelo de lenguaje o la API de embeddings que uses pueden estar fuera y necesitan su propio análisis. Además, un servidor en la UE no hace que tu tratamiento cumpla el RGPD por sí solo; la responsabilidad sigue siendo tuya como responsable.

Dos situaciones reales

Despacho profesional con archivo de consultas

Un despacho indexa sus informes y circulares para que el equipo busque criterios anteriores. Empieza con ChromaDB en un VPS, guarda las copias del directorio de datos y restringe el acceso a su red interna.

Tienda online con catálogo y soporte

Una tienda indexa fichas técnicas y respuestas de atención al cliente para un asistente de soporte. Con un catálogo grande y filtros por marca o categoría, Qdrant con metadatos facilita las consultas acotadas.

Errores frecuentes

Trocear los documentos sin criterio: fragmentos demasiado grandes o cortados a mitad de una idea empeoran la recuperación más que un servidor pequeño.
Dejar la base vectorial abierta a internet. Qdrant, por defecto, arranca sin cifrado ni autenticación según su propia documentación: configura acceso restringido o clave de API antes de producción.
No hacer copias de seguridad ni probar una restauración: los vectores se pueden regenerar, pero reindexar todo cuesta tiempo y dinero.
Olvidar el resto de la cadena: el modelo de lenguaje, la API de embeddings y los registros también tratan tus datos.

Cómo te ayuda 4hosting

Puedes alojar ChromaDB o Qdrant en un VPS con acceso root, Docker y discos NVMe, o en un servidor dedicado si el volumen lo pide. Los centros de datos están en Fráncfort, dentro de la UE, y ofrecemos un contrato de encargado del tratamiento conforme al art. 28 del RGPD.

Cada abono incluye horas mensuales de DevOps que se piden desde el panel de cliente; las horas no se acumulan y lo que exceda la cuota se factura aparte. Con ellas podemos ayudarte a desplegar la base vectorial, configurar el acceso y las copias, y probar la calidad de la recuperación. Los detalles están en el servicio ChromaDB y Qdrant.

4hosting no certifica el cumplimiento normativo de tu tratamiento de datos; esa responsabilidad es tuya como responsable. Si necesitas medidas técnicas concretas, consulta el servicio de hardening y alineación normativa.

Preguntas frecuentes

¿Necesito una GPU para montar un RAG?

No siempre. La búsqueda vectorial funciona en CPU. La GPU solo es útil si generas los embeddings o ejecutas el modelo de lenguaje en tu propio servidor.

¿Dónde están los servidores de 4hosting?

En la UE, en Fráncfort; no en España. 4hosting ofrece un contrato de encargado del tratamiento (art. 28 RGPD), pero no certifica el cumplimiento de tu tratamiento.

¿Ofrecéis una base de datos vectorial gestionada?

No como producto. Ofrecemos VPS o servidores dedicados y un servicio DevOps de ChromaDB y Qdrant, dentro de las horas incluidas en el abono, que se piden desde el panel de cliente.