Qué es RAG y por qué importa dónde vive
RAG (generación aumentada por recuperación) es la técnica que permite que un modelo de lenguaje responda usando tus documentos internos en lugar de solo lo que aprendió en su entrenamiento: contratos, manuales, tickets de soporte, políticas internas. Eso implica convertir cada documento en un vector (embedding) y buscar los más relevantes para cada pregunta. Cuando esos documentos son confidenciales, dónde se alojan la base vectorial y el modelo de embeddings deja de ser un detalle técnico y pasa a ser una decisión de cumplimiento.
- Los documentos se convierten en vectores y se indexan para búsqueda semántica
- El modelo responde combinando lo recuperado con la pregunta del usuario
- Todo el pipeline puede quedarse dentro de la UE, sin llamadas a terceros
Buenas prácticas que aplicamos
Una base vectorial sin control de acceso o sin snapshots es tan frágil como cualquier otra base de datos, solo que menos gente lo revisa porque el proyecto suele estar en fase de prueba. Aplicamos las mismas prácticas de hosting serio desde el primer despliegue, no solo cuando el proyecto pasa a producción. Revisamos snapshots y control de acceso cada vez que reservas horas DevOps para el proyecto.
- Acceso solo desde red privada, con claves de API por proyecto
- Snapshots periódicos de las colecciones
- Cuantización para reducir coste de memoria sin perder precisión relevante
- Filtrado por metadatos junto a la búsqueda vectorial
- Evaluación periódica de la calidad de recuperación, no solo de la latencia
Qdrant o ChromaDB, según tu caso
ChromaDB es sencillo de levantar y encaja bien en proyectos que empiezan o en volúmenes moderados de documentos. Qdrant está pensado para producción con más volumen: filtrado por metadatos más avanzado, mejor rendimiento con millones de vectores y opciones de cuantización para controlar el coste de memoria. Te decimos con cuál empezar según tu volumen actual de documentos y hacia dónde crece tu proyecto, sin sobredimensionar desde el primer día.
- ChromaDB: arranque rápido, volúmenes moderados
- Qdrant: producción, millones de vectores, filtrado avanzado
- Cuantización disponible en Qdrant para reducir el coste de memoria
Cómo usas las horas incluidas
Las horas DevOps son parte del abonamiento: entre 1 y 8 horas al mes en VPS, entre 5 y 10 horas al mes en dedicados según el plan y 10 horas al mes en GPU. Se solicitan desde el panel de cliente, en Servicios DevOps. Las usamos habitualmente para montar el pipeline de ingesta de documentos, ajustar la calidad de recuperación con tus propios datos de prueba o desplegar un modelo de embeddings en tu servidor GPU. Lo que supera la cuota mensual se acepta y se factura aparte.
Cada suscripción incluye horas mensuales de DevOps, CyberSecurity y Programación: 1 h desde el plan cPanel Advanced, 1–8 h en VPS, entre 5 y 10 h en servidores dedicados según el plan y 10 h en servidores GPU. Las horas se solicitan desde el panel de cliente, no se acumulan al mes siguiente, y lo que supera la cuota se acepta y se factura por separado.