El OWASP Top 10 para LLM, aplicado a tu caso
El catálogo OWASP para aplicaciones LLM recoge los riesgos que no existían en el desarrollo web clásico: prompt injection, donde una instrucción oculta en el contenido que procesa el modelo lo hace saltarse sus reglas; manejo inseguro de las respuestas del modelo, que pueden ejecutarse o mostrarse sin validar; fuga de datos sensibles a través de lo que el modelo responde; y agentes con permisos excesivos, capaces de ejecutar acciones reales —enviar un correo, modificar un registro— sin suficiente supervisión. Revisamos tu aplicación concreta contra esta lista, no una checklist genérica, y priorizamos según qué acciones puede realmente ejecutar tu asistente.
Ataque y defensa: cómo se explota y cómo se contiene
Un atacante puede introducir una instrucción maliciosa dentro de un documento, un correo o una página web que tu asistente procese, para que actúe contra las reglas que le diste —revelar datos, ejecutar una acción no autorizada— sin que el usuario legítimo lo note. En el lado defensivo aplicamos guardarraíles de entrada y de salida: filtrado y redacción de datos personales antes de que lleguen al modelo o se muestren en la respuesta, límites de tasa contra el abuso automatizado, y control de acceso por documento en los sistemas RAG, de forma que nadie reciba fragmentos a los que no tiene derecho de acceso, aunque el modelo los tenga indexados.
Red teaming antes de producción y registro de prompts
Antes de lanzar una aplicación con IA a producción, la sometemos a red teaming con herramientas como promptfoo y garak: intentos sistemáticos de prompt injection, de extracción de instrucciones internas y de fuga de datos, documentados con resultado y corrección aplicada. Mantenemos además un registro de prompts y respuestas para poder auditar incidentes después de que ocurran, con el mismo criterio de residencia de datos en la UE que aplicamos al resto de tu infraestructura, y con conciencia de los requisitos que introduce el Reglamento europeo de IA (AI Act) según el uso de tu aplicación.
Cada suscripción incluye horas mensuales de DevOps, CyberSecurity y Programación: 1 h desde el plan cPanel Advanced, 1–8 h en VPS, entre 5 y 10 h en servidores dedicados según el plan y 10 h en servidores GPU. Las horas se solicitan desde el panel de cliente, no se acumulan al mes siguiente, y lo que supera la cuota se acepta y se factura por separado.
