Tu IA obedece órdenes.
Asegúrate de que sean las tuyas.

Probamos la aplicación que rodea al modelo como lo haría un atacante: prompt injection directa, inyección indirecta escondida en documentos, páginas web y respuestas de herramientas, jailbreaks, filtración del system prompt, salida del modelo que llega a HTML, SQL o una shell sin validar y exfiltración de datos a través del modelo — incluidas imágenes y enlaces markdown que envían datos al servidor de un atacante. El OWASP Top 10 para aplicaciones LLM es el punto de partida, no el techo.

Un agente es tan seguro como lo que se le permite hacer. Definimos su alcance, aplicamos el mínimo privilegio a cada herramienta y conector — servidores MCP, function calling, tokens de API —, exigimos aprobación humana para las acciones sensibles, aislamos la ejecución de código en un sandbox y tratamos el contenido que lee el agente (correos, tickets, páginas web) como no confiable, para que una instrucción oculta en él no pueda disparar una acción sensible sin aprobación — y probamos que así sea.

Pruebas adversarias de modelos y aplicaciones de IA: evasión de guardrails, extracción de datos de entrenamiento, abuso de herramientas, contenido prohibido y respuestas erróneas dadas con total seguridad allí donde los usuarios van a actuar sobre ellas. Funciona como un pentest con técnicas propias — y como la salida del modelo no es determinista, cada ataque se repite y se reporta con la frecuencia con la que tiene éxito.

Los modelos y los datasets son código que no has escrito tú. Comprobamos su procedencia e integridad: pesos descargados de hubs públicos, archivos pickle que pueden ejecutar código al cargarse (te pasamos a safetensors siempre que sea posible), datasets envenenados, dependencias de ML vulnerables, firma de artefactos y quién puede subir o descargar de tu registro de modelos.

Los datos sensibles nunca deberían llegar por accidente al entrenamiento, al fine-tuning ni a la recuperación. Revisamos qué entra en cada etapa, aplicamos control de acceso por documento en RAG para que el asistente solo recupere lo que el usuario puede ver, protegemos los vector stores y los embeddings, y mantenemos los datos personales fuera de los logs de prompts.

Seguridad cloud y de Kubernetes aplicada a cargas de IA: clústeres de GPU, endpoints de inferencia, notebooks expuestos, pipelines de MLOps y los secretos que manejan — incluidas las API keys de los proveedores de modelos. El mismo hardening de plataforma que aplicamos a los sistemas en producción, adaptado a cómo trabajan de verdad los equipos de ML.

Controles que siguen funcionando después del lanzamiento: filtros de entrada y salida, detección de abuso, límites de peticiones y de gasto contra el denial of wallet, registro de cada interacción con el modelo y de cada llamada a herramientas, y un playbook de respuesta a incidentes de IA para que tu equipo sepa qué hacer cuando un jailbreak se hace público.