Red teaming e hardening para aplicações LLM, agentes de IA e a infraestrutura que os suporta — por engenheiros que também constroem e operam sistemas de IA em produção.
De confiança em toda a Europa
Equipas de engenharia em setores regulados e críticos — cada projeto auditado, documentado e levado a nível de produção.
Infraestrutura de pagamentos e core bancário em conformidade com PCI-DSS — latência p99 abaixo de 100 ms, registo de auditoria ponta a ponta e tokenização no edge.
Pipelines de dados de doentes alinhados com HIPAA
Observabilidade do core 5G à escala
99,99% de disponibilidade em picos de tráfego
Cloud soberana com registo de auditoria completo
Rastreio de frotas em tempo real e ingestão IoT
O que entregamos
Do prompt à GPU: a aplicação, o agente, o modelo, os dados e a plataforma onde tudo corre.
Testamos a aplicação à volta do modelo como um atacante faria: prompt injection direta, injeção indireta escondida em documentos, páginas web e respostas de ferramentas, jailbreaks, fuga do system prompt, output do modelo que chega a HTML, SQL ou a uma shell sem validação e exfiltração de dados através do modelo — incluindo imagens e links markdown que enviam dados para o servidor de um atacante. O OWASP Top 10 para aplicações LLM é o ponto de partida, não o teto.
OWASP Top 10 para aplicações LLM · injeção direta e indiretaUm agente é tão seguro quanto aquilo que lhe é permitido fazer. Definimos o seu âmbito, aplicamos o privilégio mínimo a cada ferramenta e conector — servidores MCP, function calling, tokens de API —, exigimos aprovação humana para as ações sensíveis, isolamos a execução de código num sandbox e tratamos o conteúdo que o agente lê (emails, tickets, páginas web) como não confiável, para que uma instrução escondida nele não consiga desencadear uma ação sensível sem aprovação — e testamos que assim é.
Ferramentas com privilégio mínimo · MCP · aprovação humanaTestes adversariais a modelos e aplicações de IA: contorno de guardrails, extração de dados de treino, abuso de ferramentas, conteúdo proibido e respostas erradas dadas com toda a confiança onde os utilizadores vão agir com base nelas. Funciona como um pentest com técnicas próprias — e como o output do modelo não é determinístico, cada ataque é repetido e reportado com a frequência com que tem sucesso.
Mapeado no MITRE ATLAS · transcrições reproduzíveisOs modelos e os datasets são código que não escreveste. Verificamos a sua proveniência e integridade: pesos descarregados de hubs públicos, ficheiros pickle que podem executar código ao serem carregados (passamos-te para safetensors sempre que possível), datasets envenenados, dependências de ML vulneráveis, assinatura de artefactos e quem pode publicar ou descarregar do teu registo de modelos.
Proveniência · safetensors · artefactos assinadosOs dados sensíveis nunca deviam chegar por acidente ao treino, ao fine-tuning ou à recuperação. Revemos o que entra em cada etapa, aplicamos controlo de acesso por documento no RAG para que o assistente só recupere o que o utilizador pode ver, protegemos os vector stores e os embeddings, e mantemos os dados pessoais fora dos logs de prompts.
Acesso por documento no RAG · vector stores · RGPDSegurança cloud e de Kubernetes aplicada a cargas de IA: clusters de GPU, endpoints de inferência, notebooks expostos, pipelines de MLOps e os segredos que transportam — incluindo as API keys dos fornecedores de modelos. O mesmo hardening de plataforma que aplicamos aos sistemas em produção, adaptado à forma como as equipas de ML trabalham de facto.
Kubernetes · endpoints de inferência · gestão de segredosControlos que continuam a funcionar depois do lançamento: filtros de input e output, deteção de abuso, limites de pedidos e de gastos contra o denial of wallet, registo de cada interação com o modelo e de cada chamada a ferramentas, e um playbook de resposta a incidentes de IA para que a tua equipa saiba o que fazer quando um jailbreak se torna público.
Filtros de input e output · rate limiting · resposta a incidentes de IAOs nossos engenheiros analisam a tua configuração atual e entregam um roteiro priorizado — sem compromisso.
As quatro situações em que uma revisão de segurança de IA se paga mais depressa.
Estás prestes a pôr um chatbot, um copiloto ou uma pesquisa com IA à frente dos teus clientes. Fazemos-lhe red teaming antes do lançamento, para que o primeiro jailbreak seja o nosso e não uma captura de ecrã nas redes sociais.
Os teus agentes leem emails, tickets ou páginas web e podem agir no teu CRM, no teu código ou na tua cloud. Delimitamos o que podem fazer, reduzimos as suas permissões ao mínimo e testamos se um conteúdo hostil consegue tomar o controlo.
Construíste um assistente RAG sobre contratos, processos de RH ou a wiki da empresa. Verificamos que só recupera o que cada utilizador pode ver e que nada sensível é exposto através dos prompts ou dos logs.
Fazes fine-tuning ou alojas modelos open-weight nas tuas próprias GPU. Protegemos a cadeia de abastecimento, os pipelines, os notebooks e os endpoints de inferência à volta deles.
O modelo é apenas um componente. Testamo-lo em conjunto com o system prompt, a camada de recuperação, as ferramentas que pode chamar e o que a tua aplicação faz com o seu output — é aí que acontecem os incidentes reais. Cada achado inclui transcrições, uma taxa de sucesso e uma correção.
A segurança aplicacional clássica assume que o código faz aquilo para que foi escrito. Um LLM faz aquilo que o seu input o convence a fazer — por isso os controlos têm de assumir que, mais cedo ou mais tarde, uma injeção vai passar. Desenhamos para esse cenário e testamos que o desenho aguenta.
Vês como o teu sistema de IA falha sob ataque antes dos teus clientes ou dos atacantes, com cada achado reproduzível.
O privilégio mínimo, as portas de aprovação e os controlos de saída limitam o que uma injeção bem-sucedida consegue alcançar.
Os achados mapeados no OWASP e no MITRE ATLAS dão suporte aos questionários de segurança, à ISO/IEC 42001 e aos requisitos de robustez e cibersegurança do EU AI Act para sistemas de risco elevado.
Mapeamos os modelos, os prompts, as fontes de dados, as ferramentas e os utilizadores, e construímos um modelo de ameaças com o MITRE ATLAS.
Red teaming manual apoiado em testes automatizados, contra a aplicação, o agente e a infraestrutura por baixo.
Achados com transcrições, taxas de sucesso e severidade, mapeados no OWASP Top 10 para aplicações LLM e no MITRE ATLAS.
Corrigimos em conjunto com a tua equipa: permissões, guardrails, regras de acesso a dados, controlos de pipeline e de infraestrutura.
Voltamos a correr os ataques contra as correções e configuramos logs e alertas para o que acontece em produção.
Da primeira chamada à produção — um modelo de colaboração comprovado em 4 passos que mantém a conversa transparente e a velocidade honesta.
Auditamos o teu stack atual, identificamos lacunas e alinhamos os objetivos de negócio.
Um roteiro detalhado com prioridades, estimativas de esforço e quick wins.
Os nossos engenheiros integram-se na tua equipa e executam sprint a sprint.
Monitorização contínua, otimização e transferência de conhecimento para a tua equipa.
Práticas adjacentes que combinam bem com esta — a maioria dos projetos junta duas ou três.
Respostas práticas sobre âmbito, prazos e como costumam ser os projetos com a nossa equipa de Segurança de IA.
Quer estejas a começar do zero ou a escalar o que já tens, os nossos engenheiros estão prontos para ajudar.