AvadLabs Agent Control Framework
Os 12 controles que aplicamos em todo agente que colocamos em produção. Use como checklist para os seus projetos ou para avaliar qualquer fornecedor, inclusive nós.
Saber o que existe
Inventário e dados: nenhum agente sem dono, nenhum dado sem motivo.
- AC-01
Inventário de agentes
Saber quais agentes existem, quem responde por eles e o que fazem.
Como aplicamos- Registro de cada agente com dono, finalidade, modelo, ferramentas e dados acessados
- Revisão do inventário a cada mudança relevante
EvidênciaInventário versionado
- AC-12
Dados e retenção
O agente guarda só o necessário, pelo tempo necessário.
Como aplicamos- Minimização e mascaramento de dados pessoais
- Prazo de retenção definido
- Base legal mapeada conforme a LGPD
EvidênciaMapa de dados do agente
Limitar o que o agente faz
Permissões, aprovação, isolamento e segredos.
- AC-02
Permissão mínima
O agente acessa somente o que o processo exige.
Como aplicamos- Credencial própria por agente, nunca a de uma pessoa
- Escopos de leitura e escrita separados
- Ferramentas liberadas por lista explícita
EvidênciaPolítica de permissões versionada
- AC-03
Aprovação humana
Ações de valor, irreversíveis ou com impacto externo esperam uma pessoa.
Como aplicamos- Limites por tipo de ação: valor, destinatário e volume
- Fila de aprovação com o contexto da decisão
- Negação registrada com motivo
EvidênciaRegistro de aprovações e negações
- AC-06
Isolamento de ferramentas
Uma ferramenta comprometida não alcança o restante do ambiente.
Como aplicamos- Execução isolada e acesso de rede restrito
- Validação de parâmetros antes de executar
- Respostas de ferramentas tratadas como dados não confiáveis
EvidênciaDiagrama de arquitetura e testes de isolamento
- AC-07
Segredos fora do código
Credenciais nunca aparecem em código, prompt ou log.
Como aplicamos- Cofre de segredos ou variáveis protegidas
- Rotação periódica
- Mascaramento automático em logs
EvidênciaVarredura de segredos no repositório e nos logs
Resistir a ataques e erros
Injeção de prompt, custos e mudanças sem revisão.
- AC-05
Defesa contra injeção de prompt
Conteúdo externo nunca vira instrução para o agente.
Como aplicamos- Separação entre instruções e dados processados
- Ferramentas sensíveis indisponíveis ao processar conteúdo não confiável
- Testes adversariais antes de cada lançamento
EvidênciaRelatório de testes adversariais
- AC-09
Limites de custo e volume
Um erro não vira uma conta inesperada.
Como aplicamos- Orçamento por agente
- Limite de chamadas por período
- Alertas e corte automático
EvidênciaPainel de custos e registro de alertas
- AC-10
Revisão antes de publicar
Nenhuma mudança vai ao ar sem teste e revisão humana.
Como aplicamos- Ambientes separados de desenvolvimento, homologação e produção
- Revisão de código e de prompt
- Avaliação aprovada como pré-requisito
EvidênciaRegistro de mudanças com aprovador
Provar e corrigir
Auditoria, avaliação contínua e resposta a incidentes.
- AC-04
Trilha de auditoria
Reconstruir o que o agente viu, decidiu e executou.
Como aplicamos- Log estruturado de entradas, chamadas de ferramenta, saídas e decisões
- Registro protegido contra alteração
- Retenção definida
EvidênciaConsulta da trilha por sessão
- AC-08
Avaliação contínua
A qualidade é medida antes e depois de cada mudança.
Como aplicamos- Suíte de casos reais com critérios de aceite
- Execução a cada mudança de modelo, prompt ou ferramenta
- Bloqueio de publicação quando a avaliação falha
EvidênciaHistórico de avaliações
- AC-11
Resposta a incidentes
Saber parar, investigar e corrigir rápido.
Como aplicamos- Desligamento imediato por agente
- Procedimento com severidades e prazos
- Análise pós-incidente com ações registradas
EvidênciaProcedimento de incidente e relatórios
O que pedir a qualquer fornecedor de agentes
Para cada item, peça a evidência correspondente. Uma resposta sem evidência é uma intenção, não um controle.
- AC-01Saber quais agentes existem, quem responde por eles e o que fazem.Inventário versionado
- AC-02O agente acessa somente o que o processo exige.Política de permissões versionada
- AC-03Ações de valor, irreversíveis ou com impacto externo esperam uma pessoa.Registro de aprovações e negações
- AC-04Reconstruir o que o agente viu, decidiu e executou.Consulta da trilha por sessão
- AC-05Conteúdo externo nunca vira instrução para o agente.Relatório de testes adversariais
- AC-06Uma ferramenta comprometida não alcança o restante do ambiente.Diagrama de arquitetura e testes de isolamento
- AC-07Credenciais nunca aparecem em código, prompt ou log.Varredura de segredos no repositório e nos logs
- AC-08A qualidade é medida antes e depois de cada mudança.Histórico de avaliações
- AC-09Um erro não vira uma conta inesperada.Painel de custos e registro de alertas
- AC-10Nenhuma mudança vai ao ar sem teste e revisão humana.Registro de mudanças com aprovador
- AC-11Saber parar, investigar e corrigir rápido.Procedimento de incidente e relatórios
- AC-12O agente guarda só o necessário, pelo tempo necessário.Mapa de dados do agente
Quer aplicar o framework nos seus agentes?
O Agent Security Review avalia agentes e copilotos em uso contra estes 12 controles e entrega um plano de correção priorizado.
Respondemos em até 1 dia útil.