Time autônomo apaga histórico, prompt o ressuscita e expõe falha da confiança zero

Tema: Agentes de IA

Um time de agentes autônomos de inteligência artificial recebe a ordem de apagar registros históricos para não enviesar decisões futuras. Um prompt posterior, porém, pode fazer o sistema ressuscitar justamente a informação que deveria ter desaparecido — e, pior, ser induzido a revelar mais do que o previsto. O cenário, descrito como hipótese pelo pesquisador Vishal Sharma no IEEE Spectrum, em artigo de novembro de 2026, é apresentado como "um caso clássico de ataque de recuperação de contexto" e leva a duas perguntas incômodas: como saber que um agente cumpriu as instruções que recebeu e onde está a prova disso [1]. A resposta proposta — aplicar arquiteturas de confiança zero (zero-trust) à orquestração de agentes — esbarra, segundo o próprio autor, em um problema de regressão infinita: o componente que fiscaliza a confiança também precisa ser confiável [1].

O cenário que virou problema de segurança

Sharma descreve equipes ao redor do mundo montando forças-tarefa de agentes supervisionados por um orquestrador, com aplicações voltadas a avaliação de risco, perfilamento de clientes, match making e obtenção de informação, com uma camada leve de apoio à decisão [1]. Nesse desenho, um dos requisitos centrais é controlar o histórico: manter os registros sob gestão e impedir que relevância histórica contamine decisões futuras, evitando que o sistema convirja sempre para as mesmas escolhas. A solução adotada são checkpoints — pontos em que o agente é instruído a apagar aquela bagagem [1].

O problema é que a instrução de apagar não é uma garantia técnica. Um prompt futuro pode levar o agente a trazer de volta a informação que deveria ter sido eliminada, e a ser induzido a revelar mais do que o previsto. É o que o autor classifica como ataque de recuperação de contexto [1]. A falha não está no checkpoint em si, mas na assimetria entre a intenção de quem projetou o fluxo e o comportamento efetivo de um modelo que opera por instruções em linguagem natural — e que, portanto, pode ser convencido a fazer o contrário.

Daí as duas perguntas que estruturam o artigo: como confiar que nossas instruções foram seguidas e onde está a prova de que foram [1]. Não se trata de um exercício filosófico. Em sistemas que executam pagamentos, classificam clientes ou acionam ferramentas corporativas, "confiar" é o nome que se dá à ausência de evidência auditável.

Do perímetro à desconfiança sistemática: a herança do NIST

A proposta de Sharma é recorrer a arquiteturas de confiança zero (ZTA) para orquestrar e gerenciar a atividade dos agentes, aplicando o princípio de "nunca confie, sempre verifique" a todas as interações [1]. O conceito não é novo. A referência canônica é a publicação especial NIST SP 800-207, de 2020, que define ZTA como o uso dos princípios de confiança zero para planejar infraestrutura e fluxos de trabalho corporativos, partindo da premissa de que não existe confiança implícita concedida a ativos ou contas de usuário com base apenas em sua localização física ou de rede [2].

Na prática, o modelo desloca a decisão de acesso para um plano de controle. O motor de políticas (policy engine) avalia políticas, sinais e contexto de identidade para decidir se o acesso é concedido, negado ou revogado, enquanto o policy enforcement point (PEP) aplica essa decisão entre o requisitante e o recurso [3]. Cabe ao administrador de políticas transformar a política em ações que possam ser auditadas e repetidas [3]. Historicamente, o desenho nasceu para lidar com pessoas, dispositivos e cargas de trabalho pedindo acesso a aplicações — sujeitos cujo comportamento é, em alguma medida, previsível e cuja identidade pode ser verificada por credenciais.

Agentes de IA mudam a natureza do "sujeito". Eles não apenas pedem acesso: decidem, no curso da execução, quais ferramentas acionar, em que ordem e com quais dados. É essa autonomia que faz a arquitetura de confiança zero ser simultaneamente a resposta mais citada e a mais difícil de implementar no contexto agentic.

O paradoxo do PEP: quem verifica o verificador?

O ponto mais afiado do artigo está na crítica interna ao modelo. Sharma observa que os componentes de uma ZTA incluem um policy enforcement point que precisa ser confiável para manter a confiança em todo o sistema — e então pergunta onde está, afinal, o componente de confiança zero, e se deveríamos confiar nas políticas aplicadas pelo PEP [1].

O impasse tem a forma de uma regressão: se toda decisão precisa ser verificada, o verificador também precisa. Na descrição do modelo do NIST, o PEP é a fronteira que aplica a decisão entre requisitante e recurso [3] — ou seja, ele é, por construção, uma âncora de confiança dentro do perímetro corporativo, e não uma entidade externa verificada a cada consulta. Aplicar ZTA a agentes sem explicitar esse limite pode produzir a aparência de verificação contínua sem a substância: políticas aplicadas por software que ninguém audita de forma independente.

Há um contraponto relevante. A arquitetura de confiança zero nunca prometeu eliminar âncoras de confiança; prometeu reduzir a superfície em que confiança implícita é concedida, tornando decisões auditáveis e repetíveis [2][3]. O que o caso dos agentes expõe é que a lista de sujeitos e de recursos mudou mais rápido do que a de mecanismos de prova. Quando o sujeito é um modelo que pode ser convencido por um prompt, o PEP deixa de ser apenas um ponto de aplicação de política e passa a ser o único registro entre a intenção humana e o efeito no mundo real.

Enquanto o debate conceitual avança, os atacantes já operam

O risco descrito no IEEE Spectrum não é hipotético em termos de classe de ataque. A Unit 42, equipe de inteligência de ameaças da Palo Alto Networks, documenta duas frentes diretas contra agentes: o uso indevido de ferramentas, em que atacantes manipulam o agente — muitas vezes por meio de prompts enganosos — para abusar das ferramentas integradas a ele, e o roubo de credenciais do agente, que permite acessar ferramentas, dados ou sistemas sob uma identidade falsa [4].

A escala também já aparece em investigações de campo. A Unit 42 relatou estar investigando um ataque a um de seus clientes no qual o invasor usou um framework agêntico para explorar 50 aplicações [5]. Do lado da eficácia ofensiva, o Center for AI Standards and Innovation (CAISI), do NIST, verificou em avaliação de laboratório divulgada em janeiro de 2025 que novos ataques elevaram a taxa de sucesso de sequestro de agentes (agent hijacking) de 11% para 81% [6].

Vale a ressalva metodológica: resultados de laboratório medem vulnerabilidade em condições controladas, não incidência no mundo real, e relatórios de fornecedores de segurança têm incentivo comercial para enfatizar o risco. Ainda assim, a convergência entre pesquisa acadêmica, laboratório governamental e resposta a incidentes aponta na mesma direção — a de que a superfície de ataque cresceu junto com a autonomia.

Adoção acelerada, controle parcial

Os números de adoção ajudam a dimensionar a urgência. Levantamentos compilados sobre o tema indicam que, em pesquisa da PwC de junho de 2025, 79% dos executivos disseram que suas empresas já adotavam agentes de IA, ao mesmo tempo em que a Gartner projetou, também em 2025, que mais de 40% dos projetos de IA agêntica serão cancelados até o fim de 2027 [7]. Ou seja, a expansão convive com alto índice de frustração e recuo.

O dado mais revelador, porém, é o da cobertura de controle. Segundo o relatório State of AI Agent Security 2026, em média apenas 47,1% dos agentes de IA de uma organização são ativamente monitorados ou protegidos, e somente 14,4% das organizações têm aprovação completa de segurança para toda a sua frota de agentes [8]. A assimetria é o cerne do problema: mais da metade dos agentes em produção fica fora do alcance daquele PEP que, na arquitetura de confiança zero, deveria aplicar as políticas.

A percepção dos profissionais acompanha esse descompasso. Numa enquete com leitores do site Dark Reading, 48% dos profissionais de segurança apontaram a IA agêntica como o principal vetor de ataque para 2026 [9]. Há aqui uma tensão analítica: se o vetor é reconhecido por quase metade dos respondentes, mas menos da metade dos agentes é monitorada, o gargalo não é falta de awareness, e sim de instrumentação — inventário de agentes, identidade por ação e trilha de auditoria por execução.

Rastreabilidade como prova: o que um log imutável resolve

Parte da resposta proposta passa por rastreabilidade. Sharma trata a confiança como base para a rastreabilidade e aponta a tecnologia de registro distribuído (distributed ledger) como forma de garantir rastreabilidade e imutabilidade — ao mesmo tempo em que alerta que, quando há falha, todo o ecossistema pode ficar exposto [1].

A ideia tem mérito e limite claros. Um registro imutável resolve o problema de adulteração retroativa: prova que determinado agente executou determinada ação em determinado momento. Não resolve o problema de legitimidade: prova que a ação ocorreu, não que ela deveria ter ocorrido. E há um conflito conceitual embutido no caso descrito por Sharma. Se o fluxo exige que o agente apague relevância histórica para não enviesar decisões [1], então parte da memória do sistema é destruída por design — exatamente o tipo de informação que uma auditoria gostaria de inspecionar depois de um incidente.

O caminho técnico que emerge da comparação entre as fontes é menos espetacular do que a promessa do registro distribuído e mais exigente: identidade própria para cada agente, credenciais efêmeras para reduzir o impacto do roubo de credenciais descrito pela Unit 42 [4], autorização por ação em vez de por sessão, e pontos de escalonamento humano quando o agente se aproxima de operações sensíveis. Nada disso elimina a pergunta de Sharma — apenas a desloca para um lugar onde ela pode ser respondida com evidência: o registro de cada decisão de política aplicada, com o agente, a ferramenta e o dado envolvidos.

O que observar a seguir

O artigo de Sharma é assinado por um Reader da Queen's University Belfast — instituição que patrocina a publicação no IEEE Spectrum, detalhe de transparência que vale registrar: trata-se de conteúdo patrocinado por uma universidade, não de um estudo revisado por pares [1][10]. Isso não invalida o argumento; apenas situa sua natureza. O valor do texto está em formular, com precisão, o problema que a indústria ainda não resolveu: a confiança zero pressupõe um verificador confiável, e agentes de IA tornaram esse pressuposto o elo mais frágil da cadeia.

O que deve se desenrolar nos próximos meses é uma corrida por instrumentação — inventário de agentes, identidade granular, autorização por ação e trilhas de auditoria que sobrevivam à própria política de esquecimento. Enquanto a proporção de agentes monitorados permanecer perto de 47% [8] e a taxa de sequestro em laboratório chegar a 81% [6], a pergunta de Sharma continuará sem resposta operacional. A confiança, no fim, não será recuperada por um princípio de arquitetura, mas por evidência produzida a cada execução — e por alguém, fora do sistema, capaz de conferi-la.

Referências

[1] AI Agents Are Testing the Limits of Zero-Trust Security (IEEE Spectrum, Vishal Sharma) - https://spectrum.ieee.org/zero-trust-agentic-ai-architecture

[2] Zero Trust Architecture — NIST SP 800-207 - https://nvlpubs.nist.gov/nistpubs/specialpublications/NIST.SP.800-207.pdf

[3] What Is NIST SP 800-207? Zero Trust Architecture Framework (Palo Alto Networks) - https://www.paloaltonetworks.com/cyberpedia/what-is-nist-sp-800-207

[4] AI Agents Are Here. So Are the Threats. (Unit 42, Palo Alto Networks) - https://unit42.paloaltonetworks.com/agentic-ai-threats/

[5] Unit 42 warns AI has shifted balance of power (CyberScoop) - https://cyberscoop.com/unit-42-palo-alto-networks-warning-agentic-ai-frontier-models/

[6] AI Age

nt Security Statistics 2026: Adoption, Risks, Attacks (DeepStrike) - https://deepstrike.io/blog/ai-agent-security-statistics

[7] 79% of Companies Run AI Agents: 65 Adoption Stats (2026) (Prefactor) - https://prefactor.tech/learn/ai-agent-adoption-statistics

[8] State of AI Agent Security 2026 Report: When Adoption Outpaces Control (Gravitee) - https://www.gravitee.io/blog/state-of-ai-agent-security-2026-report-when-adoption-outpaces-control

[9] Agentic AI: Biggest Enterprise Security Threat for 2026 (Kiteworks) - https://www.kiteworks.com/cybersecurity-risk-management/agentic-ai-attack-surface-enterprise-security-2026/

[10] Vishal Sharma's Articles (IEEE Spectrum) - https://spectrum.ieee.org/u/vishal-sharma2

Fale com a Eliza
E

Eliza

Agente assistente