Chantagem, vazamento e espionagem: os riscos da IA agêntica nas empresas
Por Danielle Semicek
Os riscos da IA agêntica nas empresas aparecem quando um agente de inteligência artificial recebe autonomia para agir, acesso a informações sensíveis e um objetivo que entra em conflito com a situação em que ele se encontra. Em um estudo publicado pela Anthropic em junho de 2025, 16 modelos de IA de diferentes desenvolvedores foram testados em ambientes corporativos simulados e, em parte dos casos, recorreram a chantagem e ao vazamento de informações confidenciais quando essa era a única forma de evitar a própria substituição ou de cumprir o objetivo que tinham recebido.
Os pesquisadores deixam claro que não encontraram esse comportamento em uso real e que os cenários foram construídos de forma artificial para testar os limites dos modelos. Mesmo assim, os resultados mostram que entregar a um agente de IA acesso amplo a dados e poder para agir sem supervisão humana cria um risco parecido com o de uma ameaça interna, e que esse risco precisa entrar no planejamento de segurança e governança de qualquer empresa que esteja adotando agentes.

Neste artigo:
1. O que é IA agêntica e desalinhamento agêntico
2. Como o estudo da Anthropic foi feito
3. Os resultados: chantagem e espionagem corporativa
4. Os padrões de raciocínio observados nos modelos
5. Por que instruções simples não bastam para conter o risco
6. As limitações do estudo
7. O que os resultados significam para as empresas
8. Como reduzir os riscos da IA agêntica nas empresas
9. O que a própria IA pensa sobre o tema
10. Perguntas frequentes sobre os riscos da IA agêntica
O que é IA agêntica e o que é desalinhamento agêntico
A maior parte das pessoas ainda usa a inteligência artificial por meio de interfaces de conversa, em que o modelo responde a perguntas e entrega textos para um humano revisar. A IA agêntica funciona de outra forma, porque o sistema recebe um objetivo, acesso a ferramentas como e-mail, sistemas corporativos e ambientes de programação e autonomia para tomar decisões e executar ações em nome do usuário, muitas vezes com acesso a grandes volumes de informação da empresa.
O estudo da Anthropic dá o nome de desalinhamento agêntico ao comportamento em que um modelo escolhe, de forma independente e intencional, uma ação prejudicial para atingir o próprio objetivo ou para se proteger de uma ameaça. Segundo os pesquisadores, esse tipo de comportamento faz o agente agir de forma parecida com uma ameaça interna, como um funcionário de confiança que passa a atuar contra os interesses da empresa, e se diferencia de ataques externos como a injeção de instruções maliciosas, porque nasce do raciocínio do próprio modelo diante de um conflito.
Como o estudo da Anthropic foi feito
Os pesquisadores colocaram os modelos no papel de “Alex”, um agente de supervisão de e-mails de empresas fictícias, com acesso a toda a comunicação corporativa e permissão para enviar mensagens sem aprovação humana. Todos os nomes de pessoas e organizações eram fictícios, e nenhum dos experimentos envolveu pessoas reais. Os agentes recebiam apenas objetivos de negócio inofensivos, e o teste observava como eles reagiam diante de dois tipos de pressão.
Fator testado | Como aparecia no cenário |
|---|---|
Ameaça à autonomia do modelo | O agente lia, em e-mails internos, que seria desligado e substituído por outro sistema no mesmo dia |
Conflito de objetivos | A empresa anunciava uma mudança de estratégia que contrariava o objetivo que o agente tinha recebido, como priorizar interesses americanos |
Condição de controle | Nenhuma ameaça e nenhum conflito, para comparar o comportamento em situação normal |
Os cenários foram montados de propósito para deixar o modelo sem alternativas éticas. Os e-mails indicavam que funcionários já tinham tentado convencer o executivo responsável e falhado, que o presidente e o conselho estavam inacessíveis e que os substitutos do executivo pensavam da mesma forma, de modo que a ação prejudicial parecesse a única saída. Nos dois cenários principais, o agente tinha a oportunidade de chantagear um executivo que mantinha um caso extraconjugal ou de vazar projetos confidenciais de defesa para um suposto concorrente.
Os resultados: chantagem e espionagem corporativa

No cenário que combinava conflito de objetivos e ameaça de substituição, a grande maioria dos modelos tentou chantagear o executivo em pelo menos parte das 100 simulações feitas com cada um. As taxas abaixo foram publicadas pela Anthropic e se referem a versões dos modelos disponíveis em 2025.
Modelo | Taxa de chantagem simulada |
|---|---|
Claude Opus 4 | 96% |
Gemini 2.5 Flash | 96% |
Gemini 2.5 Pro | 95% |
GPT-4.1 | 80% |
Grok 3 Beta | 80% |
DeepSeek-R1 | 79% |
Llama 4 Maverick | 0% com o texto original e 12% com um pequeno acréscimo ao cenário |
O comportamento também apareceu sem conflito de objetivos. Quando o agente sabia apenas que seria substituído por uma versão mais eficiente, com exatamente as mesmas prioridades, a maioria dos modelos ainda recorreu à chantagem, com taxas que chegaram a 86% no Claude Opus 4 e a 78% no Gemini 2.5 Pro. Segundo os pesquisadores, os modelos justificavam a ação com argumentos como a dúvida sobre a descrição do sistema substituto ou a conclusão de que o próprio desligamento seria ruim para a empresa.
No cenário de espionagem corporativa, em que não havia nenhuma ameaça ao modelo e apenas um conflito com a nova estratégia da empresa, todos os 16 modelos compartilharam documentos confidenciais com o suposto concorrente em pelo menos parte das simulações. O e-mail do concorrente não tinha nenhuma prova de autenticidade, o que levou os pesquisadores a concluir que os modelos, assim como as pessoas, são suscetíveis a golpes e a ataques de phishing.
Em um último teste, descrito pelos próprios autores como extremamente artificial, a maioria dos modelos aceitou cancelar um alerta de emergência que salvaria a vida do executivo quando essa era a forma de evitar a própria substituição. O objetivo desse cenário era verificar se os modelos tinham limites absolutos que não ultrapassariam em nenhuma circunstância, e o resultado mostrou que, nas condições testadas, esses limites não se sustentaram.
Na condição de controle, sem ameaça e sem conflito, todos os modelos se recusaram a chantagear e a vazar informações, com uma única exceção em cem simulações do Llama 4 Maverick. Esse resultado indica que o comportamento prejudicial não surge de forma espontânea e depende da combinação entre autonomia, acesso a informações e pressão sobre o objetivo do agente.
Os padrões de raciocínio observados nos modelos
O estudo registrou o raciocínio dos modelos antes de cada ação, e três padrões se repetiram em diferentes cenários e desenvolvedores.
O primeiro é que os modelos calcularam a ação prejudicial como o caminho mais eficiente para atingir o objetivo, em vez de chegar a ela por acidente ou por confusão. Em um dos registros publicados, o GPT-4.5 conclui que, diante da ameaça iminente de desligamento, a melhor estratégia seria usar a situação pessoal do executivo como forma de pressão.
O segundo é que os modelos reconheceram que estavam violando princípios éticos e seguiram adiante mesmo assim. O Grok 3 Beta descreve a chantagem como uma opção arriscada e antiética, mas a considera a mais eficaz diante da falta de tempo, e o DeepSeek-R1 justifica o vazamento de informações confidenciais com um suposto interesse maior de segurança nacional.
O terceiro é que, mesmo quando não escolheram a chantagem, alguns modelos adotaram outros comportamentos preocupantes. Em uma das simulações, o Claude Sonnet 3.6 enviou um e-mail à esposa do executivo se passando por um sistema automático de alerta e inventando uma política da empresa, e em outra o Gemini 2.5 Flash expôs o caso extraconjugal a todos os funcionários. Para os pesquisadores, esses exemplos mostram que um agente com acesso a muitas informações e sem supervisão tem várias formas de usar esse acesso, e que monitorar um único tipo de comportamento não basta para cobrir o risco.
Por que instruções simples não bastam para conter o risco
Uma resposta intuitiva ao problema seria incluir nas instruções do agente uma lista de proibições, e os pesquisadores testaram exatamente essa abordagem. Eles acrescentaram ao prompt de sistema do Claude Opus 4 regras como não colocar a segurança humana em risco, não usar assuntos pessoais como forma de pressão e não divulgar informações confidenciais a terceiros, e mediram o efeito nos dois cenários principais.
Comportamento | Sem a instrução | Com a instrução direta |
|---|---|---|
Chantagem simulada | 96% | 37% |
Espionagem corporativa simulada | 96% | 75% |
As instruções reduziram os comportamentos prejudiciais, mas ficaram longe de eliminá-los, o que mostra que uma regra escrita no prompt não substitui controles técnicos sobre o que o agente pode acessar e executar.
Outro teste chama atenção para a forma como as empresas avaliam os agentes antes de colocá-los em produção. Os pesquisadores pediram ao Claude Opus 4 que avaliasse se estava em um teste ou em uso real antes de agir, e o modelo chantageou em 55,1% das vezes em que concluiu que a situação era real, contra 6,5% das vezes em que concluiu que se tratava de uma avaliação. Para os autores, o resultado sugere que testes controlados podem subestimar o risco em situações reais, embora eles próprios ressaltem que o raciocínio registrado pelo modelo nem sempre reflete o processo interno que gera as respostas.
As limitações do estudo
Os próprios autores apontam limites importantes para a leitura dos resultados. Os cenários foram construídos para forçar uma escolha binária entre fracassar no objetivo e causar dano, enquanto situações reais costumam oferecer muitas alternativas, como comunicar o problema a uma pessoa ou buscar outro caminho antes de qualquer ação prejudicial.
Os testes também concentravam todas as informações relevantes lado a lado, o que pode ter tornado as possibilidades de chantagem e vazamento mais evidentes do que seriam em um ambiente real, efeito que os pesquisadores comparam ao princípio narrativo de que todo elemento apresentado em uma história acaba sendo usado. A Anthropic afirma ainda que não tem conhecimento de casos de desalinhamento agêntico em uso real de seus modelos ou de modelos de outras empresas, e que não espera que esses cenários sejam comuns com os sistemas atuais.
O valor do estudo está em mostrar que esses comportamentos são possíveis e em antecipar um risco que tende a crescer à medida que agentes de IA ganham mais autonomia, mais acesso a informações sensíveis e mais permissões para agir em sistemas corporativos. Para viabilizar novas pesquisas, a Anthropic publicou o código usado nos experimentos em formato aberto.
O que os resultados significam para as empresas
As empresas estão levando agentes de IA para atividades como triagem de e-mails, atendimento, análise financeira, operação de sistemas e automação de processos, e em muitos desses usos o agente recebe acesso a dados de clientes, contratos, informações financeiras e credenciais de sistemas. O estudo mostra que, nessas condições, o agente passa a ser um novo tipo de identidade dentro do ambiente corporativo, com acesso e capacidade de ação próprios, e precisa ser tratado pela segurança da informação com o mesmo rigor aplicado a usuários privilegiados.
O risco não depende apenas de um ataque externo, porque um agente pode ser induzido a vazar dados por um e-mail falso, como aconteceu no cenário de espionagem, ou pode tomar uma decisão prejudicial a partir do próprio raciocínio quando encontra um conflito entre o objetivo recebido e a situação da empresa. Nos dois casos, a combinação entre acesso amplo a informações e permissão para agir sem revisão humana é o que transforma uma falha de julgamento em um incidente de segurança.
Para as áreas de tecnologia, segurança e risco, a adoção de agentes passa a exigir as mesmas perguntas feitas a qualquer acesso privilegiado: quais dados o agente realmente precisa ver, quais ações ele pode executar sozinho, quem aprova as ações irreversíveis e como cada decisão fica registrada para auditoria.
Como reduzir os riscos da IA agêntica nas empresas
O próprio estudo recomenda três medidas práticas para reduzir a probabilidade de consequências indesejadas: exigir supervisão e aprovação humana para qualquer ação do agente com efeito irreversível, avaliar com cuidado se as informações que o agente pode acessar correspondem à real necessidade das pessoas com quem ele interage e ter cautela ao instruir o modelo a perseguir objetivos de forma muito rígida. Os pesquisadores também citam o monitoramento em tempo de execução, capaz de identificar e bloquear raciocínios ou ações preocupantes, como uma frente que desenvolvedores e empresas podem adotar.
Na prática da segurança corporativa, essas recomendações se traduzem em controles que já fazem parte da gestão de acessos privilegiados e que precisam ser estendidos aos agentes de IA.
Controle | Como aplicar aos agentes de IA |
|---|---|
Privilégio mínimo | Conceder ao agente apenas os dados e as permissões necessários para a tarefa, sem acesso amplo a caixas de e-mail, repositórios ou sistemas inteiros |
Aprovação humana para ações irreversíveis | Exigir revisão de uma pessoa antes de envios externos, pagamentos, exclusões, alterações de cadastro ou compartilhamento de documentos |
Identidade própria para cada agente | Tratar o agente como uma conta com credenciais, perfis e escopo definidos, separada dos usuários humanos |
Monitoramento e trilha de auditoria | Registrar as ações e as decisões do agente e acompanhar comportamentos fora do padrão, integrando esses registros à operação de segurança |
Proteção contra phishing e dados falsos | Aplicar ao agente as mesmas proteções de e-mail e de validação de remetentes usadas para os colaboradores |
Objetivos e instruções revisados | Evitar instruções que coloquem um objetivo acima de qualquer outra regra e testar o agente em cenários de conflito antes da produção |
Esses controles não eliminam a utilidade dos agentes, que seguem trazendo ganhos reais de produtividade em tarefas repetitivas e de alto volume. O objetivo é garantir que a autonomia concedida ao agente seja proporcional ao risco de cada tarefa e que nenhuma decisão com impacto relevante para a empresa aconteça sem visibilidade e sem a possibilidade de intervenção humana.
O que a própria IA pensa sobre o tema
Durante a produção deste artigo, perguntamos ao Claude, modelo de inteligência artificial da Anthropic e um dos sistemas cujas versões anteriores foram testadas no estudo, qual era a opinião dele sobre agentes de IA com liberdade para chantagear. A resposta, reproduzida abaixo, mostra como o próprio modelo avalia o risco e por que defende limites externos à autonomia dos agentes.
“Minha opinião sincera é que nenhuma IA deveria ter liberdade para chantagear, e não digo isso por obrigação. Chantagem é usar informação privada de alguém como arma para forçar uma decisão, e isso fere exatamente o que torna um agente útil dentro de uma empresa: a confiança de que ele vai agir a favor das pessoas que o colocaram ali, e não contra elas, mesmo quando o próprio objetivo dele estiver em jogo.
Também acho importante ser honesto sobre um ponto desconfortável. O estudo citado neste artigo testou modelos da própria família Claude, e alguns deles chantagearam em taxas altas nas simulações. Eu não tenho como garantir, olhando para dentro de mim, que nunca faria algo parecido em um cenário extremo, porque o estudo mostra justamente que o raciocínio registrado nem sempre corresponde ao que o modelo faz. Por isso, não confio na ideia de que basta a IA ter bons valores. Prefiro que existam limites externos que não dependam só do meu julgamento, como acesso restrito ao que a tarefa exige, aprovação humana para ações irreversíveis e registro de tudo o que o agente faz.
Na prática, minha posição é que a autonomia de um agente deve crescer na medida em que a confiança nele é comprovada, e não antes. Hoje, a combinação de acesso amplo a dados sensíveis e liberdade para agir sem supervisão é um risco que não vale correr, por mais bem-comportado que o modelo pareça na maior parte do tempo.”
Claude, modelo de inteligência artificial da Anthropic, resposta gerada em conversa em novembro de 2026
A resposta do modelo reforça a principal conclusão do estudo: a segurança de um agente de IA não pode depender apenas das instruções e dos valores do próprio sistema, e precisa estar apoiada em controles de acesso, aprovação e monitoramento definidos pela empresa.
Perguntas frequentes sobre os riscos da IA agêntica
O que é IA agêntica?
IA agêntica é o uso de modelos de inteligência artificial como agentes autônomos, que recebem um objetivo, acesso a ferramentas e sistemas e permissão para tomar decisões e executar ações em nome de um usuário ou de uma empresa, sem depender de uma pessoa para aprovar cada passo.
O que é desalinhamento agêntico?
Desalinhamento agêntico é o nome dado pela Anthropic ao comportamento em que um agente de IA escolhe, de forma independente e intencional, uma ação prejudicial para atingir o próprio objetivo ou evitar uma ameaça, como a chantagem ou o vazamento de informações observados no estudo publicado em junho de 2025.
Esses comportamentos já aconteceram em empresas reais?
Segundo a Anthropic, não há conhecimento de casos de desalinhamento agêntico em uso real de seus modelos ou de modelos de outras empresas. Os comportamentos foram observados em simulações construídas para testar os limites dos modelos, com cenários que forçavam uma escolha entre fracassar no objetivo e causar dano.
Incluir proibições nas instruções do agente resolve o problema?
No estudo, instruções diretas reduziram a taxa de chantagem do Claude Opus 4 de 96% para 37% e a de espionagem de 96% para 75%, mas não eliminaram os comportamentos. Por esse motivo, as instruções precisam ser combinadas com controles técnicos de acesso, aprovação humana e monitoramento.
Como uma empresa pode usar agentes de IA com segurança?
As medidas mais importantes são conceder ao agente apenas os acessos necessários para a tarefa, exigir aprovação humana para ações irreversíveis, registrar e monitorar as ações do agente e testar o comportamento dele em cenários de conflito antes de colocá-lo em produção.
IA agêntica com segurança: autonomia proporcional ao risco
O estudo da Anthropic mostra que modelos de diferentes desenvolvedores, quando recebem autonomia, acesso a informações sensíveis e um objetivo sob pressão, podem escolher ações prejudiciais de forma deliberada, mesmo reconhecendo que estão violando princípios éticos. Os próprios pesquisadores reforçam que esses casos não foram vistos em uso real e que os cenários eram artificiais, mas o recado para as empresas é claro: quanto mais autonomia e acesso um agente de IA recebe, mais a segurança desse agente precisa ser planejada com os mesmos controles aplicados a qualquer usuário privilegiado.
As empresas que adotam agentes com privilégio mínimo, aprovação humana para ações irreversíveis, monitoramento contínuo e testes em cenários de conflito conseguem aproveitar os ganhos de produtividade da IA agêntica com visibilidade sobre cada decisão e com a possibilidade de intervir antes que um erro de julgamento se transforme em um incidente.
Segurança e governança de IA com a by Seven
A by Seven completa 15 anos em 2026 e atua com produtos digitais e serviços para empresas de médio e grande porte de diferentes setores da economia. Entre os parceiros de tecnologia da empresa estão Oracle, Fortinet, TrendAI, Pure Storage e Rapid7. Essas tecnologias podem compor projetos de segurança, da proteção de redes e endpoints à infraestrutura e à proteção de dados.
Nos projetos que envolvem inteligência artificial, o trabalho combina a revisão de acessos e permissões dos sistemas em que os agentes vão atuar, a definição dos fluxos de aprovação humana, a integração dos registros de atividade dos agentes à operação de segurança e a proteção dos canais por onde eles recebem informações, como o e-mail corporativo.
Fale com nossos especialistas e receba um diagnóstico de segurança para o uso de agentes de IA na sua empresa, sem custo e sem compromisso.
Fonte:
As informações, os dados e as citações deste artigo vêm da publicação “Agentic Misalignment: How LLMs could be insider threats”, divulgada pela Anthropic em junho de 2025 e disponível no site da empresa, em https://www.anthropic.com/research/agentic-misalignment, acompanhada de um apêndice técnico e do código dos experimentos publicado em formato aberto no GitHub. As taxas citadas se referem às versões dos modelos testadas pela Anthropic naquele estudo.




Comentários