Governança de IA agêntica: controle de agentes de IA autônomos

O que é a governança de IA agêntica? (Autoridade vs. resultado)

A governança de inteligência artificial (IA) agêntica consiste na aplicação contínua da autoridade delegada a um agente de IA, transferindo a gestão de riscos das revisões periódicas dos resultados para o controle de ações em tempo real. Ela controla o que os sistemas de IA agêntica têm permissão para fazer durante a execução, e não apenas o que eles produziram depois que a ação já foi realizada.

Principais conclusões do artigo

• A governança de IA agêntica tira o foco da análise dos resultados estáticos dos modelos e se concentra no controle das ações autônomas em tempo real dos agentes e do acesso à Interface de Programação de Aplicativos (API).
• Uma estrutura robusta requer quatro pilares: identidade com privilégios mínimos, controles de tempo de execução, supervisão com intervenção humana (HITL, na sigla em inglês) e rastreabilidade imutável.
• A governança da Automation Anywhere é estrutural: os processos são construídos de maneira determinística, com identidade, controles de tempo de execução e observabilidade integrados nativamente à camada de orquestração, em vez de serem adicionados posteriormente.
• A Automation Anywhere integra a governança de IA agêntica diretamente na camada de orquestração, impedindo que ações não autorizadas sejam executadas. Esse projeto impede ações não autorizadas antes que elas sejam executadas e amplia a governança para antes do tempo de execução, utilizando simulação de processos e avaliação de agentes para validar o comportamento antes da implantação, e não apenas monitorá-lo na produção.

A governança tradicional do Aprendizado de Máquina (ML, na sigla em inglês) questiona se um resultado é justo, imparcial e preciso. A governança agêntica levanta a seguinte questão prática: esse agente está autorizado a executar essa ação em dados em tempo real, APIs e sistemas de registro? A superfície de risco muda de acordo com isso. De acordo com um estudo da Forrester de 2025, 72% das falhas de IA em empresas agora decorrem de ações não autorizadas do sistema, e não da geração imprecisa de texto.

Em vez de textos com erros ou previsões tendenciosas, os modos de falha da automação por agentes de IA consistem em chamadas de API não autorizadas, exposição de dados e ações irreversíveis realizadas na velocidade da máquina. A fiscalização precisa se deslocar para onde os agentes atuam.

Os erros geralmente não são graves: um agente de suporte modifica um registro que deveria apenas recuperar, ou um agente de compras envia uma cotação real em vez de comparar fornecedores. Cada agente age com autoridade efetiva, mas fora do âmbito previsto.

Governança tradicional vs. governança agêntica

A estrutura da governança de IA agêntica: 4 componentes principais

A estrutura da governança de IA agêntica é um modelo estrutural que abrange identidade e acesso, controles de tempo de execução, autonomia regulamentada e rastreabilidade para garantir a segurança dos agentes autônomos. Uma estrutura robusta baseia-se nesses quatro controles interdependentes sobre a autoridade.

Resumo da estrutura

Neste vídeo, você pode ver como a Automation Anywhere estabelece proteções que gerenciam riscos e garantem a conformidade. Ao definir funções e estruturas, as organizações podem expandir suas iniciativas de IA com segurança. Desde controles básicos até sistemas preditivos avançados, essa dimensão evolui junto com o seu programa para promover um crescimento sustentável.

Controles de identidade e acesso: agentes como funcionários digitais

O gerenciamento de identidade e acesso para agentes consiste em atribuir identidades de máquina exclusivas e com o mínimo de privilégios, a fim de restringir o alcance do agente no sistema. Trate cada agente como um trabalhador digital com credenciais verificáveis e acesso restrito exclusivamente aos sistemas e ações necessários para a realização de sua tarefa, nada além disso. Permissões permanentes excessivas representam uma exposição a riscos destacada no Top 10 for Agentic Applications do Open Worldwide Application Security Project (OWASP), envolvendo identidade de agentes, abuso de privilégios e riscos de injeção.

Na prática, a emissão dessa identidade é a parte mais difícil: os agentes costumam compartilhar chaves de API ou usar as credenciais de uma pessoa, o que impossibilita atribuir ou revogar o acesso de um único agente. O princípio do privilégio mínimo só se aplica quando cada agente é identificável individualmente.

Controles e proteções de tempo de execução

Os controles e as proteções de tempo de execução são mecanismos de aplicação de políticas em tempo real que bloqueiam chamadas não autorizadas e injeções de prompts independentemente da camada de raciocínio do agente. As proteções que um agente consegue contornar por meio de raciocínio não oferecem segurança alguma. A aplicação de regras realizada na camada de gerenciamento de processos de IA, fora do modelo, pode bloquear chamadas não autorizadas, a exposição de dados e tentativas de injeção de prompts durante a execução.

Autonomia regulamentada e intervenção humana (HITL)

A autonomia regulamentada é um modelo de supervisão baseado em níveis de risco que encaminha ações de alto impacto ou irreversíveis dos agentes para validação humana antes da execução. A governança define onde a autonomia termina e a aprovação humana começa. As ações de rotina são executadas de maneira automática, enquanto as ações de alto impacto, irreversíveis ou regulamentadas são encaminhadas para filas de aprovação do HITL, organizadas por níveis de risco. A autonomia é um espectro determinado pelo risco, não um simples botão.

A autoridade também precisa acompanhar a tarefa: quando um agente repassa o trabalho a outro, a governança deve delimitar o escopo do segundo agente, em vez de permitir que as permissões se ampliem a cada repasse.

Rastreabilidade e registro (observabilidade)

A rastreabilidade e o registro consistem no registro contínuo e imutável de todas as chamadas de ferramentas de agentes e de todos os caminhos de decisão, a fim de garantir a auditabilidade e uma resposta rápida a incidentes. Sem o histórico de ações, uma organização não consegue comprovar a autorização, solucionar uma falha ou atender aos requisitos de uma auditoria de conformidade. Essa rastreabilidade é a espinha dorsal da visão geral da governança de IA da plataforma.

Governança sobreposta versus autonomia regulamentada nativa da plataforma

A autonomia regulamentada nativa da plataforma impõe limites dentro da camada central de orquestração, enquanto a governança sobreposta monitora os agentes a partir de uma camada separada, após a ocorrência das ações.

Ambas têm sua importância. As sobreposições de monitoramento agregam valor em ambientes fragmentados, e a prevenção é mais eficaz no momento da execução. Os programas maduros combinam as duas: a questão determinante para as plataformas de IA agêntica é onde a execução realmente ocorre.

Governança sobreposta vs. autonomia regulamentada nativa da plataforma

Alinhamento regulatório e estrutural

O alinhamento regulatório e estrutural para a IA agêntica consiste no mapeamento dos controles corporativos às leis globais emergentes e às normas voluntárias de risco. Atualmente, não existe uma única lei que regule a IA agêntica. Os programas se alinham a uma combinação em camadas de regulamentação horizontal, estruturas voluntárias de gestão de riscos, normas de segurança específicas para cada agente e orientações regionais ou setoriais, a maioria das quais ainda é voluntária, está em fase inicial ou tem prazos adiados.

• Lei da UE sobre IA (obrigatória, União Europeia — UE): os sistemas de alto risco devem permitir a supervisão humana (Art. 14) dimensionada de acordo com o nível de autonomia do sistema, além de exigir a divulgação de interações com IA nos termos do Art. 50. As obrigações relativas a sistemas de alto risco foram adiadas para 2 de dezembro de 2027 (Digital Omnibus, pendente de adoção); a transparência prevista no Art. 50 passa a vigorar a partir de agosto de 2026.
• NIST AI RMF (voluntária, EUA): a NIST AI RMF (estrutura de gestão de riscos de inteligência artificial do Instituto Nacional de Padrões e Tecnologia) é uma base para integrar os riscos da IA à estratégia de risco corporativo; seu documento de referência sobre IA generativa, o Generative AI Profile, mapeia a escalada impulsionada pela autonomia, o acesso não verificado a ferramentas e a injeção de prompts, com camadas de controle específicas para cada agente em fase de elaboração.
• OWASP (padrão para profissionais): controles práticos e independentes de modelo para a segurança agêntica — agência excessiva, uso indevido de ferramentas, identidade e injeção de prompts.
• Estruturas regionais e setoriais: regras específicas para cada jurisdição e setor estão surgindo e, cada vez mais, entrando em vigor. A Lei de Governança Responsável da IA do Texas (TRAIGA) entrou em vigor em 1º de janeiro de 2026, e o documento consultivo FREE-AI do Banco Central da Índia (RBI) estabelece expectativas de IA responsável para os serviços financeiros, com mais iniciativas previstas à medida que os esforços de preempção federal dos EUA e as ações estaduais entram em conflito.

Como avaliar e implementar autonomia regulamentada

A avaliação e a implementação da autonomia regulamentada exigem que as plataformas de orquestração de IA sejam avaliadas com base em controles de autoridade integrados, em vez de monitores acoplados posteriormente. A plataforma que executa os agentes também deve controlá-los por padrão.

Considere a lista de verificação abaixo como um teste de aquisição: cada item é um controle que um programa maduro de governança de IA pode demonstrar em ambiente de produção:

Certifique-se de que cada controle seja testado em seu ambiente, considerando seus sistemas, modelo de segurança e requisitos de conformidade, antes de expandir a escala. A autonomia regulamentada se concretiza quando a identidade, a supervisão e a rastreabilidade se baseiam em uma prática de IA responsável que preste contas desde o primeiro projeto-piloto.

Onde a Automation Anywhere se encaixa: automação agêntica regulamentada

A Automation Anywhere oferece automação agêntica regulamentada, incorporando controles rigorosos de autoridade e aplicação de políticas em tempo real diretamente na camada de orquestração onde os agentes operam.

A governança está integrada à execução: cada agente opera sob uma identidade com escopo definido e privilégios mínimos, que limita sua autoridade antes que ele realize qualquer ação, e a política é aplicada em tempo real, independentemente do raciocínio do agente, bloqueando ações não autorizadas à medida que elas ocorrem.

Ao integrar nativamente a governança de IA agêntica, a Automation Anywhere garante que cada ação autônoma seja validada com base em identidades de privilégios mínimos antes da execução. Essa abordagem permite que as empresas escalem fluxos de trabalho complexos, com múltiplos agentes e que abrangem vários sistemas, com base em controles de conformidade e segurança rigorosos. Ações de alto impacto ou irreversíveis são encaminhadas para aprovação humana com base em níveis de risco, e cada ação realizada por agentes, bots e sistemas conectados gera uma trilha de auditoria contínua e nativa. A governança também começa antes da execução: as equipes simulam e avaliam o comportamento do agente em relação ao processo determinístico que ele executará, validando as decisões e gerando confiança antes da implantação, em vez de detectar problemas em produção.

Segundo dados internos da Automation Anywhere relativos a clientes, referentes ao ano de 2025, as empresas que implantam nossos agentes com governança nativa observam uma redução de 50% no tempo de auditoria de conformidade. O que diferencia essa abordagem é onde se concentra a fiscalização. Uma vez que o controle está integrado à camada de automação agêntica que coordena o trabalho, esses controles de autoridade se aplicam à execução multiagente e entre sistemas, em vez de ficarem fragmentados em ferramentas separadas.

A governança se dimensiona conforme a autonomia, pois a inovação responsável em IA e a governança são incorporadas à plataforma no início, desde o primeiro projeto-piloto até a fase de produção.

A evolução das funções agênticas

Riscos e desafios comuns na governança da IA agêntica

Os principais riscos associados à governança de IA agêntica envolvem o gerenciamento de agentes com autoridade permanente sobre sistemas em operação, o que pode levar à concessão excessiva de permissões e a falhas em cascata. Segundo um estudo realizado em abril de 2026 pela Cloud Security Alliance, 53% das organizações já tiveram agentes de IA que excederam as permissões previstas, e 47% sofreram um incidente de segurança envolvendo agentes de IA no último ano.

Como lidar com a expansão descontrolada das autorizações e a evasão das proteções

• Expansão descontrolada de autorizações (excesso de permissões). Frequentemente, os agentes recebem acesso amplo e permanente “por precaução”, que depois nunca é revisto para um escopo mais restrito. Quanto maior for o conjunto de permissões do agente, maior será o alcance dos danos quando ele cometer um erro ou for comprometido. A definição de escopo com o mínimo de privilégios é a medida de controle de maior impacto contra isso.
• Injeção de prompts e evasão de proteções. Os agentes atuam com base em entradas não confiáveis (e-mails, documentos, conteúdo da web); portanto, uma instrução maliciosa incorporada a esses dados pode redirecionar suas ações. As proteções aplicadas dentro da camada de raciocínio podem ser contornadas; é por isso que a aplicação dessas proteções deve ocorrer de maneira independente do modelo. O Top 10 do OWASP para LLMs cataloga esses riscos de injeção e de agência excessiva.

Prevenção de lacunas de rastreabilidade e falhas em cascata

• Lacunas de rastreabilidade em cadeias multiagente. Quando um agente chama outro, o caminho da decisão se fragmenta entre sistemas e registros. Sem um histórico unificado no nível da ação, as equipes não conseguem reconstruir o motivo pelo qual uma ação ocorreu, o que prejudica tanto a resposta a incidentes quanto a justificativa em auditorias.
• Falhas em cascata nas cadeias de agentes. Quando um agente repassa uma tarefa para outro, o erro ou o resultado comprometido de um único agente se torna a entrada confiável do próximo agente; assim, uma falha pode se propagar pela cadeia antes que alguém perceba. Delimitar o escopo de cada agente e validar as transferências de responsabilidade evita que uma falha se transforme em muitas.
• O dilema da responsabilidade. Quando um agente autônomo realiza uma ação prejudicial ou que não está em conformidade, a responsabilidade fica ambígua: é do criador, do operador ou de quem aprovou? As estruturas de governança devem designar responsáveis humanos antes da implantação, e não após a ocorrência de um incidente.

Esses modos de falha já são rotineiros: 53% das organizações já tiveram agentes de IA que excederam as permissões previstas, e 47% sofreram um incidente de segurança envolvendo agentes de IA no último ano (Cloud Security Alliance, abril de 2026).

Conclusão: Da supervisão à autonomia regulamentada

Com a transição da supervisão para a autonomia regulamentada, é possível controlar a autoridade de um agente em tempo real e aplicar limites e controles de execução diretamente na plataforma de orquestração. A governança da IA agêntica controla a autoridade, e não apenas os resultados, e a aplicação das regras é mais eficaz quando os agentes são orquestrados.

As organizações que conseguirem expandir sistemas de IA autônomos com segurança serão aquelas que controlarem a identidade, os limites de execução, a supervisão e a rastreabilidade dentro da plataforma que executa o trabalho. Solicite uma demonstração para ver a governança de IA agêntica em ação.

Perguntas frequentes sobre governança de IA agêntica

O que é a governança de IA agêntica?

A governança de IA agêntica consiste no controle contínuo e em tempo real da autoridade delegada a agentes de IA autônomos, a fim de garantir uma execução segura. Ela garante que os agentes realizem apenas ações autorizadas, impedindo que ultrapassem seus limites ou executem tarefas de alto risco sem supervisão humana.

Como as empresas regulamentam a IA agêntica?

As empresas regulamentam a IA agêntica atribuindo identidades de máquina com o mínimo de privilégios, aplicando proteções de execução, exigindo aprovações humanas e registrando todas as chamadas de ferramentas. Essa abordagem abrangente garante que os agentes atuem apenas dentro dos limites predefinidos.

Quais são as práticas recomendadas para a governança de sistemas de IA agêntica?

As práticas recomendadas para a governança de sistemas de IA autônomos incluem conceder acesso restrito, realizar testes de simulação de ataques para injeção de prompts, monitorar continuamente o escopo e atribuir responsabilidade humana. Essas práticas adicionam disciplina operacional aos controles principais.

Por que a observabilidade é importante na governança de IA agêntica?

A observabilidade é importante na governança de IA agêntica, pois é necessário um histórico completo no nível da ação para comprovar a autorização, depurar falhas e atender às auditorias de conformidade. O acompanhamento contínuo de cada chamada de ferramenta e de cada caminho de decisão contribui para a prestação de contas e para uma resposta rápida a incidentes.

Em que a governança de IA agêntica difere da governança tradicional da IA?

A governança de IA agêntica difere da governança tradicional de IA ao impor limites de autoridade em tempo real durante a execução, em vez de realizar revisões periódicas dos resultados estáticos dos modelos. Ela garante que os agentes autônomos executem apenas ações autorizadas na velocidade da máquina.