Nos últimos anos, a utilização de agentes de inteligência artificial nas empresas evoluiu de maneira significativa. Antes, eram poucos sistemas voltados para funções específicas, mas hoje, diversas organizações operam simultaneamente milhares de agentes autônomos, abrangendo áreas como atendimento ao cliente, operações e finanças. Essa expansão trouxe novos desafios, especialmente no que tange ao controle e à governança desses sistemas cada vez mais integrados ao ambiente corporativo.

Futuro da IA nas Empresas

O futuro dos agentes de IA nas empresas não reside em suas operações isoladas, mas sim em ecossistemas onde eles interagem, negociam e tomam decisões em conjunto. Este novo modelo, conhecido como federação de agentes, abre oportunidades de valor, mas também apresenta riscos que não podem ser ignorados.

Frente a essa realidade, é fundamental que as empresas reavaliem suas estratégias de governança, que devem deixar de ser uma mera camada de controle para se tornarem parte do design central dos negócios. A EY, uma das líderes globais em auditoria e consultoria, desenvolveu um framework específico para orquestrar esses ecossistemas de agentes autônomos, oferecendo suporte na gestão, supervisão e escalabilidade dos sistemas de IA.

Importância do Controle

Andrei Graça, sócio-líder de Inteligência Artificial e Dados da EY Brasil, ressalta que, conforme as empresas ampliam o uso de agentes de IA, a governança se torna uma necessidade imperativa. “Sem mecanismos adequados de monitoramento e rastreabilidade, os riscos operacionais, financeiros e de reputação aumentam consideravelmente”, afirma.

O framework proposto pela EY visa centralizar padrões de desenvolvimento, acessos, permissões e monitoramento, além de controlar a eficiência operacional e os custos envolvidos. Essa abordagem ajuda a mitigar a criação de agentes de forma isolada, prevenindo a proliferação de soluções desconectadas e garantindo uma governança mais robusta.

Processos Estruturados

Além disso, o framework estabelece processos internos que orientam a escolha da tecnologia adequada para o desenvolvimento de agentes, incluindo a realização de inventários, ciclos de aprovação e definição clara de responsabilidades. Esses passos são essenciais para assegurar controle e consistência nas operações dos agentes de IA, facilitando a democratização do seu uso nas diferentes áreas de negócio.

A implementação do framework inicia-se com um inventário detalhado dos agentes já existentes na organização, identificando suas funções, dados acessados e a relação entre custo e retorno operacional. Com base nesse mapeamento, padrões tecnológicos e mecanismos comuns de governança são definidos para novos desenvolvimentos.

Desafios da Visibilidade

Segundo Andrei, o grande desafio reside em garantir visibilidade sobre como os agentes operam, quais sistemas acessam e se seguem as diretrizes estabelecidas pela empresa. O modelo também inclui mecanismos de orquestração que permitem a coordenação de tarefas entre diferentes agentes, evitando gargalos operacionais.

À medida que os agentes de IA começam a assumir funções críticas em áreas auditáveis, como contas a pagar e receber, a necessidade de rastreabilidade das ações desses sistemas se torna imprescindível, especialmente em ambientes regulatórios e de compliance.

Regulamentação da IA

No Brasil, a discussão sobre a regulamentação da inteligência artificial está em andamento no Congresso, com o Projeto de Lei 2.338/2023 propondo uma estrutura regulatória baseada em risco, governança e responsabilização. Na União Europeia, o EU AI Act está sendo implementado gradualmente. A EY acredita que as empresas precisarão demonstrar capacidade de monitorar, explicar e auditar as decisões tomadas por sistemas autônomos.

“Implementar a tecnologia de forma responsável, segura e em conformidade com as exigências regulatórias é essencial”, conclui Andrei.