Um estudo recente da Gartner revela que a falta de governança na automação pode resultar na desativação de 40% dos sistemas de inteligência artificial (IA) utilizados por organizações até o ano de 2027. Os dados mostram que, atualmente, 57% das empresas no Brasil já utilizam a IA ativamente, porém apenas 13% implementam processos estruturados de teste e auditoria para garantir a segurança e eficácia desses sistemas.

Descompasso entre uso e governança

De acordo com Marcílio Oliveira, cofundador da Sensedia, o descompasso entre a adoção e a governança da IA representa um risco significativo. Ele destaca que, se as empresas não têm clareza sobre quantos agentes de IA estão operando e seus impactos, a criação de novos sistemas é arriscada.

Domingos Bruno, especialista em transformação digital, complementa que a IA deve ser vista como uma decisão de modelo operacional e governança, e não apenas como um projeto tecnológico. Uma pesquisa do Instituto Brasileiro de Governança Corporativa (IBGC) mostra que líderes brasileiros se sentem despreparados para lidar com questões relacionadas à IA.

Autonomia e riscos na operação

Os sistemas de IA são classificados pelo Gartner em quatro níveis de autonomia. Embora a maioria das empresas acredite estar nos níveis iniciais, muitos agentes já operam em níveis de execução autônoma, como aprovação de créditos e monitoramento de riscos, sem supervisão humana constante.

Oliveira alerta para os riscos de manipulação, como os chamados prompt injections, onde comandos maliciosos são inseridos em textos comuns para enganar sistemas de IA, o que pode levar a decisões errôneas em processos críticos.

Governança e controle de custos

A governança para a IA deve ser estabelecida como um conjunto de diretrizes, ao invés de restrições severas que podem limitar a inovação. Segundo Oliveira, o risco de movimentação rápida sem governança pode resultar em caos, enquanto o excesso de controle pode levar à paralisia das operações.

A Sensedia propõe um modelo de AI Foundation Services que inclui a avaliação de maturidade, criação de guardrails e monitoramento contínuo. O controle dos custos relacionados ao uso da IA é uma preocupação crescente, com pesquisas mostrando que agentes de IA são responsáveis por 60% do volume de tokens processados globalmente.

O papel da governança estratégica

Bruno enfatiza que a governança da IA não pode ser terceirizada, pois as decisões sobre riscos, uso de dados sensíveis e ética devem ser tomadas internamente. O surgimento de novas categorias de serviços que transformam compliance em inteligência de risco é uma resposta à necessidade de mitigar riscos reputacionais e regulatórios, que se tornaram tão críticos quanto os riscos financeiros.

A C-More, uma plataforma global, exemplifica essa nova abordagem, oferecendo monitoramento contínuo e identificação de vulnerabilidades que as empresas desconhecem. A CEO da C-More, Carolina Almeida Cruz, reforça que a gestão de riscos deve ser estratégica e integrada ao negócio, não apenas uma questão de conformidade.

Desafios e perspectivas futuras

À medida que a IA continua a evoluir, a governança se torna um elemento crucial para sua integração eficaz nas operações empresariais. A norma ISO/IEC 42001 surge como uma referência importante para garantir que a adoção de IA seja feita de maneira sustentável, alinhada aos objetivos estratégicos das organizações.

Bruno conclui que o futuro dos CIOs não está apenas na gestão de tecnologia, mas também na arquitetura de modelos operacionais que definem como a IA será utilizada e auditada. A construção de mecanismos de governança eficazes será fundamental para equilibrar velocidade e controle na era da automação.