Relatório aponta avanço de IA em governos sem validação adequada

Um novo relatório destaca que governos ao redor do mundo estão adotando inteligência artificial rapidamente, mas muitos o fazem sem a devida validação e governança. A falta de confiança em sistemas de IA pode resultar em riscos sérios para a sociedade.

Um relatório recente revela que muitos governos estão avançando na implementação de inteligência artificial (IA), mas frequentemente sem a validação e governança necessárias. A pesquisa, realizada pelo SAS em conjunto com o IDC, aponta para um dilema de confiança que impede uma adoção mais eficaz da tecnologia.

Dilema da Confiança na IA

O estudo mostra que, embora o setor público demonstre um nível elevado de maturidade em IA, os investimentos em tecnologias e governança confiáveis são insuficientes. Isso resulta em muitos órgãos adotando soluções avançadas de IA em bases de dados frágeis, aumentando o risco de vieses e falhas operacionais.

Desafios e Oportunidades

Apenas 6% das organizações governamentais estão no estado ideal de confiança em IA, o percentual mais baixo entre os setores analisados. Além disso, 38% enfrentam o problema de depender excessivamente de sistemas de IA não validados, como a IA generativa, que gera mais confiança entre os líderes do setor público em comparação ao machine learning.

Comparação com Outros Setores

O setor público está atrás de áreas como seguros e finanças em termos de entrega de IA confiável, com apenas 15,3% atingindo os níveis mais altos de confiabilidade. Isso é preocupante, pois a confiança não deve ser presumida, especialmente quando se trata de resultados que afetam a população.

Perspectivas Futuras de Investimento

Apesar das lacunas significativas em dados e governança, muitos governos planejam aumentar seus investimentos em IA nos próximos anos. O relatório indica que 12,6% das organizações esperam um crescimento superior a 20%, e quase metade projeta um aumento entre 4% e 20%. A eficiência dos processos é vista como a principal forma de capturar valor com a tecnologia.

Necessidade de Capacitação

Além disso, o estudo destaca que o setor público é o único onde há uma percepção de lacunas de competências entre os funcionários em geral, o que exige um foco em qualificação e formação da força de trabalho. Isso será crucial para uma implementação bem-sucedida da IA no futuro.