Um recente relatório da Veracode revelou que quase metade do código gerado por assistentes de inteligência artificial apresenta vulnerabilidades de segurança, mesmo que o código pareça funcional e pronto para uso. O estudo GenAI Code Security 2025 testou mais de cem modelos de linguagem em 80 tarefas de programação e constatou que 45% das amostras falharam em testes de segurança, incluindo falhas categorizadas no OWASP Top 10.

Taxas Alarmantes em Java

Na linguagem Java, que é amplamente utilizada em empresas, a taxa de falhas subiu para 72%. Uma pesquisa da Stanford University, publicada nos anais da ACM CCS, indicou que os desenvolvedores que utilizam assistentes de IA não só produzem código menos seguro, mas também acreditam erroneamente na segurança de suas criações.

Projeções do Uso de IA

O Gartner prevê que até 2028, 75% dos engenheiros de software em grandes empresas estarão utilizando assistentes de IA para auxiliar na codificação. No Brasil, um estudo da GitHub revelou que mais de 97% dos desenvolvedores de grandes empresas já adotam essas ferramentas, um percentual similar ao de países como Estados Unidos e Alemanha.

Limitações dos Modelos de Linguagem

A principal questão reside na operação dos modelos de linguagem, que não compreendem a segurança de forma técnica. Eles geram código com base em padrões, que incluem tanto boas práticas quanto implementações vulneráveis, resultando em falhas que muitas vezes não são evidentes.

Vulnerabilidades Comuns

Dentre as falhas mais frequentes, destacam-se problemas de injeção, uso inadequado de consultas, validação insuficiente de entradas e construções inseguras em chamadas a APIs. Os modelos frequentemente sugerem soluções que parecem corretas, mas ignoram importantes nuances de contexto, como a origem dos dados e as regras específicas de negócio.

Como Incorporar IA com Segurança

Para mitigar os riscos, as organizações devem tratar toda saída de modelos de linguagem como código não confiável, integrando análises estáticas e dinâmicas nos processos de CI/CD. Além disso, é crucial mapear e controlar o uso de shadow AI para evitar a exposição de dados sensíveis.

O Gartner alerta que, se os processos de revisão não forem adaptados, a adoção de abordagens baseadas em IA pode aumentar os defeitos de software em até 2.500% até 2028. Portanto, o desafio não está na tecnologia em si, mas na forma como ela é integrada aos processos de desenvolvimento.