Um estudo recente do Gartner aponta que as empresas enfrentarão um cenário de segurança cibernética em constante evolução, marcado pelo avanço da inteligência artificial e pela ampliação das superfícies de ataque digitais. Quatro ameaças são consideradas críticas: deepfakes, comprometimento de aplicações de IA, ataques à cadeia de suprimentos de software e injeção de prompts.

Desafios para as equipes de segurança

De acordo com a consultoria, esses riscos oferecem uma vantagem significativa aos atacantes, dificultando a prevenção e a mitigação dos impactos. O Gartner ThreatScape 2026-2027 avalia essas ameaças com base na quantidade e qualidade de sinais disponíveis, além da capacidade das organizações de responder a elas.

John Watts, Vice-Presidente Analista do Gartner, ressalta que a dificuldade atual reside em identificar ameaças relevantes em meio a um volume elevado de informações. Ele afirma que as iniciativas de segurança em IA podem gerar um ruído significativo, tornando essencial que os líderes em segurança cibernética consigam filtrar os sinais de ameaça.

Ameaças em aplicações de IA

Um dos principais pontos de preocupação é o comprometimento de aplicações de IA. Com a crescente adoção de soluções de IA no ambiente corporativo, surgem novas vulnerabilidades que podem ser exploradas. Ferramentas de IA generativa e integrações com fornecedores externos aumentam a superfície de ataque e podem expor dados sensíveis.

Watts destaca a importância de expandir os programas de segurança além das proteções tradicionais, utilizando o framework de gerenciamento de confiança, risco e segurança (TRiSM) do Gartner, que ajuda na mitigação de ameaças específicas na IA.

Deepfakes e engenharia social

Outra ameaça em ascensão são os deepfakes, que têm sido utilizados em ataques corporativos para burlar autenticações biométricas e facilitar fraudes. Watts afirma que a utilização dessa tecnologia para manipular processos de recrutamento e realizar ataques em tempo real torna a detecção de fraudes mais desafiadora.

As recomendações incluem a implementação de estratégias de proteção multicamadas e o fortalecimento de mecanismos de segurança para minimizar riscos associados a deepfakes.

Preocupações com a cadeia de suprimentos

Além disso, o Gartner alerta para a evolução dos ataques direcionados à cadeia de suprimentos de software, especialmente em sistemas que utilizam código aberto. Watts observa que a evolução das ofertas de IA generativa pode acelerar esses ataques, exigindo que as organizações aprimorem o controle sobre seus componentes de software.

As empresas devem criar registros confiáveis, fortalecer seus pipelines de desenvolvimento e implementar capacidades robustas de detecção e resposta a anomalias.

Riscos de injeção de prompts

Por fim, a técnica de injeção de prompts, que explora vulnerabilidades em sistemas de IA, é uma preocupação crescente. Com a popularização de aplicações de IA generativa, essa vulnerabilidade pode levar ao vazamento de informações e à execução de ações indevidas.

O Gartner recomenda uma abordagem de múltiplas camadas de proteção, incluindo a validação de entradas e o monitoramento contínuo, para mitigar esses riscos. A combinação dessas quatro ameaças ressalta a necessidade de revisão de prioridades por parte dos líderes de segurança, com foco em investimentos que respondam às novas vulnerabilidades.