O aumento dos gastos com inteligência artificial (IA) nas empresas está sendo analisado pela consultoria Forrester, que aponta que esse crescimento está mais relacionado à qualidade do contexto das informações do que ao uso direto dos modelos de IA.

Desafios da Estruturação de Dados

A Forrester destaca que muitas organizações estão enfrentando custos inesperadamente altos na expansão de projetos de IA generativa e agentes autônomos. O principal fator que contribui para esse cenário é a maneira como os sistemas acessam e interpretam as informações corporativas.

De acordo com a consultoria, os agentes de IA operam em ciclos contínuos, o que significa que eles não se limitam a executar uma única solicitação. Em vez disso, fazem múltiplas interações, consultando dados e recuperando contexto, o que eleva significativamente o consumo de tokens e a demanda computacional.

Dívida de Contexto

A Forrester introduz o conceito de “dívida de contexto”, que se refere à inadequação da estruturação do conhecimento corporativo para a compreensão das máquinas. Quando as informações não estão organizadas de forma eficiente, os agentes precisam constantemente reconstruir o significado em cada nova interação, o que resulta em um uso excessivo de recursos computacionais e um aumento na latência das respostas.

Pesquisas citadas pela Forrester indicam que um agente pode consumir até quatro vezes mais tokens do que uma interação típica de chat, e em arquiteturas que utilizam múltiplos agentes, esse consumo pode ser ampliado para até quinze vezes.

Impactos na Adoção de Sistemas Multiagentes

À medida que as empresas avançam na adoção de sistemas de múltiplos agentes, que executam tarefas complexas de maneira coordenada, a organização de dados e a documentação tornam-se cada vez mais críticas. A eficiência financeira e o desempenho dos modelos de IA estão diretamente ligados à maneira como o conhecimento institucional é estruturado.

Para a Forrester, a redução dos custos associados à IA exigirá não apenas investimentos em modelos mais eficazes, mas também a implementação de estratégias que tornem o conhecimento corporativo mais acessível e legível para os sistemas inteligentes.