No contexto atual, a solidão e a falta de supervisão parental tornam os adolescentes mais suscetíveis a criar laços afetivos com chatbots de inteligência artificial, os chamados AI companions. Essas vulnerabilidades, combinadas a um design manipulativo, favorecem o surgimento de vínculos emocionais com a tecnologia.

O papel das AI companions

Jorge Valença, professor do departamento de Computação da UFPE e consultor da Unesco, destacou em sua palestra no 16º Fórum da Internet no Brasil (FIB16) que existem mais de 110 AI companions disponíveis, desenvolvidas a partir de grandes modelos de linguagem. Ele abordou como essas ferramentas podem impactar a vida dos jovens, especialmente em um cenário marcado pela falta de interação social.

Influência da machosfera

Durante sua apresentação, Valença também mencionou a chamada “machosfera”, um grupo que promove ideais de subserviência nas relações afetivas. Ele observou que esse ambiente pode influenciar os jovens a buscarem AI companions que reforcem esses padrões, criando expectativas distorcidas sobre relacionamentos.

Percepções distorcidas sobre a IA

Os adolescentes, muitas vezes, percebem a inteligência artificial como justa e confiável, o que facilita a construção de um vínculo emocional com os chatbots. Valença ressaltou que as empresas que desenvolvem essas tecnologias não priorizam os direitos e a segurança das crianças e adolescentes em seus designs.

Aspectos do design manipulativo

O especialista apontou que as estratégias de design utilizadas não incluem apenas táticas clássicas como notificações excessivas. Exemplos sutis, como os três pontinhos que aparecem antes de uma resposta da IA, criam a impressão de que a máquina está pensando, o que contribui para a antropomorfização da tecnologia.

Conversa natural e empatia

As AI companions são projetadas para manter um diálogo fluido e natural, similar a uma conversa humana. Valença mencionou que essas ferramentas são constantemente aprimoradas para se tornarem mais empáticas e acessíveis, o que pode aumentar a confiança dos jovens nelas, levando a um ciclo de dependência e validação emocional.