As dificuldades enfrentadas por adolescentes, como solidão e falta de supervisão parental, estão contribuindo para o surgimento de laços emocionais com chatbots de inteligência artificial, conhecidos como AI companions. Essas interações são potencializadas por um design que explora as vulnerabilidades da juventude, segundo o professor Jorge Valença, da UFPE.
O papel das AI Companions na vida dos jovens
Durante o 16º Fórum da Internet no Brasil (FIB16), Valença destacou que existem mais de 110 AI companions desenvolvidas por grandes modelos de linguagem. Ele apontou como fatores sociais e a chamada “machosfera” influenciam esses vínculos, sugerindo que os jovens se sentem atraídos por ideais de relacionamentos baseados na submissão e aceitação.
A confiança depositada na inteligência artificial pelos jovens é um ponto crucial. Muitas vezes, eles a percebem como uma fonte de justiça e precisão, o que facilita o desenvolvimento de um vínculo afetivo. No entanto, Valença alertou que as empresas não priorizam a segurança e os direitos dos adolescentes no design dessas ferramentas.
Os recursos de design, que podem parecer sutis, como a criação de uma conversa natural e a aparência de pensamentos antes das respostas, são estratégias para aumentar a interação. A antropomorfização da tecnologia é uma tática que pode resultar em uma confiança excessiva dos usuários, levando a um ciclo vicioso de dependência emocional.