A propagação da inteligência artificial generativa trouxe inovações, mas também desafios significativos, como os deepfakes, que são conteúdos audiovisuais manipulados com grande realismo. Esses vídeos e áudios falsificados podem simular comportamentos e falas de pessoas reais, criando uma nova forma de fraude digital que é mais difícil de detectar. Diante disso, surge uma pergunta crucial: o sistema jurídico está preparado para lidar com essa nova realidade?

O Impacto dos Deepfakes na Confiança Social

A desinformação não é uma novidade na era digital, mas os deepfakes representam uma mudança qualitativa importante. Eles deslocam o foco da informação textual para a audiovisual, um meio historicamente visto como mais confiável. Isso provoca um desgaste na confiança social, uma vez que até mesmo conteúdos autênticos podem ser questionados, fenômeno conhecido como 'liar’s dividend'.

Desafios nas Eleições

No âmbito eleitoral, os riscos se tornam ainda mais alarmantes. Vídeos manipulados de políticos e áudios falsos podem ser rapidamente compartilhados, alterando a percepção do eleitor. As plataformas digitais, com suas lógicas algorítmicas, tendem a amplificar esses conteúdos sensacionalistas, especialmente em períodos de polarização, onde as consequências podem ser desastrosas para a democracia.

Novas Medidas do Tribunal Superior Eleitoral

Com o foco nas Eleições Gerais de 2026, o Tribunal Superior Eleitoral (TSE) implementou mudanças na regulamentação da propaganda eleitoral. Dentre as novas diretrizes, destaca-se a proibição de deepfakes, a exigência de rotulagem de conteúdos gerados por IA e a responsabilização de candidatos e plataformas em caso de não remoção de conteúdos prejudiciais. Essa abordagem é uma das mais abrangentes em nível comparado, reconhecendo o potencial disruptivo da IA na formação da opinião pública.

Desafios Estruturais e Limitações

Apesar das medidas adotadas, existem desafios significativos. A Justiça Eleitoral ainda enfrenta dificuldades técnicas para identificar deepfakes de forma eficaz, especialmente considerando a rapidez com que as tecnologias evoluem. Além disso, o TSE não tem o poder de criar novos tipos penais, o que requer uma ação legislativa mais ampla para abordar esses problemas de forma eficaz.

Regulação e Responsabilidade das Plataformas

Fora do contexto eleitoral, a legislação brasileira aborda o uso indevido de imagem e identidade de maneira fragmentada. Embora existam mecanismos para reparação por danos morais e possíveis enquadramentos penais, esses são insuficientes para lidar com a complexidade dos deepfakes. A responsabilidade das plataformas digitais também é questionada, já que o Marco Civil da Internet exige ordem judicial para remoção de conteúdo, o que pode ser inadequado para a rápida disseminação de conteúdos sintéticos.

Abordagem Multidimensional Necessária

Enfrentar os deepfakes requer uma abordagem multifacetada. Do ponto de vista tecnológico, há uma constante batalha entre o desenvolvimento de ferramentas de criação e de detecção. Socialmente, a alfabetização midiática se torna essencial, pois os usuários precisam ser capacitados para avaliar a autenticidade das informações digitais. Apesar dos avanços na legislação, o direito precisa continuar evoluindo para acompanhar as rápidas mudanças tecnológicas e garantir a verdade no espaço público.