No último dia 1º, o ministro Edson Fachin, presidente do STF e do CNJ, participou de um evento no Rio de Janeiro focado na discussão sobre vulnerabilidades algorítmicas. Durante sua fala, Fachin enfatizou que a vulnerabilidade algorítmica não deve ser vista como um efeito colateral, mas sim como um resultado de escolhas de design e opacidade intencional nas estruturas de dados.
Três Vulnerabilidades Identificadas
Fachin destacou três tipos de vulnerabilidades que podem surgir em sistemas algorítmicos: a primeira é o viés algorítmico, que acontece quando os dados utilizados para treinar um sistema refletem desigualdades históricas, como questões de gênero, raça e classe social. Ele exemplificou com um algoritmo de crédito que penaliza candidatos de certas regiões, mostrando como isso pode ser uma forma de discriminação disfarçada de neutralidade científica.
A segunda vulnerabilidade mencionada foi a opacidade decisional. Fachin explicou que isso ocorre em sistemas que negam direitos em áreas como saúde ou emprego, baseando-se em critérios que não podem ser contestados. Essa prática fere um dos pilares do Direito, que é o direito à motivação das decisões.
Por último, o ministro abordou a concentração algorítmica, onde um pequeno número de empresas ou entidades estatais controla os sistemas que regulam o acesso a bens e serviços, limitando as oportunidades disponíveis para a população.
Desafios da Regulação da IA
Fachin destacou a importância de princípios como transparência, auditabilidade e supervisão na regulação da inteligência artificial. Ele defendeu a necessidade de fortalecer o direito à autodeterminação informacional, além de aprimorar os mecanismos de revisão de decisões automatizadas.
O ministro também ressaltou a importância do diálogo entre profissionais do Direito e especialistas em ciência de dados para enfrentar esses desafios. Segundo ele, a inteligência artificial não possui a capacidade de consciência moral e não deve substituir a responsabilidade humana nas decisões.
Fachin finalizou seu discurso afirmando que não se deve demonizar a tecnologia, mas, sim, exigir que ela atenda aos mesmos critérios de justificação e responsabilidade que aplicamos aos instrumentos de poder. Ele concluiu que as exigências do mundo físico devem ser replicadas no ambiente digital, garantindo a dignidade e os direitos fundamentais de todos.