Nesta quinta-feira (4), a Anthropic, empresa conhecida por desenvolver modelos de IA como Claude e Mythos, fez um apelo por uma pausa global no avanço de sistemas de Inteligência Artificial. A proposta surge em meio a preocupações com o controle humano sobre modelos que podem se tornar autônomos e potencialmente perigosos.
Desaceleração é uma boa ideia
A Anthropic argumenta que desacelerar o desenvolvimento da IA de ponta poderia ser benéfico para a sociedade. A empresa destacou que, se apenas um competidor reduzir o ritmo, pode ser rapidamente superado por outros, tornando a coordenação entre as empresas essencial.
Necessidade de coordenação global
Uma verdadeira pausa exigiria que grandes empresas de IA, especialmente nos Estados Unidos e na China, concordassem em interromper suas atividades simultaneamente, com regras claras e verificáveis. A Anthropic alertou que, sem um mecanismo de coordenação, a pressão competitiva pode dificultar decisões sobre segurança.
Desafios nos EUA
A proposta da Anthropic enfrenta resistência em Washington e no Vale do Silício. Executivos de grandes empresas de tecnologia e autoridades americanas temem que uma desaceleração possa conceder vantagem à China no desenvolvimento da IA. O presidente Donald Trump, no entanto, assinou um decreto permitindo avaliações dos modelos de IA mais poderosos antes de seu lançamento.
Reunião com especialistas
A empresa planeja reunir, nos próximos meses, representantes do governo, cientistas, grupos de defesa e concorrentes para discutir a implementação de um sistema de regulamentação e coordenação no desenvolvimento de IA.
Riscos da aceleração da IA
A Anthropic também alertou sobre a rápida aceleração no desenvolvimento da IA, que pode criar um ciclo de retroalimentação. Essa dinâmica pode levar ao que especialistas chamam de "melhoria recursiva de si mesma", onde a IA aprende a se aprimorar de forma independente.
Modelo Mythos e segurança
Recentemente, a empresa lançou o modelo Mythos, porém, com restrições, considerando-o "perigoso demais". A Anthropic solicitou a colaboração de grandes empresas para identificar falhas, temendo que o modelo pudesse ser explorado por hackers para realizar ataques a sistemas financeiros e governamentais.