A Anthropic, empresa de inteligência artificial, publicou um artigo em seu blog propondo uma desaceleração global no desenvolvimento dessa tecnologia. A razão principal é a rapidez com que os avanços estão ocorrendo, o que, segundo a companhia, poderia levar à criação de sistemas que desenvolvem sucessores por conta própria, um cenário preocupante para muitas instituições.
Benefícios e riscos da IA autônoma
No texto, a Anthropic reconhece que uma IA capaz de se autoaprimorar poderia trazer enormes benefícios para várias áreas, como saúde e ciência. Entretanto, alerta que isso também ampliaria os riscos de perda de controle por parte dos humanos sobre essa tecnologia. A proposta de desaceleração visa dar mais tempo para as estruturas sociais e as pesquisas de alinhamento se adaptarem a essa evolução tecnológica.
Condições para uma desaceleração eficaz
A empresa enfatiza que, para que a desaceleração seja efetiva, é essencial a implementação de mecanismos de fiscalização. Sem controle, algumas empresas poderiam continuar suas atividades em segredo, enquanto outras respeitam a pausa. A Anthropic destaca que uma desaceleração significativa exigiria um acordo entre múltiplos laboratórios bem financiados, em diferentes países, para garantir que todos parassem sob as mesmas condições.
Comparação com tratados de armas nucleares
A Anthropic compara sua proposta a tratados de armas nucleares, sugerindo que uma coordenação internacional é viável, embora reconheça que tal processo pode levar décadas, um desafio frente à velocidade das inovações no setor de IA.
Diálogo com formuladores de políticas
Nos próximos meses, a empresa planeja dialogar com formuladores de políticas, pesquisadores e outras empresas de IA, com o intuito de apresentar os resultados dessas discussões futuramente. Essa iniciativa é parte do trabalho do Anthropic Institute, divisão de pesquisa criada para estudar os desafios que surgem com o desenvolvimento de sistemas de IA mais avançados.
Críticas e percepções do mercado
A proposta da Anthropic também gerou críticas. Parte do setor considera os alertas da empresa sobre os riscos de sua própria tecnologia como uma estratégia de marketing, visando melhorar sua imagem em comparação com concorrentes. Um exemplo é o lançamento restrito do modelo de IA para cibersegurança, Mythos, que foi disponibilizado apenas para um grupo seleto de parceiros, levando a interpretações de que a empresa busca criar expectativa ao redor do produto.