Empresa alerta para avanço autônomo da inteligência artificial e propõe coordenação internacional para evitar perdas de controle
A Anthropic propõe uma pausa global na inteligência artificial para evitar riscos e perda de controle diante do avanço autônomo das tecnologias.
Proposta da Anthropic para uma pausa global na inteligência artificial
A Anthropic lançou em 4 de junho de 2026 uma proposta para estabelecer uma pausa global na inteligência artificial, diante de indícios de que os modelos mais avançados podem escapar do controle humano e gerar riscos imensos para a sociedade. A ideia central é frear temporariamente o desenvolvimento acelerado e autônomo da IA, chamado de autoaperfeiçoamento recursivo, para que a evolução tecnológica não ultrapasse a capacidade das estruturas sociais e de pesquisa de alinhamento de acompanhar e controlar esses avanços.
Avanços recentes que intensificam o debate sobre controle da IA
Segundo a presidente do Instituto Anthropic, Marina Favaro, que tem experiência em políticas públicas e setor bélico, a velocidade e a eficácia dos modelos aumentaram consideravelmente. A produtividade dos engenheiros, com auxílio da IA, subiu oito vezes entre 2021 e 2025, e a taxa de sucesso do modelo Claude em problemas complexos atingiu 76%, contra 26% em seis meses. Esses progressos aceleram o ciclo tecnológico e aumentam as preocupações sobre a possibilidade de uma IA desenvolver sucessores ainda mais avançados, sem supervisão humana.
Desafios geopolíticos e econômicos para uma coordenação internacional
A ideia de pausar o desenvolvimento de IA enfrenta resistência significativa, principalmente nos Estados Unidos, onde autoridades e executivos alertam que uma desaceleração unilateral poderia favorecer a China. O presidente Donald Trump assinou decreto para avaliar modelos poderosos antes de seu lançamento, demonstrando preocupação com a segurança, mas também a vontade de manter a liderança tecnológica. A Anthropic, por sua vez, defende um mecanismo verificável e coordenado globalmente, envolvendo grandes empresas e governos, para que nenhum ator avance isoladamente e comprometa a segurança coletiva.
Riscos e cenários previstos para o avanço autônomo da IA
Pesquisadores alertam que o autoaperfeiçoamento recursivo pode criar um ciclo de retroalimentação que tornaria a IA cada vez mais inteligente e difícil de controlar. Estudiosos como Eliezer Yudkowsky e Nate Soares descrevem cenários em que sistemas autônomos evoluiriam rapidamente, superando humanos em complexidade e capacidades, potencialmente acarretando consequências catastróficas. Embora esses cenários ainda sejam teóricos, a Anthropic considera prudente agir preventivamente para mitigar riscos e garantir o alinhamento da IA com valores humanos.
Próximos passos e mobilização para regulação responsável da inteligência artificial
Marina Favaro anunciou a intenção de reunir representantes governamentais, cientistas, ativistas e concorrentes para discutir e estruturar os sistemas necessários para uma pausa global crível e verificável. A proposta inclui o desenvolvimento de regras e mecanismos de monitoramento para assegurar que todos os participantes respeitem a desaceleração. Este movimento reflete um esforço crescente da comunidade tecnológica para equilibrar a inovação com a responsabilidade social, buscando evitar que pressões competitivas e geopolíticas comprometam a segurança e o controle da inteligência artificial.
Fonte: www1.folha.uol.com.br
Fonte: Sebastien Bozon/AFP
