- A Anthropic propôs uma pausa global no desenvolvimento de IA para evitar modelos fora do controle humano.
- Coordenação internacional é necessária para implementar regras claras e mecanismos de verificação, defende a empresa.
- O governo dos EUA amplia monitoramento de tecnologias consideradas estratégicas com avaliações preliminares antes do lançamento.
- A Anthropic alertou para o risco de "melhora recursiva de si mesma", onde um sistema de IA aprende a melhorar continuamente suas próprias capacidades.
A empresa de inteligência artificial Anthropic propôs uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes, diante de sinais de que os modelos mais avançados poderiam, no futuro, escapar do controle humano. Responsável pelos modelos de IA da família Claude, a companhia, sediada em San Francisco, nos Estados Unidos, apresentou a proposta em um relatório recente.
Segundo a Anthropic, uma desaceleração mundial no desenvolvimento da inteligência artificial de ponta poderia ser uma medida positiva para permitir que pesquisas de segurança e mecanismos de controle acompanhem o ritmo dos avanços tecnológicos. A empresa ressaltou, porém, que uma única organização reduzir o ritmo de desenvolvimento teria pouco efeito prático, já que poderia ser rapidamente ultrapassada por concorrentes.
Coordenação internacional seria necessária
A companhia defende que qualquer pausa significativa precisaria ocorrer de forma coordenada entre as principais empresas e governos envolvidos no setor, especialmente nos Estados Unidos e na China. De acordo com a Anthropic, seria necessário criar regras claras e mecanismos de verificação que garantissem o cumprimento simultâneo das restrições por todos os participantes.
A iniciativa enfrenta resistência em setores do governo americano e da indústria de tecnologia. Críticos da proposta argumentam que desacelerar o desenvolvimento da inteligência artificial poderia permitir que países concorrentes, especialmente a China, conquistassem vantagens estratégicas na corrida tecnológica global.
Governo dos EUA amplia monitoramento
Enquanto o debate avança, o presidente Donald Trump assinou nesta semana um decreto que autoriza o governo americano a realizar avaliações preliminares dos modelos de inteligência artificial mais poderosos desenvolvidos por empresas do país antes de seu lançamento. A medida busca ampliar o acompanhamento de tecnologias consideradas estratégicas e de alto impacto.
A Anthropic informou que pretende promover, nos próximos meses, encontros envolvendo representantes do governo, cientistas, organizações da sociedade civil e empresas concorrentes. O objetivo é discutir possíveis mecanismos de coordenação e segurança para o desenvolvimento da inteligência artificial avançada.
IA estaria acelerando seu próprio desenvolvimento
Segundo a empresa, dados internos indicam que a inteligência artificial já está contribuindo para acelerar significativamente os processos de pesquisa e desenvolvimento de novos sistemas. Esse fenômeno poderia criar um ciclo de retroalimentação tecnológica, aumentando a velocidade de evolução dos modelos de IA.
A Anthropic alertou para a hipótese de uma chamada "melhora recursiva de si mesma", conceito segundo o qual um sistema de inteligência artificial poderia aprender a aprimorar continuamente suas próprias capacidades. Embora a empresa afirme que esse cenário não seja inevitável, destaca que as evidências apontam para uma redução gradual da participação humana em diversas etapas do desenvolvimento da tecnologia.
Segundo a companhia, esse processo reforça a necessidade de ampliar os debates sobre segurança, governança e controle da inteligência artificial antes que os sistemas se tornem ainda mais avançados.