A Anthropic, a maior startup de inteligência artificial do mundo, pediu um congelamento global no desenvolvimento de IA e alertou que a humanidade corre o risco de perder o controle da tecnologia.
A empresa que desenvolveu o chatbot Claude ofereceu-se para suspender o desenvolvimento de sistemas mais robustos caso receba garantias de que outras empresas farão o mesmo.
«"Se houvesse uma maneira de efetivamente desacelerar o desenvolvimento dessa tecnologia para nos dar mais tempo para lidar com seus enormes desafios, acreditamos que isso provavelmente seria uma coisa boa", escreveram os executivos da empresa.
Eles compararam o surgimento de sistemas de inteligência artificial poderosos a um "problema de controle de armas" e alertaram que o tempo estava se esgotando para conter a tecnologia.
A Anthropic ultrapassou recentemente a OpenAI, desenvolvedora do ChatGPT, e se tornou a empresa de IA mais valiosa do mundo, com uma capitalização de mercado de US$ 965 bilhões (R$ 719 bilhões). A empresa adiou o lançamento público de seu sistema mais poderoso, o Mythos, devido a preocupações de que ele possa ser usado para realizar ataques cibernéticos destrutivos.
Em um ensaio publicado na noite de quinta-feira, Marina Favaro e Jack Clark, chefe de pesquisa e presidente da Anthropic, afirmaram que a tecnologia de inteligência artificial está se aproximando do ponto em que os sistemas começarão a evoluir por conta própria.
Eles disseram que esse momento, conhecido como "autoaperfeiçoamento recursivo", poderia levar a uma explosão de capacidades, mas também poderia significar que os humanos seriam incapazes de controlar os sistemas de IA.
A Anthropic se posiciona como a empresa mais comprometida em garantir a segurança dessa tecnologia de IA, ao mesmo tempo em que realiza avanços científicos que, segundo ela, podem levar à criação de sistemas perigosos.
O CEO da empresa, Dario Amodei, disse que havia 25% de chance de "as coisas darem muito, muito errado".
Na quinta-feira, a empresa afirmou: "Se a desaceleração do crescimento permitir que os participantes menos cautelosos do mercado simplesmente alcancem os demais tecnologicamente, isso poderá tornar todos menos seguros.".
«"Acreditamos que seria benéfico para o mundo poder desacelerar ou pausar temporariamente o desenvolvimento de tecnologias avançadas de IA para permitir que as pesquisas sobre estruturas sociais e coordenação de processos acompanhem o ritmo.".
No entanto, o relatório alertou que coordenar um congelamento global seria extremamente desafiador, apontando para a forte competição entre os EUA e a China na área da inteligência artificial.
«"Uma desaceleração ou suspensão significativa exigiria o acordo de vários laboratórios bem equipados, na vanguarda da pesquisa ou próximos a ela, em diferentes países, para cessar as operações sob as mesmas condições", diz o documento.
«"Isso também exigiria que todos pudessem confirmar que os outros realmente pararam... Treinos são muito mais fáceis de esconder do que silos de mísseis.".
A Sra. Favaro e o Sr. Clark afirmaram que os funcionários da Anthropic estão produzindo oito vezes mais código do que produziam entre 2021 e 2025, e que a IA está aprimorando suas habilidades em propor novas ideias e planejar pesquisas, o que, segundo eles, é um passo em direção à criação de uma IA auto-organizável.
Outros especialistas argumentam que a empresa está exagerando as capacidades da IA ou criando alertas de IA para introduzir regras que poderiam prejudicar os concorrentes.
Isso ocorre após uma venda maciça de ações de empresas que desenvolvem microchips para inteligência artificial, depois que a fabricante de semicondutores Broadcom decepcionou os investidores com sua previsão de vendas.
As ações da empresa caíram 13%, eliminando cerca de US$ 300 bilhões de sua capitalização de mercado, com as ações de outras fabricantes de chips, como Micron, SK Hynix e Arm, também caindo acentuadamente.
A onda de vendas gerou preocupações sobre uma possível bolha no mercado de inteligência artificial devido a questionamentos sobre a demanda por chips da Broadcom.
Experimente o The Telegraph hoje mesmo e tenha acesso completo e gratuito. Descubra o premiado site e o aplicativo de notícias essencial, além de ferramentas úteis e guias especializados sobre finanças, saúde e lazer.