O CEO da OpenAI, Sam Altman, juntou-se a líderes de empresas rivais de inteligência artificial para pedir novas leis que possam ajudar a impedir o uso da inteligência artificial no desenvolvimento de armas biológicas.
O Sr. Altman juntou-se a Dario Amodei, da Anthropic, Demis Hassabis, do Google DeepMind, e Mustafa Suleiman, da Microsoft AI, na assinatura de uma carta aberta em apoio a regulamentações que exigiriam que as empresas que vendem DNA sintético verificassem os clientes e os pedidos.
Os signatários do acordo afirmam que ele ajudará a impedir que material genético seja usado indevidamente por criminosos para criar armas biológicas perigosas.
«"Embora esse problema não seja novo, o ritmo do progresso na inteligência artificial é. Os sistemas de IA agora superam virologistas com doutorado quando se trata de procedimentos laboratoriais de alta tecnologia em suas próprias áreas de especialização", afirma a carta.
«"Além dos incríveis benefícios para a ciência e a medicina, existe uma possibilidade real de que as barreiras de conhecimento que historicamente impediram os atacantes de obter armas biológicas sejam significativamente enfraquecidas.".
A carta, intitulada "Em apoio à triagem obrigatória e ao registro de dados para a síntese de ácidos nucleicos", descreve "um raro momento de concordância entre partes interessadas que frequentemente divergem".
O Sr. Altman e o Sr. Amodei entraram em conflito recentemente sobre a segurança da IA, particularmente depois que o diretor executivo da Anthropic afirmou que não poderia "capitular moralmente" às exigências do Departamento de Defesa dos EUA para usar sua tecnologia em vigilância e armas autônomas.
Posteriormente, a OpenAI fechou um acordo com o Pentágono, embora o Sr. Altman tenha reconhecido mais tarde, em um memorando interno, que o anúncio pareceu "oportunista e descuidado".
No palco do India AI Impact Summit, em Nova Delhi, no início deste ano, os dois líderes de tecnologia eram os únicos, em uma foto de grupo de 14 pessoas, que não estavam de mãos dadas.
O Sr. Amodei trabalhou anteriormente na OpenAI, mas deixou a empresa em 2021 devido a preocupações com a segurança da IA. Nesse mesmo ano, ele fundou a Anthropic com outros seis ex-funcionários da OpenAI.