A Anthropic está convocando as principais empresas de inteligência artificial do mundo a desenvolverem um plano coordenado para interromper o desenvolvimento de sistemas avançados de IA, alertando que a tecnologia está avançando tão rapidamente que corre o risco de perder o controle humano.
A empresa que desenvolveu o chatbot Claude afirmou em uma postagem em seu blog na quinta-feira que, à medida que a tecnologia avançada de inteligência artificial executa tarefas cada vez mais rápido, "seria bom se o mundo tivesse a capacidade de desacelerar ou pausar temporariamente" seu desenvolvimento.
A Anthropic afirmou que seu instituto de pesquisa interno planeja estudar o assunto em colaboração com outras organizações e "tomar medidas" para ajudar a criar sistemas que possam desacelerar ou interromper o crescimento econômico de forma confiável, sem fornecer detalhes.
A OpenAI, concorrente anti-humana, defendeu uma abordagem diferente em um relatório divulgado na quarta-feira, argumentando que "regras, salvaguardas e mecanismos de responsabilização devem ser determinados, em última instância, por governos democráticos, e não por empresas privadas agindo sozinhas".
«"Acreditamos que as decisões sobre o ritmo da inovação em inteligência artificial não devem ser deixadas a cargo de um único laboratório, empresa ou grupo de interesse específico", diz o comunicado.
Segundo a Anthropic, os modelos de IA estão se tornando mais rápidos e sua capacidade de executar tarefas de software de forma independente, como programação, está aumentando rapidamente. Com base nas tendências atuais e com poder computacional suficiente, um sistema de IA será capaz de projetar e desenvolver seus próprios sucessores, um processo conhecido como "autoaperfeiçoamento recursivo".
Segundo a Anthropic, a IA auto-organizável será um marco tecnológico importante que beneficiará a ciência, a saúde e outros campos, mas "também poderá aumentar o risco de os humanos perderem o controle dos sistemas de IA".
Alguns no setor de tecnologia já vêm alertando há tempos para esse cenário.
O anúncio da Anthropic surge após outro alerta feito esta semana por uma equipe de pesquisadores da Universidade de Toronto, que demonstraram como ferramentas de IA podem ser usadas para criar um novo tipo de "worm" de IA que adapta sua estratégia de ataque à medida que se espalha de dispositivo para dispositivo e assume o controle de uma vasta rede de computadores.
«"Acho muito importante que as pessoas entendam que não são apenas os modelos de linguagem maiores e mais poderosos que representam problemas de segurança", disse o pesquisador principal Nicholas Paperno em entrevista.
Os autores do artigo da Anthropic, o cofundador da empresa Jack Clark e a diretora do instituto de pesquisa Marina Favaro, afirmaram que a pausa será usada para garantir que a "pesquisa sobre estruturas sociais e coerência" possa acompanhar os avanços na IA. Coerência é um termo da indústria para o alinhamento da tecnologia com os valores e intenções humanas.
A coordenação proposta permitiria que laboratórios de IA de ponta verificassem se os concorrentes globais realmente interromperam ou reduziram o ritmo de suas operações, "e se um invasor seria capaz de explorar essa desaceleração coordenada para superar secretamente os concorrentes".
A empresa afirmou que um mecanismo global coordenado era necessário porque, sem ele, a desaceleração no desenvolvimento da IA poderia permitir que agentes "menos cautelosos" alcançassem os demais e aumentassem a pressão sobre empresas e governos que enfrentam decisões difíceis sobre a segurança da IA.
O anúncio da Anthropic surge em um momento em que a empresa e a OpenAI, desenvolvedora do ChatGPT, se apressam para vender suas ações na bolsa de valores em uma oferta pública inicial (IPO) que pode avaliar a Anthropic em quase um trilhão de dólares.
A Papernot notificou as autoridades canadenses de segurança cibernética antes da divulgação de um relatório que mostrava como pesquisadores desenvolveram o worm em laboratório usando uma ferramenta de inteligência artificial de "código aberto" que desenvolvedores de software podem acessar e modificar de forma fácil e barata.
«"No passado, os cibercriminosos se concentravam em alvos de alto valor", disse ele. "Sistemas bancários, hospitais, redes elétricas, sistemas de tratamento de água, escolas.".
Papernot concordou que é necessária uma maior colaboração entre empresas, agências governamentais e pesquisadores acadêmicos para desenvolver contramedidas, visto que as ferramentas de hacking baseadas em IA aceleram significativamente a busca por vulnerabilidades de computador.
«"Aquele laptop antigo que você guarda no porão e raramente verifica pode não parecer um alvo de alto valor, mas pode ser usado como ponto de partida para ataques a alvos mais importantes", disse ele. "Qualquer coisa conectada à internet agora está em risco devido ao baixo custo dos ataques cibernéticos.".