A Anthropic est\u00e1 convocando as principais empresas de intelig\u00eancia artificial do mundo a desenvolverem um plano coordenado para interromper o desenvolvimento de sistemas avan\u00e7ados de IA, alertando que a tecnologia est\u00e1 avan\u00e7ando t\u00e3o rapidamente que corre o risco de perder o controle humano.<\/p>\n
A empresa que desenvolveu o chatbot Claude afirmou em uma postagem em seu blog na quinta-feira que, \u00e0 medida que a tecnologia avan\u00e7ada de intelig\u00eancia artificial executa tarefas cada vez mais r\u00e1pido, "seria bom se o mundo tivesse a capacidade de desacelerar ou pausar temporariamente" seu desenvolvimento.<\/p>\n
A Anthropic afirmou que seu instituto de pesquisa interno planeja estudar o assunto em colabora\u00e7\u00e3o com outras organiza\u00e7\u00f5es e "tomar medidas" para ajudar a criar sistemas que possam desacelerar ou interromper o crescimento econ\u00f4mico de forma confi\u00e1vel, sem fornecer detalhes.<\/p>\n
A OpenAI, concorrente anti-humana, defendeu uma abordagem diferente em um relat\u00f3rio divulgado na quarta-feira, argumentando que "regras, salvaguardas e mecanismos de responsabiliza\u00e7\u00e3o devem ser determinados, em \u00faltima inst\u00e2ncia, por governos democr\u00e1ticos, e n\u00e3o por empresas privadas agindo sozinhas".<\/p>\n
\u00ab"Acreditamos que as decis\u00f5es sobre o ritmo da inova\u00e7\u00e3o em intelig\u00eancia artificial n\u00e3o devem ser deixadas a cargo de um \u00fanico laborat\u00f3rio, empresa ou grupo de interesse espec\u00edfico", diz o comunicado.<\/p>\n
Segundo a Anthropic, os modelos de IA est\u00e3o se tornando mais r\u00e1pidos e sua capacidade de executar tarefas de software de forma independente, como programa\u00e7\u00e3o, est\u00e1 aumentando rapidamente. Com base nas tend\u00eancias atuais e com poder computacional suficiente, um sistema de IA ser\u00e1 capaz de projetar e desenvolver seus pr\u00f3prios sucessores, um processo conhecido como "autoaperfei\u00e7oamento recursivo".<\/p>\n
Segundo a Anthropic, a IA auto-organiz\u00e1vel ser\u00e1 um marco tecnol\u00f3gico importante que beneficiar\u00e1 a ci\u00eancia, a sa\u00fade e outros campos, mas "tamb\u00e9m poder\u00e1 aumentar o risco de os humanos perderem o controle dos sistemas de IA".<\/p>\n
Alguns no setor de tecnologia j\u00e1 v\u00eam alertando h\u00e1 tempos para esse cen\u00e1rio.<\/p>\n
O an\u00fancio da Anthropic surge ap\u00f3s outro alerta feito esta semana por uma equipe de pesquisadores da Universidade de Toronto, que demonstraram como ferramentas de IA podem ser usadas para criar um novo tipo de "worm" de IA que adapta sua estrat\u00e9gia de ataque \u00e0 medida que se espalha de dispositivo para dispositivo e assume o controle de uma vasta rede de computadores.<\/p>\n
\u00ab"Acho muito importante que as pessoas entendam que n\u00e3o s\u00e3o apenas os modelos de linguagem maiores e mais poderosos que representam problemas de seguran\u00e7a", disse o pesquisador principal Nicholas Paperno em entrevista.<\/p>\n
Os autores do artigo da Anthropic, o cofundador da empresa Jack Clark e a diretora do instituto de pesquisa Marina Favaro, afirmaram que a pausa ser\u00e1 usada para garantir que a "pesquisa sobre estruturas sociais e coer\u00eancia" possa acompanhar os avan\u00e7os na IA. Coer\u00eancia \u00e9 um termo da ind\u00fastria para o alinhamento da tecnologia com os valores e inten\u00e7\u00f5es humanas.<\/p>\n
A coordena\u00e7\u00e3o proposta permitiria que laborat\u00f3rios de IA de ponta verificassem se os concorrentes globais realmente interromperam ou reduziram o ritmo de suas opera\u00e7\u00f5es, "e se um invasor seria capaz de explorar essa desacelera\u00e7\u00e3o coordenada para superar secretamente os concorrentes".<\/p>\n
A empresa afirmou que um mecanismo global coordenado era necess\u00e1rio porque, sem ele, a desacelera\u00e7\u00e3o no desenvolvimento da IA poderia permitir que agentes "menos cautelosos" alcan\u00e7assem os demais e aumentassem a press\u00e3o sobre empresas e governos que enfrentam decis\u00f5es dif\u00edceis sobre a seguran\u00e7a da IA.<\/p>\n
O an\u00fancio da Anthropic surge em um momento em que a empresa e a OpenAI, desenvolvedora do ChatGPT, se apressam para vender suas a\u00e7\u00f5es na bolsa de valores em uma oferta p\u00fablica inicial (IPO) que pode avaliar a Anthropic em quase um trilh\u00e3o de d\u00f3lares.<\/p>\n
A Papernot notificou as autoridades canadenses de seguran\u00e7a cibern\u00e9tica antes da divulga\u00e7\u00e3o de um relat\u00f3rio que mostrava como pesquisadores desenvolveram o worm em laborat\u00f3rio usando uma ferramenta de intelig\u00eancia artificial de "c\u00f3digo aberto" que desenvolvedores de software podem acessar e modificar de forma f\u00e1cil e barata.<\/p>\n
\u00ab"No passado, os cibercriminosos se concentravam em alvos de alto valor", disse ele. "Sistemas banc\u00e1rios, hospitais, redes el\u00e9tricas, sistemas de tratamento de \u00e1gua, escolas.".<\/p>\n
Papernot concordou que \u00e9 necess\u00e1ria uma maior colabora\u00e7\u00e3o entre empresas, ag\u00eancias governamentais e pesquisadores acad\u00eamicos para desenvolver contramedidas, visto que as ferramentas de hacking baseadas em IA aceleram significativamente a busca por vulnerabilidades de computador.<\/p>\n
\u00ab"Aquele laptop antigo que voc\u00ea guarda no por\u00e3o e raramente verifica pode n\u00e3o parecer um alvo de alto valor, mas pode ser usado como ponto de partida para ataques a alvos mais importantes", disse ele. "Qualquer coisa conectada \u00e0 internet agora est\u00e1 em risco devido ao baixo custo dos ataques cibern\u00e9ticos.".<\/p>","protected":false},"excerpt":{"rendered":"
A Anthropic prop\u00f5e que as principais empresas de intelig\u00eancia artificial do mundo desenvolvam um plano coordenado para interromper o desenvolvimento de sistemas avan\u00e7ados de IA, alertando que a tecnologia est\u00e1 melhorando t\u00e3o rapidamente que...<\/p>","protected":false},"author":1,"featured_media":14393,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[],"class_list":["post-14392","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","hvn-theme-has-thumbnail"],"_links":{"self":[{"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/posts\/14392","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/comments?post=14392"}],"version-history":[{"count":0,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/posts\/14392\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/media\/14393"}],"wp:attachment":[{"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/media?parent=14392"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/categories?post=14392"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/tags?post=14392"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}