A Anthropic, a maior startup de intelig\u00eancia artificial do mundo, pediu um congelamento global no desenvolvimento de IA e alertou que a humanidade corre o risco de perder o controle da tecnologia.<\/p>\n
A empresa que desenvolveu o chatbot Claude ofereceu-se para suspender o desenvolvimento de sistemas mais robustos caso receba garantias de que outras empresas far\u00e3o o mesmo.<\/p>\n
\u00ab"Se houvesse uma maneira de efetivamente desacelerar o desenvolvimento dessa tecnologia para nos dar mais tempo para lidar com seus enormes desafios, acreditamos que isso provavelmente seria uma coisa boa", escreveram os executivos da empresa.<\/p>\n
Eles compararam o surgimento de sistemas de intelig\u00eancia artificial poderosos a um "problema de controle de armas" e alertaram que o tempo estava se esgotando para conter a tecnologia.<\/p>\n
A Anthropic ultrapassou recentemente a OpenAI, desenvolvedora do ChatGPT, e se tornou a empresa de IA mais valiosa do mundo, com uma capitaliza\u00e7\u00e3o de mercado de US$ 965 bilh\u00f5es (R$ 719 bilh\u00f5es). A empresa adiou o lan\u00e7amento p\u00fablico de seu sistema mais poderoso, o Mythos, devido a preocupa\u00e7\u00f5es de que ele possa ser usado para realizar ataques cibern\u00e9ticos destrutivos.<\/p>\n
Em um ensaio publicado na noite de quinta-feira, Marina Favaro e Jack Clark, chefe de pesquisa e presidente da Anthropic, afirmaram que a tecnologia de intelig\u00eancia artificial est\u00e1 se aproximando do ponto em que os sistemas come\u00e7ar\u00e3o a evoluir por conta pr\u00f3pria.<\/p>\n
Eles disseram que esse momento, conhecido como "autoaperfei\u00e7oamento recursivo", poderia levar a uma explos\u00e3o de capacidades, mas tamb\u00e9m poderia significar que os humanos seriam incapazes de controlar os sistemas de IA.<\/p>\n
A Anthropic se posiciona como a empresa mais comprometida em garantir a seguran\u00e7a dessa tecnologia de IA, ao mesmo tempo em que realiza avan\u00e7os cient\u00edficos que, segundo ela, podem levar \u00e0 cria\u00e7\u00e3o de sistemas perigosos.<\/p>\n
O CEO da empresa, Dario Amodei, disse que havia 25% de chance de "as coisas darem muito, muito errado".<\/p>\n
Na quinta-feira, a empresa afirmou: "Se a desacelera\u00e7\u00e3o do crescimento permitir que os participantes menos cautelosos do mercado simplesmente alcancem os demais tecnologicamente, isso poder\u00e1 tornar todos menos seguros.".<\/p>\n
\u00ab"Acreditamos que seria ben\u00e9fico para o mundo poder desacelerar ou pausar temporariamente o desenvolvimento de tecnologias avan\u00e7adas de IA para permitir que as pesquisas sobre estruturas sociais e coordena\u00e7\u00e3o de processos acompanhem o ritmo.".<\/p>\n
No entanto, o relat\u00f3rio alertou que coordenar um congelamento global seria extremamente desafiador, apontando para a forte competi\u00e7\u00e3o entre os EUA e a China na \u00e1rea da intelig\u00eancia artificial.<\/p>\n
\u00ab"Uma desacelera\u00e7\u00e3o ou suspens\u00e3o significativa exigiria o acordo de v\u00e1rios laborat\u00f3rios bem equipados, na vanguarda da pesquisa ou pr\u00f3ximos a ela, em diferentes pa\u00edses, para cessar as opera\u00e7\u00f5es sob as mesmas condi\u00e7\u00f5es", diz o documento.<\/p>\n
\u00ab"Isso tamb\u00e9m exigiria que todos pudessem confirmar que os outros realmente pararam... Treinos s\u00e3o muito mais f\u00e1ceis de esconder do que silos de m\u00edsseis.".<\/p>\n
A Sra. Favaro e o Sr. Clark afirmaram que os funcion\u00e1rios da Anthropic est\u00e3o produzindo oito vezes mais c\u00f3digo do que produziam entre 2021 e 2025, e que a IA est\u00e1 aprimorando suas habilidades em propor novas ideias e planejar pesquisas, o que, segundo eles, \u00e9 um passo em dire\u00e7\u00e3o \u00e0 cria\u00e7\u00e3o de uma IA auto-organiz\u00e1vel.<\/p>\n
Outros especialistas argumentam que a empresa est\u00e1 exagerando as capacidades da IA ou criando alertas de IA para introduzir regras que poderiam prejudicar os concorrentes.<\/p>\n
Isso ocorre ap\u00f3s uma venda maci\u00e7a de a\u00e7\u00f5es de empresas que desenvolvem microchips para intelig\u00eancia artificial, depois que a fabricante de semicondutores Broadcom decepcionou os investidores com sua previs\u00e3o de vendas.<\/p>\n
As a\u00e7\u00f5es da empresa ca\u00edram 13%, eliminando cerca de US$ 300 bilh\u00f5es de sua capitaliza\u00e7\u00e3o de mercado, com as a\u00e7\u00f5es de outras fabricantes de chips, como Micron, SK Hynix e Arm, tamb\u00e9m caindo acentuadamente.<\/p>\n
A onda de vendas gerou preocupa\u00e7\u00f5es sobre uma poss\u00edvel bolha no mercado de intelig\u00eancia artificial devido a questionamentos sobre a demanda por chips da Broadcom.<\/p>\n
Experimente o The Telegraph hoje mesmo e tenha acesso completo e gratuito. Descubra o premiado site e o aplicativo de not\u00edcias essencial, al\u00e9m de ferramentas \u00fateis e guias especializados sobre finan\u00e7as, sa\u00fade e lazer.<\/p>","protected":false},"excerpt":{"rendered":"
A Anthropic, a maior startup de intelig\u00eancia artificial do mundo, pediu um congelamento global no desenvolvimento de IA e alertou que a humanidade corre o risco de perder o controle dessa tecnologia\u2026<\/p>","protected":false},"author":1,"featured_media":13093,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[],"class_list":["post-13092","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","hvn-theme-has-thumbnail"],"_links":{"self":[{"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/posts\/13092","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/comments?post=13092"}],"version-history":[{"count":0,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/posts\/13092\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/media\/13093"}],"wp:attachment":[{"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/media?parent=13092"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/categories?post=13092"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/imgist.ru\/pt\/wp-json\/wp\/v2\/tags?post=13092"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}