Anthropic appelle les principales entreprises mondiales d'intelligence artificielle \u00e0 \u00e9laborer un plan coordonn\u00e9 pour stopper le d\u00e9veloppement des syst\u00e8mes d'IA avanc\u00e9s, avertissant que cette technologie progresse si rapidement qu'elle risque de perdre le contr\u00f4le humain.<\/p>\n
L'entreprise qui a d\u00e9velopp\u00e9 le chatbot Claude a d\u00e9clar\u00e9 jeudi dans un article de blog que, face \u00e0 l'acc\u00e9l\u00e9ration constante des t\u00e2ches par les technologies d'intelligence artificielle avanc\u00e9es, \u00ab il serait souhaitable que le monde ait la possibilit\u00e9 de ralentir ou de suspendre temporairement \u00bb leur d\u00e9veloppement.<\/p>\n
Anthropic a d\u00e9clar\u00e9 que son institut de recherche interne pr\u00e9voyait d'\u00e9tudier la question en collaboration avec d'autres organisations et de \u00ab prendre des mesures \u00bb pour contribuer \u00e0 la cr\u00e9ation de syst\u00e8mes permettant de ralentir ou de suspendre de mani\u00e8re cr\u00e9dible la croissance \u00e9conomique, sans fournir de d\u00e9tails.<\/p>\n
OpenAI, entreprise rivale de l'intelligence artificielle anti-humaine, a pr\u00e9conis\u00e9 une approche diff\u00e9rente dans un rapport publi\u00e9 mercredi, arguant que \u00ab les r\u00e8gles, les garanties et les m\u00e9canismes de responsabilit\u00e9 devraient en fin de compte \u00eatre d\u00e9termin\u00e9s par les gouvernements d\u00e9mocratiques, et non par des entreprises priv\u00e9es agissant seules \u00bb.<\/p>\n
\u00ab Nous estimons que les d\u00e9cisions relatives au rythme de l'innovation en intelligence artificielle ne devraient pas \u00eatre laiss\u00e9es \u00e0 un seul laboratoire, une seule entreprise ou un seul groupe d'int\u00e9r\u00eat particulier \u00bb, indique le communiqu\u00e9.<\/p>\n
Selon Anthropic, les mod\u00e8les d'IA sont de plus en plus rapides et leur capacit\u00e9 \u00e0 ex\u00e9cuter de mani\u00e8re autonome des t\u00e2ches logicielles, comme la programmation, progresse rapidement. Compte tenu des tendances actuelles et gr\u00e2ce \u00e0 une puissance de calcul suffisante, un syst\u00e8me d'IA sera capable de concevoir et de d\u00e9velopper ses propres successeurs, un processus appel\u00e9 \u00ab\u00a0auto-am\u00e9lioration r\u00e9cursive\u00a0\u00bb.<\/p>\n
Selon Anthropic, l'IA auto-organis\u00e9e constituera une \u00e9tape technologique majeure qui profitera \u00e0 la science, \u00e0 la sant\u00e9 et \u00e0 d'autres domaines, mais \u00ab pourrait \u00e9galement accro\u00eetre le risque que les humains perdent le contr\u00f4le des syst\u00e8mes d'IA \u00bb.<\/p>\n
Certains acteurs du secteur technologique mettent en garde depuis longtemps contre un tel sc\u00e9nario.<\/p>\n
L'annonce d'Anthropic fait suite \u00e0 un autre avertissement lanc\u00e9 cette semaine par une \u00e9quipe de chercheurs de l'Universit\u00e9 de Toronto, qui ont d\u00e9montr\u00e9 comment les outils d'IA pourraient \u00eatre utilis\u00e9s pour cr\u00e9er un nouveau type de \u00ab ver \u00bb d'IA qui adapte sa strat\u00e9gie de piratage \u00e0 mesure qu'il se propage d'un appareil \u00e0 l'autre et prend le contr\u00f4le d'un vaste r\u00e9seau informatique.<\/p>\n
\u00ab Je pense qu\u2019il est vraiment important que les gens comprennent que ce ne sont pas seulement les mod\u00e8les de langage les plus grands et les plus puissants qui posent des probl\u00e8mes de s\u00e9curit\u00e9 \u00bb, a d\u00e9clar\u00e9 Nicholas Paperno, chercheur principal, lors d\u2019une interview.<\/p>\n
Les auteurs de l'article publi\u00e9 dans Anthropic, Jack Clark, cofondateur de l'entreprise, et Marina Favaro, directrice de l'institut de recherche, ont d\u00e9clar\u00e9 que cette pause permettra de garantir que la recherche sur les structures sociales et la coh\u00e9rence puisse suivre le rythme des progr\u00e8s de l'IA. La coh\u00e9rence, dans le jargon du secteur, d\u00e9signe l'alignement de la technologie avec les valeurs et les intentions humaines.<\/p>\n
La coordination propos\u00e9e permettrait aux laboratoires d'IA de pointe de v\u00e9rifier si les concurrents mondiaux ont r\u00e9ellement arr\u00eat\u00e9 ou ralenti leurs op\u00e9rations, \u00ab et qu'un attaquant ne serait pas en mesure d'exploiter le ralentissement coordonn\u00e9 pour devancer secr\u00e8tement ses concurrents \u00bb.<\/p>\n
L'entreprise a d\u00e9clar\u00e9 qu'un m\u00e9canisme mondial coordonn\u00e9 \u00e9tait n\u00e9cessaire car, sans lui, le ralentissement du d\u00e9veloppement de l'IA pourrait permettre \u00e0 des acteurs \u00ab moins prudents \u00bb de rattraper leur retard et d'accro\u00eetre la pression sur les entreprises et les gouvernements confront\u00e9s \u00e0 des d\u00e9cisions difficiles concernant la s\u00e9curit\u00e9 de l'IA.<\/p>\n
L'annonce d'Anthropic intervient alors que la soci\u00e9t\u00e9 et OpenAI, d\u00e9veloppeur de ChatGPT, s'empressent de vendre leurs actions en bourse lors d'une introduction en bourse qui pourrait valoriser Anthropic \u00e0 pr\u00e8s d'un billion de dollars.<\/p>\n
Papernot a averti les autorit\u00e9s canadiennes de cybers\u00e9curit\u00e9 avant la publication d'un rapport montrant comment des chercheurs ont d\u00e9velopp\u00e9 le ver en laboratoire \u00e0 l'aide d'un outil d'intelligence artificielle \u00ab open source \u00bb auquel les d\u00e9veloppeurs de logiciels peuvent facilement et \u00e0 moindre co\u00fbt acc\u00e9der et qu'ils peuvent modifier.<\/p>\n
\u00ab\u00a0Auparavant, les cybercriminels ciblaient principalement les infrastructures de grande valeur\u00a0\u00bb, a-t-il d\u00e9clar\u00e9. \u00ab\u00a0Les syst\u00e8mes bancaires, les h\u00f4pitaux, les r\u00e9seaux \u00e9lectriques, les syst\u00e8mes de traitement des eaux, les \u00e9coles.\u00a0\u00bb.<\/p>\n
Papernot a convenu qu'une collaboration accrue est n\u00e9cessaire entre les entreprises, les agences gouvernementales et les chercheurs universitaires pour d\u00e9velopper des contre-mesures, car les outils de piratage bas\u00e9s sur l'IA acc\u00e9l\u00e8rent consid\u00e9rablement la recherche de vuln\u00e9rabilit\u00e9s informatiques.<\/p>\n
\u00ab Ce vieux portable que vous laissez au sous-sol et que vous consultez rarement ne semble peut-\u00eatre pas \u00eatre une cible de grande valeur, mais il peut servir de tremplin pour des attaques contre des cibles plus importantes \u00bb, a-t-il d\u00e9clar\u00e9. \u00ab Tout ce qui est connect\u00e9 \u00e0 Internet est d\u00e9sormais vuln\u00e9rable, compte tenu du faible co\u00fbt des cyberattaques. \u00bb.<\/p>","protected":false},"excerpt":{"rendered":"
Anthropic propose que les principales entreprises mondiales d'intelligence artificielle \u00e9laborent un plan coordonn\u00e9 pour stopper le d\u00e9veloppement des syst\u00e8mes d'IA avanc\u00e9s, avertissant que cette technologie progresse si rapidement qu'il existe\u2026<\/p>","protected":false},"author":1,"featured_media":14393,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[],"class_list":["post-14392","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","hvn-theme-has-thumbnail"],"_links":{"self":[{"href":"https:\/\/imgist.ru\/fr\/wp-json\/wp\/v2\/posts\/14392","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/imgist.ru\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/imgist.ru\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/imgist.ru\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/imgist.ru\/fr\/wp-json\/wp\/v2\/comments?post=14392"}],"version-history":[{"count":0,"href":"https:\/\/imgist.ru\/fr\/wp-json\/wp\/v2\/posts\/14392\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/imgist.ru\/fr\/wp-json\/wp\/v2\/media\/14393"}],"wp:attachment":[{"href":"https:\/\/imgist.ru\/fr\/wp-json\/wp\/v2\/media?parent=14392"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/imgist.ru\/fr\/wp-json\/wp\/v2\/categories?post=14392"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/imgist.ru\/fr\/wp-json\/wp\/v2\/tags?post=14392"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}