У чацвер кампанія Anthropic, якая займаецца распрацоўкай штучнага інтэлекту, прапанавала прыпыніць стварэнне самых магутных сістэм ІІ па ўсім свеце, паколькі найноўшыя мадэлі пачынаюць дэманстраваць прыкметы таго, што яны могуць выйсці з-пад кантролю чалавека.
Кампанія з Сан-Францыска, якая распрацоўвае сямейства мадэляў штучнага інтэлекту Claude, заявіла ў сваёй справаздачы, што глабальнае запаволенне развіцця перадавых тэхналогій у вобласці ІІ "верагодна, будзе карысным", але папярэдзіла, што калі спыніцца толькі адна кампанія, канкурэнты проста вырвуцца наперад.
«"Мы лічым, што для свету было б карысна мець магчымасць запаволіць або часова прыпыніць распрацоўку перадавых тэхналогій штучнага інтэлекту, каб дазволіць сацыяльным структурам і даследаванням у галіне ўзгаднення дзеянняў ісці ў нагу з развіццём тэхналогій", — гаворыцца ў заяве.
Як заявілі ў Anthropic, для таго, каб сапраўды прыпыніць працу, неабходна, каб некалькі буйных кампаній, якія займаюцца штучным інтэлектам, у розных краінах - перш за ўсё ў ЗША і Кітаі - пагадзіліся адначасова спыніць распрацоўку, выконваючы правілы, якія ўсё маглі б праверыць.
«"Без глабальнага механізму каардынацыі кампаніям і ўрадам давядзецца прымаць складаныя рашэнні ў галіне бяспекі ва ўмовах канкурэнтнага і геапалітычнага ціску", – гаворыцца ў заяве.
Кампанія сутыкнулася з крытыкай з боку іншых удзельнікаў галіны, а таксама чыноўнікаў Белага дома, якія сцвярджаюць, што яе засяроджанасць на найгоршых сцэнарах перабольшвае рызыкі і ўяўляе сабой стратэгію запаволення канкурэнтаў пад прыкрыццём меркаванняў бяспекі.
Тым не менш, Белая хата прызнаў эфектыўнасць мадэлі Mythos кампаніі, якая не была даступная шырокай публіцы з-за сваіх магчымасцяў у вобласці кібербяспекі і ў наш час выкарыстоўваецца толькі ў невялікім ліку правераных арганізацый.
Прапанова сутыкнецца з сур'ёзнымі цяжкасцямі ў Вашынгтоне і Сіліконавай даліне, дзе амерыканскія чыноўнікі і кіраўнікі тэхналагічных кампаній неаднаразова заяўлялі, што любое запаволенне развіцця ІІ рызыкуе даць Кітаю вырашальнае стратэгічнае перавага ў тым, што многія лічаць вызначальнай тэхналагічнай гонкай стагоддзя.
Аднак прэзідэнт ЗША Дональд Трамп заявіў, што падчас свайго нядаўняга візіту ў Пекін ён абмяркоўваў магчымасць супрацоўніцтва з Кітаем па пытаннях бяспекі штучнага інтэлекту.
На гэтым тыдні Трамп таксама падпісаў указ, які дае ўраду 30 дзён на правядзенне папярэдняй праверкі найболей магутных амерыканскіх мадэляў штучнага інтэлекту перад іх публікацыяй.
- «Звужэнне ролі чалавека» -
Кампанія Anthropic параўнала гэтую праблему з дамовамі аб кантролі над ядзернай зброяй, але адзначыла, што зладзіцца з ёй будзе яшчэ складаней, паколькі навучанне ІІ значна лягчэй схаваць, чым ракетную шахту, і спакуса працягваць працу ўпотай будзе велізарным.
Кампанія заявіла, што ў бліжэйшыя месяцы плануе сабраць разам урадавых чыноўнікаў, вучоных, праваабарончыя групы і канкуруючыя кампаніі, якія займаюцца штучным інтэлектам, каб высветліць, як можа працаваць такая сістэма.
Як адзначае Anthropic, заклік да каардынацыі дзеянняў прагучаў на фоне ўнутраных дадзеных, якія сведчаць аб тым, што ІІ ужо значна паскарае само развіццё штучнага інтэлекту.
Такое паскарэнне стварае замкнёны цыкл зваротнай сувязі, які, як папярэджвае кампанія Anthropic, у канчатковым выніку можа прывесці да таго, што даследнікі завуць "рэкурсіўным самаўдасканаленнем".
У гэтым і заключаецца ідэя сістэмы штучнага інтэлекту, якая становіцца здольнай, па сутнасці, самастойна навучацца і станавіцца разумнейшым, практычна без удзелу чалавека.
«"Мы яшчэ не дасягнулі мэты, і рэкурсіўнае самаўдасканаленне не з'яўляецца непазбежным", – гаворыцца ў дакладзе, дадаючы, што яно можа наступіць раней, чым большасць урадаў і ўстаноў да гэтага гатовыя.
«"Атрыманыя дадзеныя сведчаць аб тым, што роля чалавека звужаецца на кожным этапе працэсу распрацоўкі ІІ", – заявіла кампанія.
арп/сла