Әлемдегі ең ірі жасанды интеллект стартапы Anthropic жасанды интеллекттің дамуын жаһандық деңгейде тоқтатуға шақырып, адамзаттың технологияны бақылаудан айырылып қалу қаупі бар екенін ескертті.
Чатбот Клодты жасаған компания басқалардың да солай істейтініне кепілдік алса, қуатты жүйелердегі жұмысты тоқтата тұруды ұсынды.
«Егер осы технологияның дамуын тиімді түрде баяулатудың және оның үлкен қиындықтарын шешуге көбірек уақыт берудің жолы болса, біз бұл жақсы нәрсе болар еді деп ойлаймыз», - деп жазды компания басшылары.
Олар қуатты жасанды интеллект жүйелерінің пайда болуын «қару-жарақты бақылау мәселесімен» салыстырып, технологияны тізгіндеуге уақыт азайып бара жатқанын ескертті.
Anthropic жақында ChatGPT әзірлеушісі OpenAI-ді басып озып, әлемдегі ең құнды жасанды интеллект компаниясына айналды, оның нарықтық капитализациясы 965 миллиард долларды (719 миллиард фунт стерлинг) құрады. Ол өзінің ең қуатты жүйесі Mythos-тың жария етілуін оны деструктивті кибершабуылдар жасау үшін пайдалануы мүмкін деген алаңдаушылыққа байланысты кейінге қалдырды.
Бейсенбі күні кешке жарияланған эсседе Марина Фаваро мен Anthropic зерттеу бөлімінің басшысы және президенті Джек Кларк жасанды интеллект технологиясы жүйелер өздігінен дами бастайтын нүктеге жақындап келе жатқанын айтты.
Олардың айтуынша, «рекурсивті өзін-өзі жетілдіру» деп аталатын бұл сәт мүмкіндіктердің жарылуына әкелуі мүмкін, бірақ сонымен бірге адамдардың жасанды интеллект жүйелерін басқара алмайтынын білдіруі мүмкін.
Anthropic өзін осы жасанды интеллект технологиясының қауіпсіздігін қамтамасыз етуге ең берік деп санайды, сонымен бірге қауіпті жүйелердің жасалуына әкелуі мүмкін ғылыми жетістіктерге қол жеткізеді.
Компанияның бас директоры Дарио Амодей «жағдайдың өте, өте нашар болуы» ықтималдығы 25 пайыз екенін айтты.
Бейсенбі күні компания: «Егер өсімнің баяулауы нарықтың онша сақ емес қатысушыларына технологиялық тұрғыдан оңай қуып жетуге мүмкіндік берсе, бұл барлығының қауіпсіздігін төмендетуі мүмкін», - деп мәлімдеді.
«Біз әлем үшін әлеуметтік құрылымдар мен процестерді үйлестіру зерттеулерінің қарқынын сақтауға мүмкіндік беру үшін озық жасанды интеллект технологияларының дамуын баяулату немесе уақытша тоқтата тұру пайдалы болар еді деп санаймыз».
Дегенмен, есепте жаһандық мұздатуды үйлестіру өте қиын болатыны ескертіліп, АҚШ пен Қытай арасындағы жасанды интеллект саласындағы қатаң бәсекелестікке назар аударылды.
«Елеулі баяулау немесе тоқтата тұру әртүрлі елдердегі зерттеулердің алдыңғы қатарындағы немесе оған жақын орналасқан бірнеше жақсы жабдықталған зертханалардың бірдей жағдайларда жұмысын тоқтатуға келісімін талап етеді», - делінген құжатта.
«Сондай-ақ, бұл әркімнің басқалардың шынымен тоқтағанын растай алуын талап етеді... Зымыран силостарына қарағанда жаттығу жүгірістерін жасыру әлдеқайда оңай».
Фаваро ханым мен Кларк мырза Anthropic қызметкерлері қазір 2021 және 2025 жылдар аралығындағыға қарағанда сегіз есе көп код шығарып жатқанын және жасанды интеллект жаңа идеялар ұсыну және зерттеулерді жоспарлау дағдыларын жетілдіріп жатқанын, бұл өзін-өзі ұйымдастыратын жасанды интеллект құруға бағытталған қадам екенін айтты.
Басқа сарапшылар компанияның жасанды интеллект мүмкіндіктерін асыра сілтеп немесе бәсекелестерге зиян келтіруі мүмкін ережелерді енгізу үшін жасанды интеллект туралы ескертулер жасап жатқанын айтады.
Бұл жартылай өткізгіш өндіруші Broadcom компаниясының сату болжамымен инвесторлардың көңілін қалдырғаннан кейін жасанды интеллектке арналған микрочиптерді әзірлейтін компаниялардың акцияларының жаппай сатылуынан кейін орын алды.
Компания акциялары 13%-ге төмендеп, нарықтық капитализациясынан шамамен 300 миллиард доллар шығынға ұшырады, сонымен қатар Micron, SK Hynix және Arm сияқты басқа чип өндірушілердің акциялары да күрт төмендеді.
Broadcom чиптеріне деген сұранысқа қатысты сұрақтарға байланысты сатылым жасанды интеллект нарығындағы көпіршік туралы алаңдаушылық тудырды.
Толық тегін кіру үшін бүгін The Telegraph газетін қолданып көріңіз. Олардың марапатталған веб-сайты мен маңызды жаңалықтар қолданбасын, сондай-ақ қаржы, денсаулық және демалыс бойынша пайдалы құралдар мен сараптамалық нұсқаулықтарды табыңыз.