Anthropic әлемдегі жетекші жасанды интеллект компанияларын озық жасанды интеллект жүйелерін әзірлеуді тоқтату үшін үйлестірілген жоспар әзірлеуге шақырып, технологияның адам бақылауынан айырылу қаупі төнетіндей тез дамып келе жатқанын ескертеді.
Чатботты жасаған Claude компаниясы бейсенбі күні блог жазбасында жасанды интеллект технологиясы тапсырмаларды жылдамырақ орындаған сайын, «әлемнің оның дамуын баяулатуға немесе уақытша тоқтатуға мүмкіндігі болса жақсы болар еді» деп мәлімдеді.
Anthropic компаниясының ішкі зерттеу институты бұл мәселені басқа ұйымдармен бірлесіп зерттеп, егжей-тегжейлі ақпарат бермей, экономикалық өсімді сенімді түрде баяулататын немесе тоқтата тұратын жүйелерді жасауға көмектесу үшін «іс-қимыл жасауды» жоспарлап отырғанын мәлімдеді.
Адамзатқа қарсы бәсекелес OpenAI сәрсенбіде жарияланған есебінде басқаша тәсілді қолдады, онда «ережелерді, кепілдіктерді және есеп беру механизмдерін жеке компаниялар емес, демократиялық үкіметтер анықтауы керек» деп мәлімдеді.
«Біз жасанды интеллект саласындағы инновация қарқыны туралы шешімдерді бір ғана зертханаға, компанияға немесе арнайы мүдделі топқа қалдыруға болмайды деп санаймыз», - делінген мәлімдемеде.
Anthropic мәліметтері бойынша, жасанды интеллект модельдері жылдамдауда және олардың бағдарламалау сияқты бағдарламалық жасақтама тапсырмаларын өз бетінше орындау мүмкіндігі тез артып келеді. Қазіргі үрдістерге сүйене отырып және жеткілікті есептеу қуатымен жасанды интеллект жүйесі өзінің мұрагерлерін жобалап, дамыта алады, бұл процесс «рекурсивті өзін-өзі жетілдіру» деп аталады.
Anthropic компаниясының айтуынша, өзін-өзі ұйымдастыратын жасанды интеллект ғылым, денсаулық сақтау және басқа да салаларға пайда әкелетін маңызды технологиялық кезең болады, бірақ «адамдардың жасанды интеллект жүйелерін бақылауды жоғалту қаупін арттыруы мүмкін».
Технология саласындағы кейбір мамандар мұндай жағдайдың болатыны туралы ұзақ уақыт бойы ескертіп келді.
Anthropic компаниясының бұл мәлімдемесі осы аптада Торонто университетінің зерттеушілер тобының тағы бір ескертуінен кейін жасалды. Олар жасанды интеллект құралдарын құрылғыдан құрылғыға таралып, кең есептеу желісін басып алған кезде хакерлік стратегиясын бейімдейтін жаңа жасанды интеллект «құртын» жасау үшін қалай пайдалануға болатынын көрсетті.
«Менің ойымша, адамдардың қауіпсіздік мәселелерін тек ең үлкен және ең қуатты тілдік модельдер ғана тудырмайтынын түсінуі өте маңызды», - деді жетекші зерттеуші Николас Паперно сұхбатында.
Anthropic мақаласының авторлары, компанияның негізін қалаушы Джек Кларк және зерттеу институтының директоры Марина Фаваро бұл үзіліс «әлеуметтік құрылымдар мен үйлесімділікті зерттеудің» жасанды интеллект саласындағы жетістіктерге ілесе алатынын қамтамасыз ету үшін қолданылатынын мәлімдеді. Когеренттік – технологияны адами құндылықтар мен ниеттермен үйлестірудің салалық термині.
Ұсынылған үйлестіру озық жасанды интеллект зертханаларына жаһандық бәсекелестердің өз жұмыстарын шынымен тоқтатқанын немесе баяулатқанын «және шабуылдаушы үйлестірілген баяулауды пайдаланып, бәсекелестерден жасырын түрде озып кете алмайтынын» тексеруге мүмкіндік береді.
Компания үйлестірілген жаһандық механизм қажет екенін айтты, себебі онсыз жасанды интеллект дамуының баяулауы «аз сақ» ойыншыларға жасанды интеллект қауіпсіздігіне қатысты қиын шешімдерге тап болған компаниялар мен үкіметтерге қысымды күшейтуге мүмкіндік береді.
Anthropic компаниясының бұл мәлімдемесі компания мен ChatGPT әзірлеушісі OpenAI компаниясы өз акцияларын қор нарығында IPO арқылы сатуға асығып жатқан кезде жасалды, бұл Anthropic компаниясының құнын шамамен триллион долларға жеткізуі мүмкін.
Papernot зерттеушілердің бағдарламалық жасақтама әзірлеушілері оңай және арзан түрде қол жеткізе және өзгерте алатын «ашық бастапқы коды бар» жасанды интеллект құралын пайдаланып зертханада құртты қалай жасағанын көрсететін есеп жарияланғанға дейін Канаданың киберқауіпсіздік органдарына хабарлады.
«Бұрын киберқылмыскерлер жоғары құнды нысандарға назар аударатын», - деді ол. «Банк жүйелері, ауруханалар, электр желілері, су тазарту жүйелері, мектептер».
Папернот компаниялар, мемлекеттік органдар және академиялық зерттеушілер арасында қарсы шараларды әзірлеу үшін көбірек ынтымақтастық қажет деген пікірмен келісті, себебі жасанды интеллектпен жұмыс істейтін хакерлік құралдар компьютерлік осалдықтарды іздеуді айтарлықтай жылдамдатады.
«Жертөледе ұстап, сирек тексеретін ескі ноутбук құнды нысана болып көрінбеуі мүмкін, бірақ оны маңыздырақ нысандарға шабуыл жасау үшін трамплин ретінде пайдалануға болады», - деді ол. «Кибершабуылдардың құнының төмендеуіне байланысты интернетке қосылған кез келген нәрсе қазір қауіп төндіреді».