Anthropic dunyoning yetakchi sun'iy intellekt kompaniyalarini ilg'or AI tizimlarini ishlab chiqishni to'xtatish bo'yicha muvofiqlashtirilgan reja ishlab chiqishga chaqirmoqda va texnologiya shunchalik tez rivojlanmoqdaki, inson nazoratini yo'qotish xavfi tug'dirayotgani haqida ogohlantirmoqda.
Chatbot Claude’ni ishlab chiqqan kompaniya payshanba kuni blog postida ilg«or sun’iy intellekt texnologiyasi vazifalarni tezroq va tezroq bajarayotgani sababli, »dunyo uning rivojlanishini sekinlashtirishi yoki vaqtincha to‘xtatib turishi mumkin bo‘lsa yaxshi bo‘lardi”, deb aytdi.
Anthropicning aytishicha, uning ichki tadqiqot instituti boshqa tashkilotlar bilan hamkorlikda ushbu masalani o'rganishni va tafsilotlarni taqdim etmasdan iqtisodiy o'sishni ishonchli tarzda sekinlashtirish yoki to'xtatib turish tizimlarini yaratishga yordam berish uchun "choralar ko'rishni" rejalashtirmoqda.
Insoniyatga qarshi raqib OpenAI chorshanba kuni eʼlon qilingan hisobotda boshqacha yondashuvni qoʻllab-quvvatladi va unda «qoidalar, himoya choralari va javobgarlik mexanizmlari oxir-oqibat xususiy kompaniyalar tomonidan emas, balki demokratik hukumatlar tomonidan belgilanishi kerak» deb taʼkidladi.
«"Bizning fikrimizcha, sun'iy intellektdagi innovatsiyalar sur'ati haqidagi qarorlar biron bir laboratoriya, kompaniya yoki maxsus manfaatlar guruhiga qoldirilmasligi kerak", deyiladi bayonotda.
Anthropicning fikriga ko'ra, AI modellari tezroq rivojlanmoqda va ularning dasturlash kabi dasturiy vazifalarni mustaqil ravishda bajarish qobiliyati tez sur'atlar bilan o'sib bormoqda. Hozirgi tendentsiyalarga asoslanib va yetarli hisoblash quvvatiga ega bo'lgan holda, AI tizimi o'zining vorislarini loyihalashi va rivojlantirishi mumkin bo'ladi, bu jarayon "rekursiv o'zini o'zi takomillashtirish" deb nomlanadi.
Anthropicning fikriga ko'ra, o'z-o'zini tashkil etuvchi sun'iy intellekt fan, sog'liqni saqlash va boshqa sohalarga foyda keltiradigan muhim texnologik bosqich bo'ladi, ammo "shuningdek, odamlarning sun'iy intellekt tizimlari ustidan nazoratni yo'qotish xavfini oshirishi mumkin".
Texnologiya sohasidagi ba'zi mutaxassislar bunday stsenariy haqida uzoq vaqtdan beri ogohlantirib kelishmoqda.
Anthropic’ning bu e’lonini Toronto universiteti tadqiqotchilari guruhi shu hafta yana bir ogohlantirishdan so«ng e’lon qildi. Ular sun’iy intellekt vositalaridan yangi turdagi sun’iy intellekt »qurti”ni yaratish uchun qanday foydalanish mumkinligini ko‘rsatdilar. Bu “qurt” qurilmadan qurilmaga tarqalib, ulkan hisoblash tarmog‘ini egallab olganida o‘zining xakerlik strategiyasini moslashtiradi.
«"Menimcha, odamlar xavfsizlik muammolarini keltirib chiqaradigan narsa nafaqat eng katta va eng kuchli til modellari ekanligini tushunishlari juda muhim", dedi yetakchi tadqiqotchi Nikolas Paperno intervyusida.
Anthropic maqolasi mualliflari, kompaniya asoschilaridan biri Jek Klark va tadqiqot instituti direktori Marina Favaro, ushbu pauza "ijtimoiy tuzilmalar va izchillikni o'rganish" sun'iy intellektdagi yutuqlarga mos kelishini ta'minlash uchun ishlatilishini ta'kidladilar. Izchillik - bu texnologiyani inson qadriyatlari va niyatlari bilan uyg'unlashtirish uchun sanoat atamasi.
Taklif etilayotgan muvofiqlashtirish zamonaviy sun'iy intellekt laboratoriyalariga global raqobatchilar o'z faoliyatini chindan ham to'xtatganmi yoki sekinlashtirganmi yoki yo'qligini tekshirishga imkon beradi, "va tajovuzkor muvofiqlashtirilgan sekinlashuvdan foydalanib, raqobatchilardan yashirincha ustun kela olmaydi".
Kompaniya muvofiqlashtirilgan global mexanizm zarurligini aytdi, chunki bu mexanizmsiz sun'iy intellekt rivojlanishining sekinlashishi "kamroq ehtiyotkor" o'yinchilarga sun'iy intellekt xavfsizligi bo'yicha qiyin qarorlar qabul qilishda qiyinchiliklarga duch kelayotgan kompaniyalar va hukumatlarga bosimni kuchaytirishga imkon berishi mumkin.
Anthropic kompaniyasining e'lonlari kompaniya va ChatGPT ishlab chiqaruvchisi OpenAI o'z aktsiyalarini fond bozorida IPO orqali sotishga shoshilayotgan bir paytda e'lon qilindi, bu esa Anthropic kompaniyasining qiymatini deyarli bir trillion dollarga tushirishi mumkin.
Tadqiqotchilar dasturiy ta'minot ishlab chiquvchilari osongina va arzon narxlarda kirishlari va o'zgartirishlari mumkin bo'lgan "ochiq kodli" sun'iy intellekt vositasidan foydalangan holda laboratoriyada chuvalchangni qanday yaratganliklarini ko'rsatuvchi hisobot e'lon qilinishidan oldin Papernot Kanada kiberxavfsizlik organlariga xabar berdi.
«"Ilgari kiberjinoyatchilar yuqori qiymatli nishonlarga e'tibor qaratishgan", dedi u. "Bank tizimlari, kasalxonalar, elektr tarmoqlari, suv tozalash tizimlari, maktablar.".
Papernot kompaniyalar, davlat idoralari va akademik tadqiqotchilar o'rtasida qarshi choralarni ishlab chiqish uchun ko'proq hamkorlik zarurligiga qo'shildi, chunki sun'iy intellektga asoslangan xakerlik vositalari kompyuter zaifliklarini qidirishni sezilarli darajada tezlashtiradi.
«"Siz yerto'lada saqlaydigan va kamdan-kam tekshiradigan eski noutbuk qimmat nishonga o'xshamasligi mumkin, ammo undan muhimroq nishonlarga hujum qilish uchun tramplin sifatida foydalanish mumkin", dedi u. "Internetga ulangan har qanday narsa endi kiberhujumlar narxining pasayishi tufayli xavf ostida.".