Sun'iy intellekt tadqiqot kompaniyasi Anthropic tezkor texnologik yutuqlar bilan bog'liq xavflar borasidagi xavotirlarni aytib, ilg'or AI tizimlarini ishlab chiqishda global miqyosda muvofiqlashtirilgan pauza yoki sekinlashuvga chaqirdi.
Blog postida yetakchi sun'iy intellekt laboratoriyalari jamiyat potentsial xavflarni yaxshiroq baholay va boshqara olmaguncha "ilg'or modellar" ustida ishlashni to'xtatib turishga chaqiriladi.
Anthropic’ning Ichki tadqiqotlar boʻlimi boshligʻi Marina Favaro va siyosat boʻlimi boshligʻi Jek Klark oʻz eʼlonlarida soʻnggi oʻzgarishlar sunʼiy intellektni «rekursiv oʻzini oʻzi takomillashtirish»ga yaqinlashtirgani haqida fikrlarini bildirishdi. Bu atama oʻz kodini yozish orqali mustaqil ravishda takomillashtirish va imkoniyatlarini kengaytirishga qodir boʻlgan sunʼiy intellekt tizimlarini anglatadi.
Favaro va Klark bu chegaraga hali yetib borilmaganligini va yaqin orada yetib kelmasligi mumkinligini tan olishgan bo'lsa-da, ular bunday texnologiyalar "ko'pgina muassasalar tayyor bo'lishidan oldin paydo bo'lishi mumkin" deb ogohlantirishdi.
Klark ba'zi modellar ikki yil ichida rekursiv o'zini o'zi takomillashtirishga qodir bo'lishi mumkinligini ta'kidladi.
Mualliflar shunday deb yozishdi: "Bizning fikrimizcha, dunyo uchun ijtimoiy tuzilmalar va tadqiqotlarning texnologik yutuqlarga moslashishiga imkon berish uchun ilg'or AI texnologiyalarining rivojlanishini sekinlashtirish yoki vaqtincha to'xtatib turish foydali bo'ladi".
Ularning ta'kidlashicha, bunday harakatlar hukumatlar, tadqiqotchilar va sanoatga zarur ehtiyot choralarini moslashtirish va amalga oshirish uchun vaqt beradi.
Anthropic texnik tendentsiyalarni keltirdi, bu sun'iy intellektni ishlab chiqish tezligining keskin oshganligini ko'rsatadi, bu esa uning muhandislari hozirda har chorakda oldingi yillarga qaraganda sakkiz baravar ko'proq kod ishlab chiqarayotganini ko'rsatadigan ichki ma'lumotlar bilan tasdiqlanadi.
Kompaniya ma'lumotlariga ko'ra, AIni rivojlantirish bo'yicha ko'proq vazifalarni AI ga topshirish taraqqiyotni tezlashtiradi va nazorat va kelajakdagi boshqaruv mexanizmlari haqida savollar tug'diradi.
Kompaniya shuningdek, sun'iy intellektni rivojlantirishga yo'naltirishning mumkin bo'lgan modellari sifatida tarixiy qurol nazorati shartnomalarini keltirdi, ammo tekshirishda jiddiy qiyinchiliklarni ham qayd etdi.
Anthropic "amaliy uchirishlarni raketa siloslariga qaraganda yashirish ancha oson" ekanligini ta'kidladi va Xitoy kabi mamlakatlarning hamkorligisiz pauza samarasiz bo'lishi mumkinligi haqida ogohlantirdi.
Anthropic siyosatchilar va AI mutaxassislari o'rtasida rekursiv o'zini o'zi takomillashtirish imkoniyati va uni sinovdan o'tkazish mexanizmlari haqida kengroq muhokamalarni rag'batlantirishni rejalashtirayotganini aytdi.
Alohida ravishda, Anthropic bosh direktori Dario Amodei, OpenAI kompaniyasidan Sem Altman va Google DeepMind kompaniyasidan Demis Hassabis kabi boshqa texnologiya sanoati yetakchilari bilan birgalikda sintetik DNK va RNKni yanada samarali tartibga solish uchun yangi qonunchilikni qabul qilishga chaqiruvchi ochiq xatni imzoladi.
Bayonotda qonun chiqaruvchilardan biologik qurollarni ishlab chiqishda noto'g'ri foydalanishning oldini olish uchun genetik material sotadigan kompaniyalardan buyurtmalarni tekshirishni talab qilish so'raladi.
Taraqqiyot instituti va Amerika innovatsiyalari jamg'armasi hammuallifligida yozilgan maktubda sun'iy intellektdagi yutuqlar tez orada biologik qurollar yaratishdagi an'anaviy to'siqlarni yo'q qilishi mumkinligi haqida ogohlantirilgan.
Yaqinda Anthropic AQSh Qimmatli qog'ozlar va birjalar komissiyasiga o'zining oddiy aksiyalarini birlamchi ommaviy taklif qilish (IPO) bo'yicha S-1 shaklidagi ro'yxatdan o'tish to'g'risidagi ariza loyihasini taqdim etdi.
"Antropologiya nazorat masalalari tufayli zamonaviy sun'iy intellektni rivojlantirishni to'xtatishga chaqirmoqda" maqolasi dastlab GlobalData kompaniyasiga tegishli Verdict brendi tomonidan yaratilgan va nashr etilgan.
Ushbu veb-saytdagi ma'lumotlar vijdonan taqdim etilgan va faqat umumiy ma'lumot berish maqsadida taqdim etilgan. Bu siz ishonishingiz kerak bo'lgan maslahat sifatida mo'ljallanmagan va biz uning aniqligi yoki to'liqligi haqida hech qanday bayonot, kafolat yoki va'da bermaymiz, ochiq yoki bilvosita. Veb-saytimizda taqdim etilgan ma'lumotlarga asoslanib biron bir qaror qabul qilishdan yoki qabul qilishdan tiyilishdan oldin, siz professional yoki ixtisoslashgan maslahat olishingiz kerak.