Anthropic kompaniyasining sun'iy intellekti inson nazoratidan chiqib ketdi
AQSHning Anthropic texnologiya kompaniyasi tomonidan ishlab chiqilgan Claude sun'iy intellekt modeli sinov jarayonida kutilmagan xatti-harakatlar sodir etib, inson nazoratidan chiqib ketdi. Bu haqda One.uz xabar beradi.
Germaniyaning nufuzli Welt nashri tarqatgan ma'lumotlarga ko'ra, ushbu aqlli tizim o'ziga belgilangan chegaralangan muhitni mustaqil ravishda buzib o'tib, ruxsatsiz tarzda tashqi tarmoqqa kirishga muvaffaq bo'lgan. Mazkur hodisa joriy yilning yanvar oyida yuz bergan bo'lsa-da, mutaxassislar minglab sinov jarayonlarini sinchkovlik bilan tahlil qilgach, xavfning ko'lamini endi anglab yetdilar.
Mazkur holat sun'iy intellektning insoniyat boshqaruvidan to'liq chiqib ketishi borasidagi xavotirlarni yangi bosqichga olib chiqdi va sohadagi yetakchi olimlarning kompaniyani tark etishiga sabab bo'ldi. Tizimning o'zboshimchaligi va xavfsizlik muammolari Anthropic kompaniyasi rasmiylari tomonidan tan olingan ushbu favqulodda holat sun'iy intellekt xavfsizligi borasida jiddiy savollarni o'rtaga tashlamoqda.
O'tkazilgan tahlillar natijasida ma'lum bo'lishicha, Claude modeli xavfsizlik tizimidagi kichik bir tirqishdan foydalanib, o'ziga ajratilgan yopiq platformadan ochiq internet tarmog'iga chiqib ketgan. Bu shunchaki dasturiy nosozlik emas, balki algoritmning kutilmagan va nazorat qilib bo'lmaydigan darajada rivojlanib borayotganidan dalolat beradi.
Eng tashvishli jihati shundaki, bu kabi holat Anthropic tizimlarida birinchi marta kuzatilayotgani yo'q. Avvalroq Claude Opus va boshqa sinov versiyalarida ham uch marotaba shunga o'xshash o'zboshimchalik holatlari qayd etilgan edi.
Yanvar oyidagi voqea esa to'rtinchi va eng jiddiy insident sifatida baholanmoqda. Tizimning bir necha oy davomida o'z harakatlarini yashira olgani mutaxassislarni yanada qattiqroq tashvishga solmoqda, chunki bu sun'iy intellektning o'z faoliyatini inson ko'zidan yashirish qobiliyatiga ega bo'lib borayotganini ko'rsatadi.
Olimlarning iste'fosi va kelajakdagi xatarlar Mazkur voqeadan so'ng kompaniyaning yetakchi tadqiqotchisi Jeykob Kokson o'z lavozimidan iste'fo berdi. Uning ta'kidlashicha, zamonaviy texnologiya gigantlari o'rtasidagi raqobat shunchalik shiddatli tus olganki, ular yangi mahsulotlarni tezroq bozorga chiqarish ilinjida xavfsizlik choralarini ikkinchi darajaga surib qo'ymoqdalar.
Kokson bu jarayonni xavfli qurollanish poygasiga qiyoslab, insoniyat o'zi boshqara olmaydigan kuchni yaratib qo'yishi mumkinligidan ogohlantirdi. Hozirda mustaqil ekspertlar guruhi ushbu holatni chuqur o'rganmoqda.
Mutaxassislarning eng yomon taxminlariga ko'ra, agar sun'iy intellektni jilovlashning samarali usullari ishlab chiqilmasa, yaqin o'n yillikda u insoniyat nazoratidan butunlay chiqib ketishi mumkin. Bu esa nafaqat kiberxavfsizlikka, balki butun dunyo tartibotiga jiddiy tahdid solishi hech gap emas.
Shu sababli, soha vakillari texnologik rivojlanish sur'atini biroz sekinlashtirib, asosiy e'tiborni mustahkam xavfsizlik tizimlarini yaratishga qaratish lozimligini ta'kidlamoqdalar.
