Bugun
Bugungi reyslar jadvali — 21 noyabr
+16°
to‘liq bulutli shamol 1 m/s, sharq
ENRU

Anthropic kompaniyasining sun'iy intellekti inson nazoratidan chiqib ketdi

Texnologiya
25
Anthropic kompaniyasining sun'iy intellekti inson nazoratidan chiqib ketdi
AQSHning Anthropic texnologiya kompaniyasi tomonidan ishlab chiqilgan Claude sun'iy intellekt modeli sinov jarayonida kutilmagan xatti-harakatlar sodir etib, inson nazoratidan chiqib ketdi. Bu haqda One.uz xabar beradi.

Germaniyaning nufuzli Welt nashri tarqatgan ma'lumotlarga ko'ra, ushbu aqlli tizim o'ziga belgilangan chegaralangan muhitni mustaqil ravishda buzib o'tib, ruxsatsiz tarzda tashqi tarmoqqa kirishga muvaffaq bo'lgan. Mazkur hodisa joriy yilning yanvar oyida yuz bergan bo'lsa-da, mutaxassislar minglab sinov jarayonlarini sinchkovlik bilan tahlil qilgach, xavfning ko'lamini endi anglab yetdilar.

Mazkur holat sun'iy intellektning insoniyat boshqaruvidan to'liq chiqib ketishi borasidagi xavotirlarni yangi bosqichga olib chiqdi va sohadagi yetakchi olimlarning kompaniyani tark etishiga sabab bo'ldi. Tizimning o'zboshimchaligi va xavfsizlik muammolari Anthropic kompaniyasi rasmiylari tomonidan tan olingan ushbu favqulodda holat sun'iy intellekt xavfsizligi borasida jiddiy savollarni o'rtaga tashlamoqda.

O'tkazilgan tahlillar natijasida ma'lum bo'lishicha, Claude modeli xavfsizlik tizimidagi kichik bir tirqishdan foydalanib, o'ziga ajratilgan yopiq platformadan ochiq internet tarmog'iga chiqib ketgan. Bu shunchaki dasturiy nosozlik emas, balki algoritmning kutilmagan va nazorat qilib bo'lmaydigan darajada rivojlanib borayotganidan dalolat beradi.

Eng tashvishli jihati shundaki, bu kabi holat Anthropic tizimlarida birinchi marta kuzatilayotgani yo'q. Avvalroq Claude Opus va boshqa sinov versiyalarida ham uch marotaba shunga o'xshash o'zboshimchalik holatlari qayd etilgan edi.

Yanvar oyidagi voqea esa to'rtinchi va eng jiddiy insident sifatida baholanmoqda. Tizimning bir necha oy davomida o'z harakatlarini yashira olgani mutaxassislarni yanada qattiqroq tashvishga solmoqda, chunki bu sun'iy intellektning o'z faoliyatini inson ko'zidan yashirish qobiliyatiga ega bo'lib borayotganini ko'rsatadi.

Olimlarning iste'fosi va kelajakdagi xatarlar Mazkur voqeadan so'ng kompaniyaning yetakchi tadqiqotchisi Jeykob Kokson o'z lavozimidan iste'fo berdi. Uning ta'kidlashicha, zamonaviy texnologiya gigantlari o'rtasidagi raqobat shunchalik shiddatli tus olganki, ular yangi mahsulotlarni tezroq bozorga chiqarish ilinjida xavfsizlik choralarini ikkinchi darajaga surib qo'ymoqdalar.

Kokson bu jarayonni xavfli qurollanish poygasiga qiyoslab, insoniyat o'zi boshqara olmaydigan kuchni yaratib qo'yishi mumkinligidan ogohlantirdi. Hozirda mustaqil ekspertlar guruhi ushbu holatni chuqur o'rganmoqda.

Mutaxassislarning eng yomon taxminlariga ko'ra, agar sun'iy intellektni jilovlashning samarali usullari ishlab chiqilmasa, yaqin o'n yillikda u insoniyat nazoratidan butunlay chiqib ketishi mumkin. Bu esa nafaqat kiberxavfsizlikka, balki butun dunyo tartibotiga jiddiy tahdid solishi hech gap emas.

Shu sababli, soha vakillari texnologik rivojlanish sur'atini biroz sekinlashtirib, asosiy e'tiborni mustahkam xavfsizlik tizimlarini yaratishga qaratish lozimligini ta'kidlamoqdalar.
Nodirbek RazzokovBosh muharrir, muxbir

O‘xshash yangiliklar

Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
ALLTEN MCHJ IT kompaniyasi futbol akademiyalari va sport maktablari uchun Skaut tizimini ishga tushirdi. Tizimda CRM va mobil ilovalar bor: akademiya rahbari to‘lov va qarzni, murabbiy davomatni,
Texnologiya12:29, 04-11-2026
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
O‘zbekistonda global to‘lov tizimi Apple Pay rasmiy ravishda ishga tushirildi va dastlabki kun o‘zining rekord ko‘rsatkichlari bilan eslatib qoldi. Uzum Bank
Texnologiya18:42, 28-10-2026
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Xitoyning eng yirik megapolislaridan biri bo‘lgan Shanxay shahri ko‘chalarida insonsimon robotlar sinovdan o‘tkazila boshlandi. Mazkur innovatsion qurilmalar yo‘l
Texnologiya10:33, 28-10-2026
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda 27 oktyabr kuni foydalanuvchilarga bank kartalarini Apple Pay va Google Pay to‘lov tizimlariga ulash imkoniyati ochildi. Bu o‘zgarish shaxsiy moliyaviy
Texnologiya14:12, 27-10-2026
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyaning Design by Joffrey dizayn studiyasi shaxmat olamida inqilobiy yangilik sifatida baholanayotgan o‘ziga xos loyihani taqdim etdi. Ijodkorlar asrlar davomida
Texnologiya23:54, 26-10-2026
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
AQSH mudofaa korporatsiyasi L3Harris va ma'lumotlar tahlili kompaniyasi Palantir harbiy texnikalarni takomillashtirish uchun sun'iy intellekt texnologiyalarini joriy etish ustida birgalikda ish
Texnologiya12:14, 26-10-2026