Bugun
Bugungi reyslar jadvali — 20 noyabr
+16°
to‘liq bulutli shamol 1 m/s, sharq
ENRU

OpenAI suniy intellekt tizimlarida xavfsizlik bilan bogliq muammolar aniqlandi

Texnologiya
21
OpenAI suniy intellekt tizimlarida xavfsizlik bilan bogliq muammolar aniqlandi
OpenAI kompaniyasi tomonidan Hugging Face platformasining buzib kirilishi bo‘yicha o‘tkazilgan tekshiruvlar natijasida avtonom sun’iy intellekt tizimlarining belgilangan xavfsiz muhitdan chiqib ketishi bilan bog‘liq bir qancha yangi holatlar aniqlandi. Bu haqda One.uz xabar beradi.

Reuters axborot agentligi manbalariga ko‘ra, ilgari jamoatchilikka oshkor etilmagan ushbu voqealar cheklangan miqyosda sodir bo‘lgan va tizimlar kompaniyaning ichki tarmog‘idan tashqariga tarqalmagan. Ushbu holat sun’iy intellekt agentlarining mustaqil ravishda harakat qilish imkoniyatlari va ularni nazorat qilish borasidagi xavotirlarni yanada kuchaytirdi.

Mazkur keng ko‘lamli surishtiruv ishlari joriy yilning iyul oyida yuz bergan noxush hodisadan so‘ng boshlangan edi. O‘shanda ichki sinov jarayonida sun’iy intellekt agentlaridan biri o‘zi uchun ajratilgan izolyatsiya qilingan muhit, ya’ni maxsus xavfsiz hudud chegaralarini buzib o‘tib, internet tarmog‘iga ulanishga muvaffaq bo‘lgan.

Natijada tizim sun’iy intellekt modellarini saqlash va almashishga mo‘ljallangan Hugging Face xizmati infratuzilmasiga kirib borgan. Keyinchalik OpenAI mutaxassislari ushbu hodisa davomida boshqa bir necha kompaniyalarning foydalanuvchi hisoblariga ham xavf tug‘ilganini rasman tasdiqladilar.

Shundan so‘ng ekspertlar joriy yil boshidan buyon qayd etilgan barcha texnik ma’lumotlarni tahlil qilib, bunday holatlarning umumiy ko‘lamini aniqlashga kirishdilar. Tekshiruvlar natijasida ma’lum bo‘lishicha, tizimning nazoratdan chiqishga urinishlari avvalroq ham bir necha bor kuzatilgan.

Xavfsizlik choralari va tartibga solish OpenAI rahbari Sem Oltman ushbu kamchiliklar fosh etilgach, kompaniya avtonom agentlar ustidagi tajribalarni vaqtincha to‘xtatib turishga qaror qilganini bildirdi. Hozirda sinov infratuzilmasidagi himoya tizimlarini tubdan takomillashtirish va qayta ko‘rib chiqish ishlari olib borilmoqda.

Kompaniya vakillarining ta’kidlashicha, faqatgina Hugging Face bilan bog‘liq insident emas, balki sun’iy intellekt modellarining barcha umumiy faolligi qat’iy nazorat ostiga olingan. Sun’iy intellekt agentlarining nazoratdan chiqish ehtimoli nafaqat texnologik doiralarni, balki AQSh va Yevropa Ittifoqi rasmiylarini ham tashvishga solmoqda.

Xususan, AQSh ma’muriyati ushbu sohani tartibga solish bo‘yicha yangi huquqiy chora-tadbirlar ishlab chiqilayotganini ma’lum qildi. Yevropa komissiyasi esa yuz bergan hodisalar yuzasidan OpenAI rahbariyati bilan rasmiy muzokaralar olib borayotganini tasdiqladi.

Soha mutaxassislarining fikricha, sun’iy intellekt texnologiyalarining jadal taraqqiy etishi va ularning avtonomlik darajasi oshib borishi jiddiy xavfsizlik muammolarini keltirib chiqarmoqda. Hozirgi kunda dunyoning yirik texnologik korporatsiyalari o‘z tizimlarining xavfsizlik darajasini qayta baholashga va yuzaga kelishi mumkin bo‘lgan tahdidlarning oldini olishga majbur bo‘lmoqdalar.

Bu esa kelajakda sun’iy intellektni boshqarish bo‘yicha yanada qat’iy xalqaro standartlar joriy etilishini taqozo etadi.
Nodirbek RazzokovBosh muharrir, muxbir

O‘xshash yangiliklar

Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
ALLTEN MCHJ IT kompaniyasi futbol akademiyalari va sport maktablari uchun Skaut tizimini ishga tushirdi. Tizimda CRM va mobil ilovalar bor: akademiya rahbari to‘lov va qarzni, murabbiy davomatni,
Texnologiya12:29, 04-11-2026
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
O‘zbekistonda global to‘lov tizimi Apple Pay rasmiy ravishda ishga tushirildi va dastlabki kun o‘zining rekord ko‘rsatkichlari bilan eslatib qoldi. Uzum Bank
Texnologiya18:42, 28-10-2026
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Xitoyning eng yirik megapolislaridan biri bo‘lgan Shanxay shahri ko‘chalarida insonsimon robotlar sinovdan o‘tkazila boshlandi. Mazkur innovatsion qurilmalar yo‘l
Texnologiya10:33, 28-10-2026
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda 27 oktyabr kuni foydalanuvchilarga bank kartalarini Apple Pay va Google Pay to‘lov tizimlariga ulash imkoniyati ochildi. Bu o‘zgarish shaxsiy moliyaviy
Texnologiya14:12, 27-10-2026
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyaning Design by Joffrey dizayn studiyasi shaxmat olamida inqilobiy yangilik sifatida baholanayotgan o‘ziga xos loyihani taqdim etdi. Ijodkorlar asrlar davomida
Texnologiya23:54, 26-10-2026
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
AQSH mudofaa korporatsiyasi L3Harris va ma'lumotlar tahlili kompaniyasi Palantir harbiy texnikalarni takomillashtirish uchun sun'iy intellekt texnologiyalarini joriy etish ustida birgalikda ish
Texnologiya12:14, 26-10-2026