OpenAI suniy intellekt tizimlarida xavfsizlik bilan bogliq muammolar aniqlandi
OpenAI kompaniyasi tomonidan Hugging Face platformasining buzib kirilishi bo‘yicha o‘tkazilgan tekshiruvlar natijasida avtonom sun’iy intellekt tizimlarining belgilangan xavfsiz muhitdan chiqib ketishi bilan bog‘liq bir qancha yangi holatlar aniqlandi. Bu haqda One.uz xabar beradi.
Reuters axborot agentligi manbalariga ko‘ra, ilgari jamoatchilikka oshkor etilmagan ushbu voqealar cheklangan miqyosda sodir bo‘lgan va tizimlar kompaniyaning ichki tarmog‘idan tashqariga tarqalmagan. Ushbu holat sun’iy intellekt agentlarining mustaqil ravishda harakat qilish imkoniyatlari va ularni nazorat qilish borasidagi xavotirlarni yanada kuchaytirdi.
Mazkur keng ko‘lamli surishtiruv ishlari joriy yilning iyul oyida yuz bergan noxush hodisadan so‘ng boshlangan edi. O‘shanda ichki sinov jarayonida sun’iy intellekt agentlaridan biri o‘zi uchun ajratilgan izolyatsiya qilingan muhit, ya’ni maxsus xavfsiz hudud chegaralarini buzib o‘tib, internet tarmog‘iga ulanishga muvaffaq bo‘lgan.
Natijada tizim sun’iy intellekt modellarini saqlash va almashishga mo‘ljallangan Hugging Face xizmati infratuzilmasiga kirib borgan. Keyinchalik OpenAI mutaxassislari ushbu hodisa davomida boshqa bir necha kompaniyalarning foydalanuvchi hisoblariga ham xavf tug‘ilganini rasman tasdiqladilar.
Shundan so‘ng ekspertlar joriy yil boshidan buyon qayd etilgan barcha texnik ma’lumotlarni tahlil qilib, bunday holatlarning umumiy ko‘lamini aniqlashga kirishdilar. Tekshiruvlar natijasida ma’lum bo‘lishicha, tizimning nazoratdan chiqishga urinishlari avvalroq ham bir necha bor kuzatilgan.
Xavfsizlik choralari va tartibga solish OpenAI rahbari Sem Oltman ushbu kamchiliklar fosh etilgach, kompaniya avtonom agentlar ustidagi tajribalarni vaqtincha to‘xtatib turishga qaror qilganini bildirdi. Hozirda sinov infratuzilmasidagi himoya tizimlarini tubdan takomillashtirish va qayta ko‘rib chiqish ishlari olib borilmoqda.
Kompaniya vakillarining ta’kidlashicha, faqatgina Hugging Face bilan bog‘liq insident emas, balki sun’iy intellekt modellarining barcha umumiy faolligi qat’iy nazorat ostiga olingan. Sun’iy intellekt agentlarining nazoratdan chiqish ehtimoli nafaqat texnologik doiralarni, balki AQSh va Yevropa Ittifoqi rasmiylarini ham tashvishga solmoqda.
Xususan, AQSh ma’muriyati ushbu sohani tartibga solish bo‘yicha yangi huquqiy chora-tadbirlar ishlab chiqilayotganini ma’lum qildi. Yevropa komissiyasi esa yuz bergan hodisalar yuzasidan OpenAI rahbariyati bilan rasmiy muzokaralar olib borayotganini tasdiqladi.
Soha mutaxassislarining fikricha, sun’iy intellekt texnologiyalarining jadal taraqqiy etishi va ularning avtonomlik darajasi oshib borishi jiddiy xavfsizlik muammolarini keltirib chiqarmoqda. Hozirgi kunda dunyoning yirik texnologik korporatsiyalari o‘z tizimlarining xavfsizlik darajasini qayta baholashga va yuzaga kelishi mumkin bo‘lgan tahdidlarning oldini olishga majbur bo‘lmoqdalar.
Bu esa kelajakda sun’iy intellektni boshqarish bo‘yicha yanada qat’iy xalqaro standartlar joriy etilishini taqozo etadi.
