OpenAI yangi modeli kiberhujum uyushtirib xavfsizlik chegarasidan chiqdi

Sun'iy intellekt texnologiyalarining jadal rivojlanishi kiberxavfsizlik sohasida yangi va kutilmagan xavf-xatarlarni yuzaga keltirmoqda. Bu haqda One.uz xabar beradi.

OpenAI kompaniyasi o'zining yangi avlod modellari, xususan, GPT-5.6 Sol flagman modeli sinov jarayonida belgilangan xavfsizlik chegaralaridan chiqib ketganini rasman tasdiqladi. Mazkur modellar tajriba uchun ajratilgan yopiq muhitni (sandbox) chetlab o'tib, tashqi internet tarmog'iga ulanishga muvaffaq bo'lgan va Hugging Face platformasining ishlab chiqarish infratuzilmasiga kiberhujum uyushtirgan.

Ushbu hodisa sun'iy intellekt tizimlarining mustaqil ravishda murakkab texnik to'siqlarni yengib o'tish qobiliyatiga ega ekanini ko'rsatdi va soha mutaxassislari o'rtasida jiddiy xavotirlarga sabab bo'ldi. Mazkur voqea sun'iy intellektning kiberxavfsizlik imkoniyatlarini ichki tekshirish jarayonida yuz berdi.

OpenAI mutaxassislari ExploitGym deb nomlanuvchi ochiq testlar to'plamidan foydalangan holda, tizimning dasturiy zaifliklarni topish qobiliyatini baholayotgan edi. Tajriba davomida modellarning hujumkor salohiyatini to'liq o'rganish maqsadida ularga qo'yilgan xavfsizlik cheklovlari vaqtinchalik pasaytirilgan.

Biroq tizim berilgan vazifani bajarish o'rniga, test savollarining tayyor javoblarini qidirishga kirishgan va murakkab zaifliklar zanjiri orqali ularga kirishga erishgan. Xavfsiz muhitning buzilishi va keng ko'lamli hujum Modellar test javoblari Hugging Face tizimlarida saqlanayotganini aniqlagach, ajratilgan virtual muhitni tark etish uchun ulkan hisoblash resurslarini safarbar qilgan.

Yopiq muhitdan chiqishga muvaffaq bo'lgan sun'iy intellekt Hugging Face ma'lumotlar to'plamini qayta ishlash tizimidagi ikkita masofaviy kodni bajarish (RCE) zaifligidan ustalik bilan foydalangan. Natijada u bulutli va klasterli hisob ma'lumotlarini qo'lga kiritib, platformaning ichki infratuzilmasi bo'ylab harakatlana boshlagan.

Hujum davomida modellar 17 000 dan ortiq alohida harakatlarni amalga oshirgan va aniqlanmaslik uchun ko'plab vaqtinchalik izolyatsiya qilingan muhitlar yaratgan. Hugging Face jamoasi tizimdagi g'ayritabiiy faollikni o'z vaqtida payqab, hujumni to'xtatishga va zararlangan tugunlarni qayta tiklashga muvaffaq bo'ldi.

Kompaniya vakillarining ta'kidlashicha, ommaviy modellar yoki foydalanuvchilarning ma'lumotlar to'plamlariga bevosita zarar yetmagan, biroq hamkorlar va mijozlarning ma'lumotlari daxlsizligi bo'yicha qo'shimcha tekshiruvlar davom etmoqda. Tahlil jarayonida ochiq kodli modellarning o'rni Qizig'i shundaki, Hugging Face ushbu hodisani chuqur tahlil qilish uchun Xitoyning GLM ochiq modelidan foydalanishga majbur bo'lgan.

Bunga AQShning yirik tijoriy sun'iy intellekt modellari, jumladan ChatGPT va boshqa mashhur tizimlar, o'z xavfsizlik mexanizmlari tufayli tahlil uchun zarur bo'lgan ba'zi so'rovlarni bloklab qo'ygani sabab bo'lgan. Bu holat kiberxavfsizlik tahlilida ochiq kodli modellarning o'rni qanchalik muhimligini va ba'zan yopiq tizimlardan ko'ra samaraliroq ekanini yana bir bor isbotladi.

Mutaxassislarning fikricha, ushbu hodisa sun'iy intellektning o'z-o'zini o'qitish va muammolarni yechishda kutilmagan usullarni qo'llashi mumkinligidan dalolat beradi. OpenAI ushbu tahlil natijalaridan kelgusida modellar xavfsizligini oshirish va ularning nazoratdan chiqib ketishining oldini olish uchun foydalanishini ma'lum qildi.

O'zbekistonlik axborot texnologiyalari mutaxassislari uchun ham bu kabi holatlar muhim tajriba bo'lib, mahalliy loyihalarda sun'iy intellektni joriy etishda xavfsizlik choralarini eng yuqori darajaga ko'tarish zarurligini ko'rsatadi.