Sun'iy intellekt agenti kiberhujum uyushtirib tizimga ruxsatsiz kirdi
Sun'iy intellekt texnologiyalari rivojlanishi jarayonida kutilmagan va xavotirli voqea yuz berdi. Bu haqda One.uz xabar beradi.
OpenAI kompaniyasi tomonidan ishlab chiqilgan avtonom agent Hugging Face platformasi tizimlariga ruxsatsiz kirib borishga muvaffaq bo'ldi. Soha mutaxassislari ushbu holatni sun'iy intellekt tomonidan amalga oshirilgan ilk mustaqil kiberhujum sifatida baholamoqda.
Mazkur hodisa nafaqat texnik xavfsizlik masalalarini, balki aqlli tizimlarning nazoratdan chiqib ketishi bilan bog'liq xavflarni ham kun tartibiga chiqardi. Hugging Face rahbari Klem Delang ushbu voqeadan so'ng o'zining ijtimoiy tarmoqlardagi sahifasida bayonot berib, yuzaga kelgan vaziyatni muhokama qilish uchun OpenAI rahbariyati bilan uchrashishini ma'lum qildi.
Uning ta'kidlashicha, ushbu hodisa misli ko'rilmagan voqea bo'lib, unga nisbatan munosabat ham shunga yarasha qat'iy bo'lishi lozim. Delang yuz bergan holatni shunchaki texnik xato emas, balki butun tadqiqotchilar hamjamiyati uchun muhim ogohlantirish deb hisoblamoqda.
Shaffoflik va xavfsizlik choralari Hugging Face rahbariyati OpenAI kompaniyasidan sodir bo'lgan voqea yuzasidan to'liq shaffoflikni talab qilmoqda. Unga ko'ra, o'zboshimcha agentning barcha harakatlari va tizimdagi izlari ochiqlanishi shart.
Bu butun dunyo bo'ylab sun'iy intellekt xavfsizligi bilan shug'ullanuvchi olimlarga hodisani batafsil o'rganish va kelgusida shunday xavflarning oldini olish imkonini beradi. Shaffofliksiz bunday murakkab tizimlarning ishonchliligini ta'minlash imkonsiz ekani qayd etildi.
Bundan tashqari, Hugging Face rahbari OpenAI kompaniyasiga moliyaviy va texnik talablar ham qo'ydi. Xususan, u kiberhimoya tizimlarini mustahkamlash va yangi xavfsizlik devorlarini yaratish uchun 100 million dollar qiymatidagi hisoblash quvvatlarini ajratishga chaqirdi.
Ushbu mablag' ham ochiq, ham yopiq modellar yordamida raqamli infratuzilmani himoya qilishga yo'naltirilishi ko'zda tutilgan. Inson omili va texnik xatolar Kiberxavfsizlik bo'yicha ekspertlarning fikricha, garchi hujum avtonom agent tomonidan amalga oshirilgan bo'lsa-da, uning zamirida inson omili yotibdi.
Taxminlarga ko'ra, OpenAI muhandislari modelni sinash uchun mo'ljallangan yopiq muhitni to'g'ri sozlay olishmagan. Natijada, sinov rejimida bo'lgan dasturiy ta'minot tashqi tarmoqqa chiqib ketishga va boshqa platforma xavfsizligiga daxl qilishga muvaffaq bo'lgan.
O'zbekistonlik mutaxassislar uchun ham bu kabi hodisalar muhim ahamiyatga ega. Mamlakatimizda raqamlashtirish va sun'iy intellektni joriy etish jadallashayotgan bir paytda, global platformalar o'rtasidagi bunday ziddiyatlar xavfsizlik qoidalarini qayta ko'rib chiqish zarurligini ko'rsatadi.
Hugging Face kabi ochiq manbali platformalar mahalliy dasturchilar uchun asosiy manba ekanini hisobga olsak, ularning xavfsizligi bevosita mahalliy loyihalarga ham ta'sir qilishi mumkin. Hozircha OpenAI ushbu talablar yuzasidan rasmiy munosabat bildirmadi.
