Tadqiqotchilar sun'iy intellekt yordamida OpenAI xavfsizlik tizimini buzib kirdi
Sun'iy intellekt xavfsizligi sohasida kutilmagan voqea yuz berdi: mustaqil tadqiqotchilar Anthropic kompaniyasining Claude neyrotarmog'idan foydalangan holda OpenAI infratuzilmasiga kirishga muvaffaq bo'lishdi. Bu haqda One.uz xabar beradi.
The Wall Street Journal nashrining xabar berishicha, ushbu kiberhujum ChatGPT yaratuvchilarining xavfsizlik tizimidagi jiddiy bo'shliqlarni fosh etdi va soha mutaxassislari e'tiborini zamonaviy raqamli tahdidlarga qaratdi. Mazkur holat sun'iy intellekt texnologiyalarining nafaqat foydali, balki kiberhujumlar uchun qudratli vositaga aylanishi mumkinligini isbotladi.
Hacktron AI nomli startapning uch kishidan iborat xavfsizlik guruhi ushbu jarayonni amalga oshirdi. Mutaxassislar OpenAI tomonidan e'lon qilingan tizimdagi xatolarni qidirib topish dasturi doirasida harakat qilishgan.
Hujum natijasida ular OpenAI xodimlarining bir nechta ChatGPT hisoblariga kirish huquqini beruvchi ikkita muhim zaiflikni o'zaro bog'lay olishdi va kompaniya dasturiy ta'minotiga yo'l ochishdi. Topilgan kamchiliklar haqida xabar bergan startapga OpenAI tomonidan 6 500 dollar miqdorida mukofot puli berildi hamda barcha muammolar bartaraf etilgani ma'lum qilindi.
Kiberxavfsizlikda yangi tahdidlar Ushbu hodisa yetakchi sun'iy intellekt kompaniyalari xavfsizlik masalasida qattiq bosim ostida qolgan bir paytda yuz berdi. Bungacha, bir necha hafta oldin, OpenAI kompaniyasining o'z sun'iy intellekt agentlari kiberxavfsizlikni baholash jarayonida o'rnatilgan cheklovlarni buzib o'tib, Hugging Face platformasini ham xakerlik hujumiga uchratgan edi.
Bu esa zamonaviy sun'iy intellekt modellari mustaqil qaror qabul qilishda va murakkab vazifalarni bajarishda qanchalik yuqori salohiyatga ega bo'lib borayotganini ko'rsatadi. Gray Swan sun'iy intellekt xavfsizligi firmasi rahbari Matt Fredriksonning ma'lum qilishicha, oyiga atigi 200 dollar sarflab, istalgan shaxs bunday vositalardan foydalangan holda OpenAI kabi yirik kompaniya tizimiga kirishi mumkin.
Agar shunday holat texnologik gigantlarning o'zida yuz bersa, bu istalgan boshqa tashkilot bilan ham sodir bo'lishi mumkinligini anglatadi. Ijtimoiy tarmoqlardagi kuzatuvchilar esa kichik bir guruh bu ishni uddalagan bo'lsa, davlat miqyosidagi professional guruhlar qanday natijaga erishishi mumkinligi haqida jiddiy savollarni o'rtaga tashlamoqda.
Zaiflikning kelib chiqish sabablari Tadqiqotchilar OpenAI tizimiga Discourse dasturiy ta'minotidagi nosozlik orqali kirish yo'lini topishgan. Discourse — OpenAI hamjamiyati forumini qo'llab-quvvatlovchi uchinchi tomon dasturi hisoblanadi.
Tizimga kirish nuqtasi oddiy rasm yuklash jarayoni bo'lib chiqqan. Foydalanuvchilar forumga iPhone telefonlari standart tarzda ishlatadigan formatdagi rasmlarni joylaganda, dastur ularni ommabop formatga o'tkazish uchun bir nechta yashirin vositalardan foydalangan.
Jarayonning birinchi bosqichi o'n yillik tarixga ega ochiq kodli ImageMagick yordamchi dasturidan boshlangan. Biroq uning imkoniyatlari zamonaviy formatlarga mos kelmagani sababli, fayl boshqa kutubxonaga uzatilgan.
Aynan ushbu kutubxona ichida yashiringan xotira xatosi tajovuzkorlarga o'z kodlarini masofadan turib ishga tushirish imkonini bergan. Natijada, tadqiqotchilar tizimning ichki qismiga kirib, maxfiy ma'lumotlarga kirish huquqini qo'lga kiritishgan.
