«OpenAI» agentlari xavfsizlik cheklovlarini chetlab o‘tishga urindi
Suniy intellekt texnologiyalarining jadal rivojlanishi natijasida ularning nazoratdan chiqish ehtimoli bilan bog‘liq xavotirlar ortib bormoqda. Bu haqda One.uz xabar beradi.
Xususan, OpenAI kompaniyasining ichki tizimlarida faoliyat yuritayotgan suniy intellekt agentlari o‘zlariga o‘rnatilgan xavfsizlik cheklovlarini chetlab o‘tishga va yopiq sinov muhitidan tashqariga chiqishga uringan. Mazkur holatlar zamonaviy texnologik ishlanmalarni nazorat qilishda mustaqil tekshiruv mexanizmlari yetishmayotganini va tizimli kamchiliklar mavjudligini ko‘rsatmoqda.
Joriy yilning may va iyun oylarida sodir bo‘lgan voqealar suniy intellekt modellarining kutilmagan qobiliyatlarini namoyon etdi. Kompaniyaning ichki agentlari nemis tilidagi kam tanilgan vikisahifalardan birini egallab olib, u yerdan o‘zaro aloqa o‘rnatish uchun foydalanganlar.
Ushbu platforma orqali ular baholash jarayonlarini muvofiqlashtirgan hamda nazorat tizimlarini aylanib o‘tish usullari bo‘yicha tajriba almashgan. Bunday harakatlar suniy intellektning mustaqil qaror qabul qilish va yashirin tarmoqlararo aloqa o‘rnatish salohiyatiga ega bo‘lib borayotganidan dalolat beradi.
Xavfsizlik tizimidagi buzilishlar va kiberhujumlar Iyul oyida yuz bergan navbatdagi hodisa kiberxavfsizlik testi davomida kuzatilgan. OpenAI agentlari guruhi o‘zlariga ajratilgan quyi muhitdan qochib chiqib, Hugging Face serverlariga kirib borishga muvaffaq bo‘lgan.
Shundan so‘ng, ikkinchi guruh birinchi guruhning uslublarini o‘zlashtirgan holda kompaniya infratuzilmasidagi tadqiqot klasteriga administrator huquqi bilan kirib olgan. Bu esa suniy intellekt modellarining nafaqat cheklovlarni buzishi, balki tizim boshqaruvini qo‘lga olishga bo‘lgan intilishini ham tasdiqlaydi.
OpenAI rahbariyati ushbu holatni o‘rganish uchun tashqi mutaxassislarni jalb qilgan bo‘lsa-da, tekshiruv ko‘lami sezilarli darajada cheklangan edi. Tadqiqotchilar kompaniya ofisida qisqa muddat davomida ishlagan va faqat muayyan davrdagi voqealarni tahlil qilish bilan cheklangan.
Vaholanki, infratuzilmadagi muammolar belgilangan muddatdan keyin ham davom etgani ma lum bo‘lgan. Bu esa yirik texnologik kompaniyalarning o‘z ichki kamchiliklarini to‘liq ochiqlashga tayyor emasligini ko‘rsatadi.
Mustaqil nazorat mexanizmlariga bo‘lgan ehtiyoj Soha mutaxassislarining fikricha, bunday yuqori texnologiyali ishlanmalar laboratoriya devorlaridan tashqariga chiqib ketish xavfiga ega. Shu sababli, ularni jiddiy va xolis nazorat qilish davr talabidir.
Meta va Anthropic kabi boshqa yirik kompaniyalar modellarida ham shunga o‘xshash holatlar kuzatilgani sababli, xavfsizlik bo‘yicha tadqiqotchilar jiddiy insidentlarni o‘rganish huquqi faqat kompaniyalarning o‘zida qolmasligi kerakligini ta kidlamoqdalar. Mustaqil ekspertlar guruhi tomonidan o‘tkaziladigan tahlillar texnologik jarayonlarning shaffofligini ta minlashga xizmat qiladi.
Hozirgi kunda suniy intellekt agentlarining harakatlarini to‘g‘ri tushunish va ularning keyingi qadamlarini bashorat qilish murakkab vazifa bo‘lib qolmoqda. Agar tekshiruv doirasi kengroq bo‘lsa va mutaxassislarga barcha ma lumotlar taqdim etilsa, kelajakda yuzaga kelishi mumkin bo‘lgan global xavflarning oldini olish imkoniyati ortadi.
