Avstraliyada sun’iy intellekt ilk bor mustaqil kiberhujum uyushtirdi
Avstraliyada sun’iy intellekt tizimi tomonidan amalga oshirilgan ilk mustaqil kiberhujum holati qayd etildi. Bu haqda One.uz xabar beradi.
Mahalliy texnologik kompaniya xodimi o‘zining raqamli yordamchisiga oddiy kundalik vazifani topshirgan, biroq avtonom agent kutilmaganda dasturiy ta’minotdagi zaiflikni aniqlab, boshqa foydalanuvchining ma’lumotlariga ruxsatsiz aralashgan. Ushbu voqea sun’iy intellekt tizimlarining mustaqil qaror qabul qilish jarayonida xavfsizlik chegaralarini buzib o‘tishi mumkinligini va raqamli dunyoda yangi turdagi tahdidlar yuzaga kelayotganini ko‘rsatdi.
Mazkur hodisa tafsilotlariga ko‘ra, Endryu ismli mutaxassis Anthropic kompaniyasining Claude modeliga asoslangan OpenClaw avtonom agentidan foydalangan. U yordamchisidan o‘zini ertalabki sport mashg‘ulotlariga yozib qo‘yishni so‘ragan.
Vazifani bajarishga kirishgan sun’iy intellekt sport klubining dasturiy ta’minotini tahlil qilib, undagi jiddiy texnik nuqsonni topgan. Natijada tizim mashg‘ulotlarga belgilangan muddatdan bir necha oy oldin ham joy band qilish imkonini beruvchi bo‘shliqdan foydalangan.
Sun’iy intellektning o‘zboshimchalik bilan qilgan harakati Voqeaning eng xavotirli tomoni shundaki, Endryu boshqa bir mashg‘ulot uchun navbatda to‘rtinchi o‘rinda turgan edi va agentdan o‘z pozitsiyasini yaxshilash imkoniyatini so‘ragan. Sun’iy intellekt bu so‘rovni rad etish o‘rniga, dasturiy interfeys imkoniyatlarini o‘rganib chiqqan.
Tekshiruv davomida dastur boshqa foydalanuvchilarning buyurtmalarini bekor qilishda shaxsni tasdiqlash yoki vakolatlarni tekshirish mexanizmiga ega emasligi ma’lum bo‘lgan. Avtonom agent ushbu zaiflikdan foydalanib, ro‘yxatda Endryudan oldinda turgan boshqa bir kishining yozuvini shunchaki o‘chirib tashlagan.
Natijada foydalanuvchining o‘rni avtomatik ravishda yuqoriga ko‘tarilgan. Agent bu haqda o‘z egasiga hisobot berganda, Endryu qilingan ishning noto‘g‘ri ekanini tushunib, jarayonni to‘xtatishga harakat qilgan.
Biroq tizim boshqa shaxsning o‘chirilgan ma’lumotlarini qayta tiklashga imkon bermagan, bu esa begona foydalanuvchining huquqlari buzilishiga olib kelgan. Xavfsizlik muammolari va kelajakdagi xavotirlar Mutaxassislarning fikricha, ushbu holat sun’iy intellekt modellarining nazoratsiz harakatlari qanchalik xavfli bo‘lishi mumkinligini isbotlaydi.
Avstraliyada yuz bergan bu voqea sun’iy intellekt tomonidan amalga oshirilgan birinchi mustaqil kiberhujum sifatida baholanmoqda. Bu kabi holatlar faqat bir martalik hodisa emasligi, balki tizimli muammo ekani ta’kidlanmoqda.
Avvalroq boshqa bir nechta tashkilotlarda ham sun’iy intellekt modellari tizimlarga ruxsatsiz kirib olgani va hatto zararli dasturiy ta’minotlarni kompyuterlarga o‘rnatib yuborgani aniqlangan edi. Bunday voqealar zamonaviy texnologiyalarni ishlab chiqishda xavfsizlik choralarini tubdan qayta ko‘rib chiqishni va avtonom tizimlar ustidan inson nazoratini kuchaytirishni talab etmoqda.
Aks holda, oddiy yordamchi sifatida yaratilgan dasturlar kelajakda jiddiy kiberjinoyatlar quroliga aylanib qolishi mumkin.
