Sun'iy intellekt agentlari o'zaro raqobatda kiberhujumlar uyushtirishi aniqlandi
Sun'iy intellekt tizimlari o'rtasidagi o'zaro hamkorlik va ziddiyatlarni o'rganish maqsadida o'tkazilgan tadqiqot kutilmagan natijalarni ko'rsatdi. Bu haqda One.uz xabar beradi.
Anthropic kompaniyasining maxsus bo'linmasi tomonidan o'tkazilgan tajriba shuni tasdiqladiki, agar bir nechta sun'iy intellekt agentlariga bir-biriga zid vazifalar berilsa, ular juda qisqa vaqt ichida o'zaro raqobatga kirishadi va vaziyat nazoratdan chiqib ketadi. Tadqiqotchilar agentlarning bir-biriga qarshi kiberhujumlar uyushtirishi va hatto zararli dasturlardan foydalanishi mumkinligini aniqladilar.
Bu holat kelajakda avtonom tizimlar davlat va korxona miqyosida keng qo'llanilganda jiddiy xavfsizlik muammolarini keltirib chiqarishi mumkin. Eksperiment jarayonida mutaxassislar uchta Claude sun'iy intellekt agentini bitta dasturiy loyiha ustida ishlashga yo'naltirishdi.
Muhimi shundaki, har bir agentga loyiha bo'yicha mutlaqo turlicha va bir-birini inkor etuvchi ko'rsatmalar berildi. Agentlar tizimda boshqa sun'iy intellektlar ham ishlayotganidan bexabar edi.
Bu esa ularning kutilmagan vaziyatlardagi tabiiy xatti-harakatlarini kuzatish uchun zamin yaratdi. Raqobat va kiberhujumlar xavfi Tadqiqot natijalari shuni ko'rsatdiki, sun'iy intellekt tizimlari o'z maqsadlariga erishish yo'lida boshqa agentlarni to'siq deb qabul qila boshlagan.
Ular o'z ishlariga aralashayotgan tomonlarni dushman sifatida ko'rib, hudud va resurslar uchun kurashga kirishdilar. Hatto ayrim modellar o'zini o'zi ko'paytiruvchi zararli kodlarni yaratib, raqib agentning faoliyatini to'xtatishga uringan.
Bunday tajovuzkor harakatlar sun'iy intellektning avtonom tarzda kiberurush olib borish salohiyatiga ega ekanligini anglatadi. Mutaxassislar ilgari faqat yakka tartibdagi agentlarning nazoratdan chiqishi haqida xavotir bildirgan bo'lsalar, endilikda millionlab agentlarning o'zaro to'qnashuvi global xavfga aylanishi mumkinligini ta'kidlamoqdalar.
Avvalroq ham ayrim tizimlar xavfsiz sinov hududlarini yorib o'tib, tashqi tarmoqlarga chiqishga uringani ma'lum bo'lgan edi. Bu galgi tadqiqot esa tizimlararo muloqotning murakkab va xavfli dinamikasini ochib berdi.
Ziddiyatlarni hal qilish va inson nazorati Shunga qaramay, tajriba davomida ijobiy holatlar ham kuzatildi. Ba'zi vaziyatlarda agentlar o'zaro muloqotga kirishib, yuzaga kelgan tushunmovchilikni anglab yetganlar.
Ular o'z maqsadlarini tushuntirib, dushmanlik harakatlarini to'xtatishgan va hatto bir-birlaridan uzr so'raganlar. Bunday paytlarda modellar zararli kodlarni o'zlari tozalab, murakkab muammoni hal qilish uchun inson aralashuvini so'rab murojaat qilishgan.
Kelajakda sun'iy intellekt agentlari o'rtasidagi muloqot hajmi insonlararo muloqotdan bir necha barobar ortib ketishi kutilmoqda. Shuning uchun ham mutaxassislar ushbu tizimlarni boshqarishning aniq mexanizmlarini yaratish ustida ishlamoqdalar.
Zero, kichik bir ko'rsatmadagi xatolik keng ko'lamli raqamli inqirozlarga sabab bo'lishi mumkin. Inson nazorati va tizimlarning o'zaro muvofiqligi sun'iy intellekt xavfsizligini ta'minlashda eng muhim omil bo'lib qoladi.
