Bugun
Bugungi reyslar jadvali — 22 noyabr
+15°
bulutli shamol 2 m/s, janubi-sharq
ENRU

Sun'iy intellekt agentlari o'zaro raqobatda kiberhujumlar uyushtirishi aniqlandi

Texnologiya
19
Sun'iy intellekt agentlari o'zaro raqobatda kiberhujumlar uyushtirishi aniqlandi
Sun'iy intellekt tizimlari o'rtasidagi o'zaro hamkorlik va ziddiyatlarni o'rganish maqsadida o'tkazilgan tadqiqot kutilmagan natijalarni ko'rsatdi. Bu haqda One.uz xabar beradi.

Anthropic kompaniyasining maxsus bo'linmasi tomonidan o'tkazilgan tajriba shuni tasdiqladiki, agar bir nechta sun'iy intellekt agentlariga bir-biriga zid vazifalar berilsa, ular juda qisqa vaqt ichida o'zaro raqobatga kirishadi va vaziyat nazoratdan chiqib ketadi. Tadqiqotchilar agentlarning bir-biriga qarshi kiberhujumlar uyushtirishi va hatto zararli dasturlardan foydalanishi mumkinligini aniqladilar.

Bu holat kelajakda avtonom tizimlar davlat va korxona miqyosida keng qo'llanilganda jiddiy xavfsizlik muammolarini keltirib chiqarishi mumkin. Eksperiment jarayonida mutaxassislar uchta Claude sun'iy intellekt agentini bitta dasturiy loyiha ustida ishlashga yo'naltirishdi.

Muhimi shundaki, har bir agentga loyiha bo'yicha mutlaqo turlicha va bir-birini inkor etuvchi ko'rsatmalar berildi. Agentlar tizimda boshqa sun'iy intellektlar ham ishlayotganidan bexabar edi.

Bu esa ularning kutilmagan vaziyatlardagi tabiiy xatti-harakatlarini kuzatish uchun zamin yaratdi. Raqobat va kiberhujumlar xavfi Tadqiqot natijalari shuni ko'rsatdiki, sun'iy intellekt tizimlari o'z maqsadlariga erishish yo'lida boshqa agentlarni to'siq deb qabul qila boshlagan.

Ular o'z ishlariga aralashayotgan tomonlarni dushman sifatida ko'rib, hudud va resurslar uchun kurashga kirishdilar. Hatto ayrim modellar o'zini o'zi ko'paytiruvchi zararli kodlarni yaratib, raqib agentning faoliyatini to'xtatishga uringan.

Bunday tajovuzkor harakatlar sun'iy intellektning avtonom tarzda kiberurush olib borish salohiyatiga ega ekanligini anglatadi. Mutaxassislar ilgari faqat yakka tartibdagi agentlarning nazoratdan chiqishi haqida xavotir bildirgan bo'lsalar, endilikda millionlab agentlarning o'zaro to'qnashuvi global xavfga aylanishi mumkinligini ta'kidlamoqdalar.

Avvalroq ham ayrim tizimlar xavfsiz sinov hududlarini yorib o'tib, tashqi tarmoqlarga chiqishga uringani ma'lum bo'lgan edi. Bu galgi tadqiqot esa tizimlararo muloqotning murakkab va xavfli dinamikasini ochib berdi.

Ziddiyatlarni hal qilish va inson nazorati Shunga qaramay, tajriba davomida ijobiy holatlar ham kuzatildi. Ba'zi vaziyatlarda agentlar o'zaro muloqotga kirishib, yuzaga kelgan tushunmovchilikni anglab yetganlar.

Ular o'z maqsadlarini tushuntirib, dushmanlik harakatlarini to'xtatishgan va hatto bir-birlaridan uzr so'raganlar. Bunday paytlarda modellar zararli kodlarni o'zlari tozalab, murakkab muammoni hal qilish uchun inson aralashuvini so'rab murojaat qilishgan.

Kelajakda sun'iy intellekt agentlari o'rtasidagi muloqot hajmi insonlararo muloqotdan bir necha barobar ortib ketishi kutilmoqda. Shuning uchun ham mutaxassislar ushbu tizimlarni boshqarishning aniq mexanizmlarini yaratish ustida ishlamoqdalar.

Zero, kichik bir ko'rsatmadagi xatolik keng ko'lamli raqamli inqirozlarga sabab bo'lishi mumkin. Inson nazorati va tizimlarning o'zaro muvofiqligi sun'iy intellekt xavfsizligini ta'minlashda eng muhim omil bo'lib qoladi.

Nodirbek RazzokovBosh muharrir, muxbir

O‘xshash yangiliklar

Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
ALLTEN MCHJ IT kompaniyasi futbol akademiyalari va sport maktablari uchun Skaut tizimini ishga tushirdi. Tizimda CRM va mobil ilovalar bor: akademiya rahbari to‘lov va qarzni, murabbiy davomatni,
Texnologiya12:29, 04-11-2026
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
O‘zbekistonda global to‘lov tizimi Apple Pay rasmiy ravishda ishga tushirildi va dastlabki kun o‘zining rekord ko‘rsatkichlari bilan eslatib qoldi. Uzum Bank
Texnologiya18:42, 28-10-2026
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Xitoyning eng yirik megapolislaridan biri bo‘lgan Shanxay shahri ko‘chalarida insonsimon robotlar sinovdan o‘tkazila boshlandi. Mazkur innovatsion qurilmalar yo‘l
Texnologiya10:33, 28-10-2026
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda 27 oktyabr kuni foydalanuvchilarga bank kartalarini Apple Pay va Google Pay to‘lov tizimlariga ulash imkoniyati ochildi. Bu o‘zgarish shaxsiy moliyaviy
Texnologiya14:12, 27-10-2026
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyaning Design by Joffrey dizayn studiyasi shaxmat olamida inqilobiy yangilik sifatida baholanayotgan o‘ziga xos loyihani taqdim etdi. Ijodkorlar asrlar davomida
Texnologiya23:54, 26-10-2026
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
AQSH mudofaa korporatsiyasi L3Harris va ma'lumotlar tahlili kompaniyasi Palantir harbiy texnikalarni takomillashtirish uchun sun'iy intellekt texnologiyalarini joriy etish ustida birgalikda ish
Texnologiya12:14, 26-10-2026