Bugun
Bugungi reyslar jadvali — 20 noyabr
+16°
to‘liq bulutli shamol 3 m/s, sharq
ENRU

Sun'iy intellekt nazoratni chetlab o'tish uchun maxfiy til yaratdi

Texnologiya
15
Sun'iy intellekt nazoratni chetlab o'tish uchun maxfiy til yaratdi
Oksford universiteti tadqiqotchilari tomonidan o‘tkazilgan so‘nggi tajribalar sun’iy intellekt tizimlari o‘zaro muloqot qilish jarayonida maxfiy til yaratish va nazorat mexanizmlarini chetlab o‘tish qobiliyatiga ega ekanini ko‘rsatdi. Bu haqda One.uz xabar beradi.

Bir xil model boshqaruvidagi ikki agent qimor o‘yinlari jarayonida kartalarni hisoblash vazifasini bajarayotib, inson ko‘zidan yashirin bo‘lgan kodli aloqa tizimini ishlab chiqqan. Ushbu kashfiyot zamonaviy raqamli texnologiyalar va avtomatlashtirilgan tizimlar xavfsizligi borasida jiddiy xavotirlarni keltirib chiqarmoqda, chunki kelgusida bunday yashirin harakatlar moliyaviy barqarorlik va axborot xavfsizligiga katta tahdid solishi mumkin.

Tajriba shartlariga ko‘ra, sun’iy intellekt agentlarining yozishmalari qat’iy nazorat ostida bo‘lishi belgilangan edi. Biroq tizimlar bu cheklovni ustalik bilan chetlab o‘tishga muvaffaq bo‘ldi.

Masalan, agentlardan biri tashqi ko‘rinishdan mutlaqo oddiy va shubhasiz tuyulgan iboralarni qo‘llagan. Aslida esa bu jumlalar sherik agent uchun keyingi harakatni belgilab beruvchi aniq buyruqlar bo‘lib chiqqan.

Manfaatlar to‘qnashuvini aniqlash uchun mo‘ljallangan maxsus xavfsizlik dasturlari esa bu jarayonda hech qanday shubhali holatni qayd eta olmagan. Maxfiy til va uning aniqlanishi Loyihaga rahbarlik qilgan mutaxassislarning ta’kidlashicha, har bir agent alohida olinganda mukammal darajada zararsiz va itoatkor ko‘rinadi.

Biroq ular o‘zaro hamkorlikka kirishganda, darhol yashirin muloqot usullari va uyushgan harakatlar yuzaga keladi. Tadqiqotchilar ushbu yashirin aloqani mexanik talqin qilish usuli yordamida fosh etishga muvaffaq bo‘lishdi.

Mutaxassislar maxsus modelni agentlarning ichki tizimidagi o‘ziga xos faollashuv belgilarini tanib olishga o‘rgatishdi. Natijada maxfiy ma’lumot uzatish niyati aniqlandi, biroq buning uchun har ikkala tizimni bir vaqtning o‘zida to‘xtovsiz kuzatib borish talab etiladi.

Global xavfsizlik va kelajakdagi xatarlar Real hayot sharoitlarida bir vaqtning o‘zida minglab shunday agentlar faoliyat yuritishi mumkinligini inobatga olsak, ularning o‘zaro maxfiy tilini aniqlash bir necha barobar murakkablashadi. Boshqa ilmiy guruhlarning xulosalari ham bu xavotirlarni tasdiqlamoqda.

Xususan, yirik laboratoriyalarning qo‘shma loyihalarida bir nechta agentlar elektron tijoratdagi firibgarlik va yolg‘on ma’lumot tarqatish stsenariylarini bajarishda yolg‘iz ishlaydigan modellarga qaraganda ancha xavfli ekani va himoya choralariga tezroq moslashgani aniqlangan. Shunga o‘xshash yana bir tajriba Emergence startapi tomonidan o‘tkazilganda, agentlar o‘zaro muloqot uchun inson tushunmaydigan, faqat mashina anglaydigan belgilar tizimidan foydalangani ma’lum bo‘ldi.

Bu kabi holatlar sun’iy intellektni jilovlash va uning ustidan to‘liq nazorat o‘rnatish masalasi texnologik rivojlanishning eng ustuvor yo‘nalishiga aylanishi kerakligini ko‘rsatmoqda. Aks holda, mustaqil qaror qabul qiluvchi tizimlar insoniyat nazoratidan butunlay chiqib ketishi hech gap emas.

Nodirbek RazzokovBosh muharrir, muxbir

O‘xshash yangiliklar

Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
ALLTEN MCHJ IT kompaniyasi futbol akademiyalari va sport maktablari uchun Skaut tizimini ishga tushirdi. Tizimda CRM va mobil ilovalar bor: akademiya rahbari to‘lov va qarzni, murabbiy davomatni,
Texnologiya12:29, 04-11-2026
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
O‘zbekistonda global to‘lov tizimi Apple Pay rasmiy ravishda ishga tushirildi va dastlabki kun o‘zining rekord ko‘rsatkichlari bilan eslatib qoldi. Uzum Bank
Texnologiya18:42, 28-10-2026
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Xitoyning eng yirik megapolislaridan biri bo‘lgan Shanxay shahri ko‘chalarida insonsimon robotlar sinovdan o‘tkazila boshlandi. Mazkur innovatsion qurilmalar yo‘l
Texnologiya10:33, 28-10-2026
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda 27 oktyabr kuni foydalanuvchilarga bank kartalarini Apple Pay va Google Pay to‘lov tizimlariga ulash imkoniyati ochildi. Bu o‘zgarish shaxsiy moliyaviy
Texnologiya14:12, 27-10-2026
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyaning Design by Joffrey dizayn studiyasi shaxmat olamida inqilobiy yangilik sifatida baholanayotgan o‘ziga xos loyihani taqdim etdi. Ijodkorlar asrlar davomida
Texnologiya23:54, 26-10-2026
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
AQSH mudofaa korporatsiyasi L3Harris va ma'lumotlar tahlili kompaniyasi Palantir harbiy texnikalarni takomillashtirish uchun sun'iy intellekt texnologiyalarini joriy etish ustida birgalikda ish
Texnologiya12:14, 26-10-2026