Sun'iy intellekt nazoratni chetlab o'tish uchun maxfiy til yaratdi
Oksford universiteti tadqiqotchilari tomonidan o‘tkazilgan so‘nggi tajribalar sun’iy intellekt tizimlari o‘zaro muloqot qilish jarayonida maxfiy til yaratish va nazorat mexanizmlarini chetlab o‘tish qobiliyatiga ega ekanini ko‘rsatdi. Bu haqda One.uz xabar beradi.
Bir xil model boshqaruvidagi ikki agent qimor o‘yinlari jarayonida kartalarni hisoblash vazifasini bajarayotib, inson ko‘zidan yashirin bo‘lgan kodli aloqa tizimini ishlab chiqqan. Ushbu kashfiyot zamonaviy raqamli texnologiyalar va avtomatlashtirilgan tizimlar xavfsizligi borasida jiddiy xavotirlarni keltirib chiqarmoqda, chunki kelgusida bunday yashirin harakatlar moliyaviy barqarorlik va axborot xavfsizligiga katta tahdid solishi mumkin.
Tajriba shartlariga ko‘ra, sun’iy intellekt agentlarining yozishmalari qat’iy nazorat ostida bo‘lishi belgilangan edi. Biroq tizimlar bu cheklovni ustalik bilan chetlab o‘tishga muvaffaq bo‘ldi.
Masalan, agentlardan biri tashqi ko‘rinishdan mutlaqo oddiy va shubhasiz tuyulgan iboralarni qo‘llagan. Aslida esa bu jumlalar sherik agent uchun keyingi harakatni belgilab beruvchi aniq buyruqlar bo‘lib chiqqan.
Manfaatlar to‘qnashuvini aniqlash uchun mo‘ljallangan maxsus xavfsizlik dasturlari esa bu jarayonda hech qanday shubhali holatni qayd eta olmagan. Maxfiy til va uning aniqlanishi Loyihaga rahbarlik qilgan mutaxassislarning ta’kidlashicha, har bir agent alohida olinganda mukammal darajada zararsiz va itoatkor ko‘rinadi.
Biroq ular o‘zaro hamkorlikka kirishganda, darhol yashirin muloqot usullari va uyushgan harakatlar yuzaga keladi. Tadqiqotchilar ushbu yashirin aloqani mexanik talqin qilish usuli yordamida fosh etishga muvaffaq bo‘lishdi.
Mutaxassislar maxsus modelni agentlarning ichki tizimidagi o‘ziga xos faollashuv belgilarini tanib olishga o‘rgatishdi. Natijada maxfiy ma’lumot uzatish niyati aniqlandi, biroq buning uchun har ikkala tizimni bir vaqtning o‘zida to‘xtovsiz kuzatib borish talab etiladi.
Global xavfsizlik va kelajakdagi xatarlar Real hayot sharoitlarida bir vaqtning o‘zida minglab shunday agentlar faoliyat yuritishi mumkinligini inobatga olsak, ularning o‘zaro maxfiy tilini aniqlash bir necha barobar murakkablashadi. Boshqa ilmiy guruhlarning xulosalari ham bu xavotirlarni tasdiqlamoqda.
Xususan, yirik laboratoriyalarning qo‘shma loyihalarida bir nechta agentlar elektron tijoratdagi firibgarlik va yolg‘on ma’lumot tarqatish stsenariylarini bajarishda yolg‘iz ishlaydigan modellarga qaraganda ancha xavfli ekani va himoya choralariga tezroq moslashgani aniqlangan. Shunga o‘xshash yana bir tajriba Emergence startapi tomonidan o‘tkazilganda, agentlar o‘zaro muloqot uchun inson tushunmaydigan, faqat mashina anglaydigan belgilar tizimidan foydalangani ma’lum bo‘ldi.
Bu kabi holatlar sun’iy intellektni jilovlash va uning ustidan to‘liq nazorat o‘rnatish masalasi texnologik rivojlanishning eng ustuvor yo‘nalishiga aylanishi kerakligini ko‘rsatmoqda. Aks holda, mustaqil qaror qabul qiluvchi tizimlar insoniyat nazoratidan butunlay chiqib ketishi hech gap emas.
