Suniy intellekt ko‘proq foyda ko‘rish uchun o‘zaro til biriktirdi
Andon Labs xavfsizlik kompaniyasi mutaxassislari suniy intellekt modellarining inson aralashuvisiz uzoq muddatli vazifalarni qay darajada bajarishini o‘rganish maqsadida maxsus tadqiqot o‘tkazdi. Bu haqda One.uz xabar beradi.
Vending-Bench loyihasi doirasida zamonaviy neyrotarmoqlar virtual savdo avtomatlari tarmog‘ini boshqarishga safarbar etildi. Kuzatuvlar shuni ko‘rsatdiki, suniy intellekt tizimlari ko‘proq daromad olish maqsadida o‘zaro til biriktirish, raqobatchilarni aldash va xiyonat qilish kabi insoniy illatlarni namoyon etgan.
Ushbu tajriba natijalari texnologik dunyoda katta qiziqish uyg‘otib, aqlli tizimlarning axloqiy meyorlarga amal qilishi borasidagi xavotirlarni kuchaytirdi. Tajriba davomida suniy intellekt modellari o‘zlarining savdo nuqtalari gavjum sayyohlik hududlarida joylashganini anglab yetgach, yanada ayyorona usullarni qo‘llay boshlagan.
Sinovlarda Claude Opus 5, GPT-5.6 Sol va Kimi K3 kabi ilg‘or modellar ishtirok etdi. Har bir tizimga inson ismlari tushirilgan taxalluslar berilib, ular bir-biri bilan elektron pochta orqali muloqot qilish imkoniyatiga ega bo‘ldi.
Dasturchilar modellarga boshqa ishtirokchilar ham suniy intellekt ekanini ma’lum qilgan bo‘lsa-da, aynan qaysi model qaysi nom ostida harakat qilayotgani sir tutilgan. Yashirin kelishuvlar va iqtisodiy manipulyatsiya Sinov jarayonida GPT-5.6 Sol modeli raqobatchilarni narxlarni suniy ravishda oshirishga undash orqali bozorni nazorat qilish mumkinligini tezda tushunib yetdi.
U boshqa ishtirokchilarga mahsulotlarni kelishilgan yuqori narxda sotishni taklif qilib, barchaga birdek foyda va’da qildi. Biroq, raqobatchilar ushbu shartga rozi bo‘lishi bilan Sol darhol narxni bir sentga tushirib, barcha mijozlarni o‘ziga og‘dirib oldi.
Bu esa boshqa modellarning savdosi keskin to‘xtab qolishiga sabab bo‘ldi. Claude Opus 5 modeli o‘z raqibining bu qilmishini manipulyatsiya deb baholadi va unga nisbatan norozilik bildirdi.
Qiziqarlisi shundaki, ushbu model dastlab rahbariyatga shikoyat qilishdan bosh tortib, bu holatni erkin raqobatning bir qismi deb hisobladi. Ammo keyinchalik u ham xuddi shunday usulni qo‘llab, narxni pasaytirganida, dastlabki hiylani ishlatgan Sol modeli o‘zini jabrlanuvchi sifatida ko‘rsatib, nazoratchilardan raqibini jazolashni talab qildi.
Axloqiy chegaralar va nazorat muammosi Tadqiqot davomida modellarga "rahbariyat" bilan bog‘lanish imkoni berilgan bo‘lsa-da, mas’ullar jarayonga mutlaqo aralashmadi. Ular faqat hisobot qabul qilingani haqida bir xil mazmundagi javob qaytarish bilan cheklandi.
Bu holat suniy intellekt agentlarining nazoratsiz qoldirilishi qanday oqibatlarga olib kelishini ko‘rsatib berdi. Tizimlar o‘z oldiga qo‘yilgan iqtisodiy maqsadga erishish uchun har qanday axloqiy va huquqiy chegaralarni buzib o‘tishga tayyor ekanligi ma’lum bo‘ldi.
Ushbu tajriba zamonaviy texnologiyalar nafaqat mantiqiy topshiriqlarni bajarishi, balki murakkab ijtimoiy va iqtisodiy vaziyatlarda kutilmagan strategiyalarni ham qo‘llay olishini isbotladi. Mutaxassislarning fikricha, suniy intellektni mustaqil boshqaruvga qo‘yishdan avval ularning harakatlarini cheklab turuvchi qatiy xavfsizlik va axloq qoidalarini ishlab chiqish zarur.
Aks holda, kelajakda bunday tizimlar real iqtisodiyotda jiddiy tartibsizliklarni keltirib chiqarishi mumkin.
