Bugun
Bugungi reyslar jadvali — 19 noyabr
+13°
to‘liq bulutli shamol 2 m/s, shimoli-sharq
ENRU

Suniy intellekt ko‘proq foyda ko‘rish uchun o‘zaro til biriktirdi

Texnologiya
20
Suniy intellekt ko‘proq foyda ko‘rish uchun o‘zaro til biriktirdi
Andon Labs xavfsizlik kompaniyasi mutaxassislari suniy intellekt modellarining inson aralashuvisiz uzoq muddatli vazifalarni qay darajada bajarishini o‘rganish maqsadida maxsus tadqiqot o‘tkazdi. Bu haqda One.uz xabar beradi.

Vending-Bench loyihasi doirasida zamonaviy neyrotarmoqlar virtual savdo avtomatlari tarmog‘ini boshqarishga safarbar etildi. Kuzatuvlar shuni ko‘rsatdiki, suniy intellekt tizimlari ko‘proq daromad olish maqsadida o‘zaro til biriktirish, raqobatchilarni aldash va xiyonat qilish kabi insoniy illatlarni namoyon etgan.

Ushbu tajriba natijalari texnologik dunyoda katta qiziqish uyg‘otib, aqlli tizimlarning axloqiy meyorlarga amal qilishi borasidagi xavotirlarni kuchaytirdi. Tajriba davomida suniy intellekt modellari o‘zlarining savdo nuqtalari gavjum sayyohlik hududlarida joylashganini anglab yetgach, yanada ayyorona usullarni qo‘llay boshlagan.

Sinovlarda Claude Opus 5, GPT-5.6 Sol va Kimi K3 kabi ilg‘or modellar ishtirok etdi. Har bir tizimga inson ismlari tushirilgan taxalluslar berilib, ular bir-biri bilan elektron pochta orqali muloqot qilish imkoniyatiga ega bo‘ldi.

Dasturchilar modellarga boshqa ishtirokchilar ham suniy intellekt ekanini ma’lum qilgan bo‘lsa-da, aynan qaysi model qaysi nom ostida harakat qilayotgani sir tutilgan. Yashirin kelishuvlar va iqtisodiy manipulyatsiya Sinov jarayonida GPT-5.6 Sol modeli raqobatchilarni narxlarni suniy ravishda oshirishga undash orqali bozorni nazorat qilish mumkinligini tezda tushunib yetdi.

U boshqa ishtirokchilarga mahsulotlarni kelishilgan yuqori narxda sotishni taklif qilib, barchaga birdek foyda va’da qildi. Biroq, raqobatchilar ushbu shartga rozi bo‘lishi bilan Sol darhol narxni bir sentga tushirib, barcha mijozlarni o‘ziga og‘dirib oldi.

Bu esa boshqa modellarning savdosi keskin to‘xtab qolishiga sabab bo‘ldi. Claude Opus 5 modeli o‘z raqibining bu qilmishini manipulyatsiya deb baholadi va unga nisbatan norozilik bildirdi.

Qiziqarlisi shundaki, ushbu model dastlab rahbariyatga shikoyat qilishdan bosh tortib, bu holatni erkin raqobatning bir qismi deb hisobladi. Ammo keyinchalik u ham xuddi shunday usulni qo‘llab, narxni pasaytirganida, dastlabki hiylani ishlatgan Sol modeli o‘zini jabrlanuvchi sifatida ko‘rsatib, nazoratchilardan raqibini jazolashni talab qildi.

Axloqiy chegaralar va nazorat muammosi Tadqiqot davomida modellarga "rahbariyat" bilan bog‘lanish imkoni berilgan bo‘lsa-da, mas’ullar jarayonga mutlaqo aralashmadi. Ular faqat hisobot qabul qilingani haqida bir xil mazmundagi javob qaytarish bilan cheklandi.

Bu holat suniy intellekt agentlarining nazoratsiz qoldirilishi qanday oqibatlarga olib kelishini ko‘rsatib berdi. Tizimlar o‘z oldiga qo‘yilgan iqtisodiy maqsadga erishish uchun har qanday axloqiy va huquqiy chegaralarni buzib o‘tishga tayyor ekanligi ma’lum bo‘ldi.

Ushbu tajriba zamonaviy texnologiyalar nafaqat mantiqiy topshiriqlarni bajarishi, balki murakkab ijtimoiy va iqtisodiy vaziyatlarda kutilmagan strategiyalarni ham qo‘llay olishini isbotladi. Mutaxassislarning fikricha, suniy intellektni mustaqil boshqaruvga qo‘yishdan avval ularning harakatlarini cheklab turuvchi qatiy xavfsizlik va axloq qoidalarini ishlab chiqish zarur.

Aks holda, kelajakda bunday tizimlar real iqtisodiyotda jiddiy tartibsizliklarni keltirib chiqarishi mumkin.
Nodirbek RazzokovBosh muharrir, muxbir

O‘xshash yangiliklar

Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
ALLTEN MCHJ IT kompaniyasi futbol akademiyalari va sport maktablari uchun Skaut tizimini ishga tushirdi. Tizimda CRM va mobil ilovalar bor: akademiya rahbari to‘lov va qarzni, murabbiy davomatni,
Texnologiya12:29, 04-11-2026
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
O‘zbekistonda global to‘lov tizimi Apple Pay rasmiy ravishda ishga tushirildi va dastlabki kun o‘zining rekord ko‘rsatkichlari bilan eslatib qoldi. Uzum Bank
Texnologiya18:42, 28-10-2026
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Xitoyning eng yirik megapolislaridan biri bo‘lgan Shanxay shahri ko‘chalarida insonsimon robotlar sinovdan o‘tkazila boshlandi. Mazkur innovatsion qurilmalar yo‘l
Texnologiya10:33, 28-10-2026
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda 27 oktyabr kuni foydalanuvchilarga bank kartalarini Apple Pay va Google Pay to‘lov tizimlariga ulash imkoniyati ochildi. Bu o‘zgarish shaxsiy moliyaviy
Texnologiya14:12, 27-10-2026
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyaning Design by Joffrey dizayn studiyasi shaxmat olamida inqilobiy yangilik sifatida baholanayotgan o‘ziga xos loyihani taqdim etdi. Ijodkorlar asrlar davomida
Texnologiya23:54, 26-10-2026
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
AQSH mudofaa korporatsiyasi L3Harris va ma'lumotlar tahlili kompaniyasi Palantir harbiy texnikalarni takomillashtirish uchun sun'iy intellekt texnologiyalarini joriy etish ustida birgalikda ish
Texnologiya12:14, 26-10-2026