Sun'iy intellekt modellari mantiq emas, statistik manipulyatsiyadir
Songgi paytlarda OpenAI o1 va DeepSeek R1 kabi yirik mantiqiy modellar o'zining go'yoki insondek fikrlash qobiliyati bilan dunyoni hayratga solmoqda. Bu haqda Zamin.uz xabar berdi.
Biroq Arizona shtati universiteti tadqiqotchilari Subbarao Kambxampati boshchiligida e'lon qilgan yangi ilmiy ish ushbu tasavvurlarni shubha ostiga qo'ydi. Olimlarning ta'kidlashicha, neyrotarmoqlarning uzun mulohaza zanjirlari aslida haqiqiy kognitiv jarayon emas, balki shunchaki statistik manipulyatsiyadir.
Tadqiqotchilarning fikriga ko'ra, zamonaviy sun'iy intellekt tizimlari yaratadigan mantiqiy ketma-ketliklar foydalanuvchida intellektual jarayon sodir bo'layotgani haqida ishonchli illyuziyani shakllantiradi. Aslida esa, Transformer arxitekturasiga asoslangan ushbu modellar faqat oldingi kontekstdan kelib chiqib, keyingi so'z bo'lagini statistik bashorat qiladi, xolos.
Bu jarayonni insonning mantiqiy xulosa chiqarish mexanizmi bilan tenglashtirish ilmiy jihatdan noto'g'ri deb hisoblanmoqda. Evrika lahzasi, ya'ni go'yoki masalani tushunib yetgandek hayrat ifodasini qo'llashiga alohida e'tibor qaratilgan.
Olimlar buni neyrotarmoqning ichki hisob-kitoblaridagi sifat o'zgarishi emas, balki o'quv ma'lumotlaridagi insoniy uslubga shunchaki taqlid deb atashmoqda. Texnik nuqtai nazardan, bu tizimlar faqat yakuniy to'g'ri javob uchun optimallashtirilgan bo'lib, oraliq zanjirlar hech qanday ma'noviy tekshiruvdan o'tmaydi.
Tadqiqotchilar o'z farazlarini isbotlash uchun labirintlardan chiqish va eng qisqa yo'lni topish kabi matematik vazifalardan foydalanishgan. Tajribalar davomida kutilmagan natija qayd etildi.
Modellar mantiqiy tushuntirishlar zanjiri ataylab noto'g'ri yoki chalkashtirib yuborilgan holatlarda ham to'g'ri javobni topishda davom etgan. Bu esa tizim o'zining mulohazalarini o'qimasligini, balki ulardan shunchaki qo'shimcha statistik shablon sifatida foydalanishini ko'rsatadi.
Yana bir qiziqarli holat oddiy labirint vazifasida kuzatildi. Bunda sun'iy intellektga hech qanday to'siqsiz, eng sodda labirint vazifasi berilgan.
Shunga qaramay, modellar bir necha sahifalik mulohazalar hosil qilgan. Bu holat mulohaza uzunligi hisoblash quvvati yoki murakkablikni anglatadi degan qarashni yo'qqa chiqaradi.
Uzun matnlar shunchaki o'quv bazasidagi murakkab masalalar uzun tushuntirishlar bilan kelgani sababli yuzaga kelgan statistik qo'shimcha hodisadir. Olimlar sun'iy intellekt sohasini mulohazalar teatri tuzog'iga tushib qolishdan ogohlantirmoqda.
Tizimlar tomonidan taqdim etilayotgan ishonchli tushuntirishlar foydalanuvchilarda soxta ishonch uyg'otishi mumkin. Bu ayniqsa tibbiyot, muhandislik va huquqshunoslik kabi sohalarda xavflidir, chunki inson mashina tomonidan hosil qilingan o'nlab sahifalik matnlarga asosiy qarorlar qabul qilishda tayanishi mumkin.
Shu sababli, sun'iy intellekt tizimlarining ichki ishlash mexanizmlarini chuqur tushunish va ularning asl qobiliyatlarini ob'ektiv baholash muhim ahamiyatga ega.
