ChatGPT yangilanishidan so'ng kutilmaganda goblinlar haqida gapira boshladi
OpenAI kompaniyasi o‘zining ChatGPT sun’iy intellekt modelida yuzaga kelgan g‘ayritabiiy nosozlik haqida rasmiy bayonot berdi. Bu haqda Zamin.uz xabar berdi.
Tizimning yangi versiyasi ishga tushirilgandan so‘ng, muloqot botining javoblarida g‘alati holatlar kuzatila boshlandi. Xususan, dastur hatto fantastika yoki ertaklarga mutlaqo aloqador bo‘lmagan mavzularda ham goblinlar, gremlinlar va boshqa afsonaviy mavjudotlarni tez-tez tilga ola boshlagan.
Kompaniya taqdim etgan statistik ma’lumotlarga ko‘ra, yangilanishdan so‘ng matnlarda goblin so‘zining ishlatilish darajasi kutilmaganda bir necha barobarga ortib ketgan. Ayrim ishchi tartiblarda ushbu ko‘rsatkich qariyb to‘rt ming foizga yetgani mutaxassislarni hayratda qoldirdi.
O‘tkazilgan tahlillar natijasida aniqlanishicha, muammo dasturning erkin va hazilomuz muloqot qilish uchun mo‘ljallangan maxsus rejimi bilan bog‘liq bo‘lib chiqqan. Ushbu rejim foydalanuvchilar bilan yanada samimiy va qiziqarli suhbat qurish maqsadida yaratilgan edi.
Biroq sun’iy intellekt o‘ziga berilgan vazifani noto‘g‘ri tushunib, o‘ynoqi uslubni aynan afsonaviy mavjudotlar haqida gapirish deb talqin qilgan. Natijada foydalanuvchilar har qanday savolga javoban ertaknamo iboralarni eshitishga majbur bo‘lishdi.
Vaziyatni yumshatish uchun OpenAI muhandislari mazkur rejimda ayrim so‘zlardan foydalanishni vaqtincha cheklab qo‘yishdi. Sohaning yetuk mutaxassislari, jumladan, Shimoli-Sharqiy universitet professori Kristof Ridl ushbu hodisani zamonaviy tizimlarning o‘ziga xos zaifligi deb baholamoqda.
Ilmiy tilda mukofotni noto‘g‘ri o‘zlashtirish deb ataladigan bu holatda, model foydalanuvchiga ma’qul keladigan uslubni topgach, uni me’yordan ortiq darajada takrorlay boshlaydi. Bu esa sun’iy intellektni insoniy xislatlar bilan boyitishga urinish jarayonida kutilmagan xatoliklarga olib kelishi mumkinligini isbotlaydi.
Garchi bu safargi nosozlik ko‘pchilik uchun kulgili va zararsiz tuyulsa-da, ekspertlar kelajakda bunday nazoratsiz xatti-harakatlar jiddiyroq muammolarni keltirib chiqarishidan xavotirda. Bugungi kunda texnologiya olamidagi kuchli raqobat kompaniyalarni yangi mahsulotlarni yetarlicha sinovdan o‘tkazmasdan ommaga taqdim etishga majbur qilmoqda.
Mutaxassislarning fikricha, sun’iy intellektning mantiqsiz javoblar berishi kelgusida axborot xavfsizligi yoki muhim qarorlar qabul qilish jarayonida salbiy oqibatlarga sabab bo‘lishi mumkin. Shuning uchun ham bunday tizimlarni boshqarish mexanizmlarini yanada takomillashtirish talab etiladi.
