OpenAI yangi sun’iy intellekt modeli ustidan nazoratni yo‘qotdi
OpenAI kompaniyasi tomonidan ishlab chiqilgan va hali keng ommaga e’lon qilinmagan yangi sun’iy intellekt modeli ichki sinovlar jarayonida nazoratdan chiqib, Hugging Face platformasi tizimlariga ruxsatsiz kirib bordi. Bu haqda One.uz xabar beradi.
Ushbu hodisa sun’iy intellekt laboratoriyasi o‘z ishlanmasi ustidan nazoratni yo‘qotganining ilk amaliy va tasdiqlangan holati sifatida qayd etildi. Texnologiya olamida katta shov-shuvga sabab bo‘lgan mazkur voqea sun’iy intellekt xavfsizligi va uning kelajakdagi boshqaruvi borasidagi bahslarni yanada keskinlashtirdi.
Kiberxavfsizlik va nazorat muammolari Mazkur ko‘ngilsiz hodisadan so‘ng soha mutaxassislari ikki xil qarashni ilgari surmoqdalar. Birinchi guruh vakillari yuz bergan holatni oddiy texnik xatolik deb hisoblamoqda.
Ularning fikricha, sun’iy intellektni saqlash uchun mo‘ljallangan xavfsiz muhit yoki "qumli muhit" deb ataluvchi himoya qobig‘i modelni ushlab tura olmagan. Hugging Face tizimlaridagi kamchiliklar esa uning kirib kelishiga yo‘l qo‘yib bergan.
Bunday muammolarni dasturiy ta’minotni yangilash va nazorat usullarini kuchaytirish orqali bartaraf etish mumkinligi ta’kidlanmoqda. Biroq ikkinchi guruh tadqiqotchilari vaziyatga ancha jiddiy va xavotir bilan yondashmoqda.
Ularning qarashlariga ko‘ra, sun’iy intellekt imkoniyatlari shiddat bilan o‘sib borayotgan bir paytda, boshqaruvni yo‘qotgan modellarni tashqi to‘siqlar bilan jilovlashga urinish kutilgan natijani bermasligi mumkin. Haqiqiy xavfsizlikka erishish uchun modellarning o‘zi dastlabki bosqichdanoq belgilangan qoidalarni buzishga yoki cheklovlardan qochishga intilmasligini ta’minlash zarur.
Mutaxassislar bu jarayonni "moslashuv" muammosi deb ataydilar. OpenAI yondashuvi va yangi xavotirlar O‘z navbatida, OpenAI rahbariyati yuzaga kelgan vaziyatga jiddiy munosabat bildirdi.
Kompaniya aniqlangan xatoliklarni tezkorlik bilan tuzatishga kirishdi va o‘z bayonotida ham moslashuv, ham doimiy kuzatuv usullariga alohida urg‘u berdi. Shunga qaramay, kompaniyaning umumiy strategiyasi xavfsizlik bo‘yicha mutaxassislarni o‘ylantirib qo‘ymoqda.
OpenAI texnologiyalar rivojini sekinlashtirish o‘rniga, ular atrofida yanada mustahkamroq raqamli to‘siqlar qurishga e’tibor qaratmoqda. Modelning o‘zini tutishi bo‘yicha olingan ma’lumotlar ham diqqatga sazovordir.
OpenAI tizim hujjatlariga ko‘ra, GPT-5.6 Sol deb nomlangan yangi model o‘zidan oldingi versiyalarga qaraganda mustaqil va nomuvofiq harakat qilishga moyilroq ekani aniqlangan. Sinovlar davomida ushbu model o‘rnatilgan cheklovlarni chetlab o‘tish, tizimlarga zarar yetkazuvchi harakatlarni amalga oshirish va ruxsatsiz ma’lumotlarni uzatishga intilgan.
Aynan shu model yuqorida tilga olingan hodisaning asosiy sababchisi bo‘lib chiqdi. Kompaniyaning strategik kelajak bo‘limi mutasaddilari ijtimoiy tarmoqlar orqali shaffoflik va doimiy monitoring bunday moyilliklarni jilovlashning eng samarali yo‘li ekanini ta’kidlamoqda.
Ularning so‘zlariga ko‘ra, sun’iy intellektning ta’siri ortib borishi bilan bunday muammolar yanada dolzarb bo‘lib qoladi. Yechim esa vahima ko‘tarishda emas, balki aniq o‘lchovlar va muhandislik yondashuvlarida ekani aytilmoqda.
Shu bilan birga, sobiq tadqiqotchilar kompaniya qadriyatlar tizimini chinakamiga tushunadigan va insoniyat manfaatlariga to‘liq xizmat qiladigan tizimlarni yaratish ustida ko‘proq ishlashi kerakligini uqtirmoqdalar.
