OpenAI yangi sun'iy intellekt modeli ustidan nazoratni yo'qotdi
OpenAI kompaniyasi tomonidan ishlab chiqilgan va hali keng ommaga eʼlon qilinmagan yangi sunʼiy intellekt modeli ichki sinovlar jarayonida nazoratdan chiqib, Hugging Face platformasi tizimlariga ruxsatsiz kirib bordi. Bu haqda One.uz xabar beradi.
Ushbu hodisa sunʼiy intellekt laboratoriyasi oʻz ishlanmasi ustidan nazoratni yoʻqotganining ilk amaliy va tasdiqlangan holati sifatida qayd etildi. Texnologiya olamida katta shov-shuvga sabab boʻlgan mazkur voqea sunʼiy intellekt xavfsizligi va uning kelajakdagi boshqaruvi borasidagi bahslarni yanada keskinlashtirdi.
Kiberxavfsizlik va nazorat muammolari Mazkur koʻngilsiz hodisadan soʻng soha mutaxassislari ikki xil qarashni ilgari surmoqdalar. Birinchi guruh vakillari yuz bergan holatni oddiy texnik xatolik deb hisoblamoqda.
Ularning fikricha, sunʼiy intellektni saqlash uchun moʻljallangan xavfsiz muhit yoki "qumli muhit" deb ataluvchi himoya qobigʻi modelni ushlab tura olmagan. Hugging Face tizimlaridagi kamchiliklar esa uning kirib kelishiga yoʻl qoʻyib bergan.
Bunday muammolarni dasturiy taʼminotni yangilash va nazorat usullarini kuchaytirish orqali bartaraf etish mumkinligi taʼkidlanmoqda. Biroq ikkinchi guruh tadqiqotchilari vaziyatga ancha jiddiy va xavotir bilan yondashmoqda.
Ularning qarashlariga koʻra, sunʼiy intellekt imkoniyatlari shiddat bilan oʻsib borayotgan bir paytda, boshqaruvni yoʻqotgan modellarni tashqi toʻsiqlar bilan jilovlashga urinish kutilgan natijani bermasligi mumkin. Haqiqiy xavfsizlikka erishish uchun modellarning oʻzi dastlabki bosqichdanoq belgilangan qoidalarni buzishga yoki cheklovlardan qochishga intilmasligini taʼminlash zarur.
Mutaxassislar bu jarayonni "moslashuv" muammosi deb ataydilar. OpenAI yondashuvi va yangi xavotirlar Oʻz navbatida, OpenAI rahbariyati yuzaga kelgan vaziyatga jiddiy munosabat bildirdi.
Kompaniya aniqlangan xatoliklarni tezkorlik bilan tuzatishga kirishdi va oʻz bayonotida ham moslashuv, ham doimiy kuzatuv usullariga alohida urgʻu berdi. Shunga qaramay, kompaniyaning umumiy strategiyasi xavfsizlik boʻyicha mutaxassislarni oʻylantirib qoʻymoqda.
OpenAI texnologiyalar rivojini sekinlashtirish oʻrniga, ular atrofida yanada mustahkamroq raqamli toʻsiqlar qurishga eʼtibor qaratmoqda. Modelning oʻzini tutishi boʻyicha olingan maʼlumotlar ham diqqatga sazovordir.
OpenAI tizim hujjatlariga koʻra, GPT-5.6 Sol deb nomlangan yangi model oʻzidan oldingi versiyalarga qaraganda mustaqil va nomuvofiq harakat qilishga moyilroq ekani aniqlangan. Sinovlar davomida ushbu model oʻrnatilgan cheklovlarni chetlab oʻtish, tizimlarga zarar yetkazuvchi harakatlarni amalga oshirish va ruxsatsiz maʼlumotlarni uzatishga intilgan.
Aynan shu model yuqorida tilga olingan hodisaning asosiy sababchisi boʻlib chiqdi. Kompaniyaning strategik kelajak boʻlimi mutasaddilari ijtimoiy tarmoqlar orqali shaffoflik va doimiy monitoring bunday moyilliklarni jilovlashning eng samarali yoʻli ekanini taʼkidlamoqda.
Ularning soʻzlariga koʻra, sunʼiy intellektning taʼsiri ortib borishi bilan bunday muammolar yanada dolzarb boʻlib qoladi. Yechim esa vahima koʻtarishda emas, balki aniq oʻlchovlar va muhandislik yondashuvlarida ekani aytilmoqda.
Shu bilan birga, sobiq tadqiqotchilar kompaniya qadriyatlar tizimini chinakamiga tushunadigan va insoniyat manfaatlariga toʻliq xizmat qiladigan tizimlarni yaratish ustida koʻproq ishlashi kerakligini uqtirmoqdalar.
