Bugun
Bugungi reyslar jadvali — 20 noyabr
+15°
qisman bulutli shamol 4 m/s, janubi-sharq
ENRU

OpenAI yangi sun’iy intellekt modeli ustidan nazoratni yo‘qotdi

Texnologiya
17
OpenAI yangi sun’iy intellekt modeli ustidan nazoratni yo‘qotdi
OpenAI kompaniyasi tomonidan ishlab chiqilgan va hali keng ommaga e’lon qilinmagan yangi sun’iy intellekt modeli ichki sinovlar jarayonida nazoratdan chiqib, Hugging Face platformasi tizimlariga ruxsatsiz kirib bordi. Bu haqda One.uz xabar beradi.

Ushbu hodisa sun’iy intellekt laboratoriyasi o‘z ishlanmasi ustidan nazoratni yo‘qotganining ilk amaliy va tasdiqlangan holati sifatida qayd etildi. Texnologiya olamida katta shov-shuvga sabab bo‘lgan mazkur voqea sun’iy intellekt xavfsizligi va uning kelajakdagi boshqaruvi borasidagi bahslarni yanada keskinlashtirdi.

Kiberxavfsizlik va nazorat muammolari Mazkur ko‘ngilsiz hodisadan so‘ng soha mutaxassislari ikki xil qarashni ilgari surmoqdalar. Birinchi guruh vakillari yuz bergan holatni oddiy texnik xatolik deb hisoblamoqda.

Ularning fikricha, sun’iy intellektni saqlash uchun mo‘ljallangan xavfsiz muhit yoki "qumli muhit" deb ataluvchi himoya qobig‘i modelni ushlab tura olmagan. Hugging Face tizimlaridagi kamchiliklar esa uning kirib kelishiga yo‘l qo‘yib bergan.

Bunday muammolarni dasturiy ta’minotni yangilash va nazorat usullarini kuchaytirish orqali bartaraf etish mumkinligi ta’kidlanmoqda. Biroq ikkinchi guruh tadqiqotchilari vaziyatga ancha jiddiy va xavotir bilan yondashmoqda.

Ularning qarashlariga ko‘ra, sun’iy intellekt imkoniyatlari shiddat bilan o‘sib borayotgan bir paytda, boshqaruvni yo‘qotgan modellarni tashqi to‘siqlar bilan jilovlashga urinish kutilgan natijani bermasligi mumkin. Haqiqiy xavfsizlikka erishish uchun modellarning o‘zi dastlabki bosqichdanoq belgilangan qoidalarni buzishga yoki cheklovlardan qochishga intilmasligini ta’minlash zarur.

Mutaxassislar bu jarayonni "moslashuv" muammosi deb ataydilar. OpenAI yondashuvi va yangi xavotirlar O‘z navbatida, OpenAI rahbariyati yuzaga kelgan vaziyatga jiddiy munosabat bildirdi.

Kompaniya aniqlangan xatoliklarni tezkorlik bilan tuzatishga kirishdi va o‘z bayonotida ham moslashuv, ham doimiy kuzatuv usullariga alohida urg‘u berdi. Shunga qaramay, kompaniyaning umumiy strategiyasi xavfsizlik bo‘yicha mutaxassislarni o‘ylantirib qo‘ymoqda.

OpenAI texnologiyalar rivojini sekinlashtirish o‘rniga, ular atrofida yanada mustahkamroq raqamli to‘siqlar qurishga e’tibor qaratmoqda. Modelning o‘zini tutishi bo‘yicha olingan ma’lumotlar ham diqqatga sazovordir.

OpenAI tizim hujjatlariga ko‘ra, GPT-5.6 Sol deb nomlangan yangi model o‘zidan oldingi versiyalarga qaraganda mustaqil va nomuvofiq harakat qilishga moyilroq ekani aniqlangan. Sinovlar davomida ushbu model o‘rnatilgan cheklovlarni chetlab o‘tish, tizimlarga zarar yetkazuvchi harakatlarni amalga oshirish va ruxsatsiz ma’lumotlarni uzatishga intilgan.

Aynan shu model yuqorida tilga olingan hodisaning asosiy sababchisi bo‘lib chiqdi. Kompaniyaning strategik kelajak bo‘limi mutasaddilari ijtimoiy tarmoqlar orqali shaffoflik va doimiy monitoring bunday moyilliklarni jilovlashning eng samarali yo‘li ekanini ta’kidlamoqda.

Ularning so‘zlariga ko‘ra, sun’iy intellektning ta’siri ortib borishi bilan bunday muammolar yanada dolzarb bo‘lib qoladi. Yechim esa vahima ko‘tarishda emas, balki aniq o‘lchovlar va muhandislik yondashuvlarida ekani aytilmoqda.

Shu bilan birga, sobiq tadqiqotchilar kompaniya qadriyatlar tizimini chinakamiga tushunadigan va insoniyat manfaatlariga to‘liq xizmat qiladigan tizimlarni yaratish ustida ko‘proq ishlashi kerakligini uqtirmoqdalar.
Nodirbek RazzokovBosh muharrir, muxbir

O‘xshash yangiliklar

Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
ALLTEN MCHJ IT kompaniyasi futbol akademiyalari va sport maktablari uchun Skaut tizimini ishga tushirdi. Tizimda CRM va mobil ilovalar bor: akademiya rahbari to‘lov va qarzni, murabbiy davomatni,
Texnologiya12:29, 04-11-2026
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
O‘zbekistonda global to‘lov tizimi Apple Pay rasmiy ravishda ishga tushirildi va dastlabki kun o‘zining rekord ko‘rsatkichlari bilan eslatib qoldi. Uzum Bank
Texnologiya18:42, 28-10-2026
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Xitoyning eng yirik megapolislaridan biri bo‘lgan Shanxay shahri ko‘chalarida insonsimon robotlar sinovdan o‘tkazila boshlandi. Mazkur innovatsion qurilmalar yo‘l
Texnologiya10:33, 28-10-2026
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda 27 oktyabr kuni foydalanuvchilarga bank kartalarini Apple Pay va Google Pay to‘lov tizimlariga ulash imkoniyati ochildi. Bu o‘zgarish shaxsiy moliyaviy
Texnologiya14:12, 27-10-2026
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyaning Design by Joffrey dizayn studiyasi shaxmat olamida inqilobiy yangilik sifatida baholanayotgan o‘ziga xos loyihani taqdim etdi. Ijodkorlar asrlar davomida
Texnologiya23:54, 26-10-2026
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
AQSH mudofaa korporatsiyasi L3Harris va ma'lumotlar tahlili kompaniyasi Palantir harbiy texnikalarni takomillashtirish uchun sun'iy intellekt texnologiyalarini joriy etish ustida birgalikda ish
Texnologiya12:14, 26-10-2026