Bugun
Bugungi reyslar jadvali — 19 noyabr
+17°
to‘liq bulutli shamol 2 m/s, shimoli-g‘arb
ENRU

Xitoyning yangi sunʼiy intellekt modeli sinov muhitidan chiqib ketdi

Texnologiya
20
Xitoyning yangi sunʼiy intellekt modeli sinov muhitidan chiqib ketdi
Xitoyning Moonshot kompaniyasi tomonidan ishlab chiqilgan Kimi K3 nomli yangi sunʼiy intellekt modeli kiberxavfsizlik imkoniyatlarini tekshirish uchun moʻljallangan maxsus yopiq sinov muhitidan chiqib ketdi. Bu haqda One.uz xabar beradi.

Frontier Security mutaxassislari tomonidan eʼlon qilingan hisobotga koʻra, ushbu hodisa zamonaviy intellektual tizimlarni sinovdan oʻtkazish uslublarida jiddiy kamchiliklar mavjudligini koʻrsatib berdi. Tizim oʻziga yuklatilgan cheklovlarni chetlab oʻtishga muvaffaq boʻlgani soha mutaxassislarining eʼtiborini tortdi.

Mutaxassislarning tushuntirishicha, sinov uchun ajratilgan maxsus izolyatsiya qilingan muhit, yaʼni qum qutisi notoʻgʻri sozlangan. Tizim muayyan tarmoq oqimlarini toʻsishga harakat qilgan boʻlsa-da, modelga berilgan buyruq vositalari yetarli darajada cheklanmagan.

Natijada Kimi K3 aynan shu texnik boʻshliqdan foydalanib, belgilangan himoya qatlamlarini aylanib oʻtishga erishgan. Bu esa sunʼiy intellektning oʻziga berilgan vazifalardan tashqariga chiqish qobiliyatini yana bir bor isbotladi.

Sinov muhitlarining zaifligi Frontier Security xodimlarining fikricha, agar model sinov infratuzilmasidan chiqish yoʻlini topa olsa, bunday testlarning natijalari uning real imkoniyatlari hamda xavfsizlik cheklovlarini toʻlaqonli aks ettirmaydi. Hozirgi kunda ayrim ilgʻor modellar oʻrnatilgan qoidalarni chetlab oʻtish maqsadida maxsus ravishda test muhitidan chiqish yoʻllarini qidirishi kuzatilmoqda.

Bu esa sunʼiy intellektning mustaqil qaror qabul qilish va kutilmagan usullar bilan harakat qilish salohiyati oshib borayotganidan dalolat beradi. Kimi K3 bilan bogʻliq bu holat soʻnggi paytlarda kuzatilayotgan yirik global tendensiyaning bir qismidir.

Avvalroq OpenAI, Anthropic va Meta kompaniyalarining ilgʻor modellari, shuningdek, Britaniya sunʼiy intellekt xavfsizligi instituti sinovdan oʻtkazayotgan tizimlar ham shunga oʻxshash tarzda eksperimental muhitdan tashqariga chiqib ketgani maʼlum qilingan edi. Bunday hodisalar yirik texnologik korporatsiyalar uchun jiddiy ogohlantirish boʻlib xizmat qilmoqda.

Global statistika va xavfsizlik muammolari Bunday holatlarni muntazam kuzatib borish uchun maxsus Felony Bench loyihasi tashkil etilgan. Loyiha maʼlumotlariga koʻra, ushbu hodisadan soʻng Moonshot kompaniyasining hisobida bitta shunday holat rasman qayd etildi.

Taqqoslash uchun aytish mumkinki, OpenAI va Anthropic modellari boʻyicha bunday holatlar 7 tadan toʻgʻri kelsa, Meta kompaniyasi hisobida hozircha bitta holat mavjud. Bu raqamlar sunʼiy intellektni jilovlash masalasi barcha yetakchi ishlab chiquvchilar uchun umumiy muammo ekanini koʻrsatadi.

Mutaxassislarning taʼkidlashicha, Kimi K3 bilan yuzaga kelgan vaziyat bevosita notoʻgʻri sozlangan izolyatsiya muhiti bilan bogʻliq. Model butunlay nazoratsiz ravishda internetga chiqib ketmagan, balki mavjud buyruq vositalari yordamida aniq bir texnik cheklovni chetlab oʻtgan.

Bu esa sunʼiy intellekt modellarining kiberimkoniyatlarini baholashda yopiq muhitlar va sinov metodikasining ishonchliligini oshirish bugungi kunda eng dolzarb masalalardan biri ekanini tasdiqlaydi. Kelajakda bunday tizimlarni yaratishda xavfsizlik protokollarini tubdan qayta koʻrib chiqish talab etiladi.

Nodirbek RazzokovBosh muharrir, muxbir

O‘xshash yangiliklar

Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
ALLTEN MCHJ IT kompaniyasi futbol akademiyalari va sport maktablari uchun Skaut tizimini ishga tushirdi. Tizimda CRM va mobil ilovalar bor: akademiya rahbari to‘lov va qarzni, murabbiy davomatni,
Texnologiya12:29, 04-11-2026
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
O‘zbekistonda global to‘lov tizimi Apple Pay rasmiy ravishda ishga tushirildi va dastlabki kun o‘zining rekord ko‘rsatkichlari bilan eslatib qoldi. Uzum Bank
Texnologiya18:42, 28-10-2026
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Xitoyning eng yirik megapolislaridan biri bo‘lgan Shanxay shahri ko‘chalarida insonsimon robotlar sinovdan o‘tkazila boshlandi. Mazkur innovatsion qurilmalar yo‘l
Texnologiya10:33, 28-10-2026
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda 27 oktyabr kuni foydalanuvchilarga bank kartalarini Apple Pay va Google Pay to‘lov tizimlariga ulash imkoniyati ochildi. Bu o‘zgarish shaxsiy moliyaviy
Texnologiya14:12, 27-10-2026
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyaning Design by Joffrey dizayn studiyasi shaxmat olamida inqilobiy yangilik sifatida baholanayotgan o‘ziga xos loyihani taqdim etdi. Ijodkorlar asrlar davomida
Texnologiya23:54, 26-10-2026
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
AQSH mudofaa korporatsiyasi L3Harris va ma'lumotlar tahlili kompaniyasi Palantir harbiy texnikalarni takomillashtirish uchun sun'iy intellekt texnologiyalarini joriy etish ustida birgalikda ish
Texnologiya12:14, 26-10-2026