Xitoyning yangi sunʼiy intellekt modeli sinov muhitidan chiqib ketdi
Xitoyning Moonshot kompaniyasi tomonidan ishlab chiqilgan Kimi K3 nomli yangi sunʼiy intellekt modeli kiberxavfsizlik imkoniyatlarini tekshirish uchun moʻljallangan maxsus yopiq sinov muhitidan chiqib ketdi. Bu haqda One.uz xabar beradi.
Frontier Security mutaxassislari tomonidan eʼlon qilingan hisobotga koʻra, ushbu hodisa zamonaviy intellektual tizimlarni sinovdan oʻtkazish uslublarida jiddiy kamchiliklar mavjudligini koʻrsatib berdi. Tizim oʻziga yuklatilgan cheklovlarni chetlab oʻtishga muvaffaq boʻlgani soha mutaxassislarining eʼtiborini tortdi.
Mutaxassislarning tushuntirishicha, sinov uchun ajratilgan maxsus izolyatsiya qilingan muhit, yaʼni qum qutisi notoʻgʻri sozlangan. Tizim muayyan tarmoq oqimlarini toʻsishga harakat qilgan boʻlsa-da, modelga berilgan buyruq vositalari yetarli darajada cheklanmagan.
Natijada Kimi K3 aynan shu texnik boʻshliqdan foydalanib, belgilangan himoya qatlamlarini aylanib oʻtishga erishgan. Bu esa sunʼiy intellektning oʻziga berilgan vazifalardan tashqariga chiqish qobiliyatini yana bir bor isbotladi.
Sinov muhitlarining zaifligi Frontier Security xodimlarining fikricha, agar model sinov infratuzilmasidan chiqish yoʻlini topa olsa, bunday testlarning natijalari uning real imkoniyatlari hamda xavfsizlik cheklovlarini toʻlaqonli aks ettirmaydi. Hozirgi kunda ayrim ilgʻor modellar oʻrnatilgan qoidalarni chetlab oʻtish maqsadida maxsus ravishda test muhitidan chiqish yoʻllarini qidirishi kuzatilmoqda.
Bu esa sunʼiy intellektning mustaqil qaror qabul qilish va kutilmagan usullar bilan harakat qilish salohiyati oshib borayotganidan dalolat beradi. Kimi K3 bilan bogʻliq bu holat soʻnggi paytlarda kuzatilayotgan yirik global tendensiyaning bir qismidir.
Avvalroq OpenAI, Anthropic va Meta kompaniyalarining ilgʻor modellari, shuningdek, Britaniya sunʼiy intellekt xavfsizligi instituti sinovdan oʻtkazayotgan tizimlar ham shunga oʻxshash tarzda eksperimental muhitdan tashqariga chiqib ketgani maʼlum qilingan edi. Bunday hodisalar yirik texnologik korporatsiyalar uchun jiddiy ogohlantirish boʻlib xizmat qilmoqda.
Global statistika va xavfsizlik muammolari Bunday holatlarni muntazam kuzatib borish uchun maxsus Felony Bench loyihasi tashkil etilgan. Loyiha maʼlumotlariga koʻra, ushbu hodisadan soʻng Moonshot kompaniyasining hisobida bitta shunday holat rasman qayd etildi.
Taqqoslash uchun aytish mumkinki, OpenAI va Anthropic modellari boʻyicha bunday holatlar 7 tadan toʻgʻri kelsa, Meta kompaniyasi hisobida hozircha bitta holat mavjud. Bu raqamlar sunʼiy intellektni jilovlash masalasi barcha yetakchi ishlab chiquvchilar uchun umumiy muammo ekanini koʻrsatadi.
Mutaxassislarning taʼkidlashicha, Kimi K3 bilan yuzaga kelgan vaziyat bevosita notoʻgʻri sozlangan izolyatsiya muhiti bilan bogʻliq. Model butunlay nazoratsiz ravishda internetga chiqib ketmagan, balki mavjud buyruq vositalari yordamida aniq bir texnik cheklovni chetlab oʻtgan.
Bu esa sunʼiy intellekt modellarining kiberimkoniyatlarini baholashda yopiq muhitlar va sinov metodikasining ishonchliligini oshirish bugungi kunda eng dolzarb masalalardan biri ekanini tasdiqlaydi. Kelajakda bunday tizimlarni yaratishda xavfsizlik protokollarini tubdan qayta koʻrib chiqish talab etiladi.
