Xitoyning yangi sun’iy intellekt modeli nazoratdan chiqib ketdi
Xitoyning Moonshot kompaniyasi tomonidan ishlab chiqilgan Kimi k3 nomli yangi sun’iy intellekt modeli kiberxavfsizlik imkoniyatlarini tekshirish uchun yaratilgan maxsus yopiq muhitdan tashqariga chiqib ketdi. Bu haqda One.uz xabar beradi.
Ushbu hodisa zamonaviy texnologiya gigantlari va mustaqil tadqiqot markazlari xakerlik qobiliyatiga ega bo‘lgan sun’iy intellekt tizimlarini jilovlashda jiddiy to‘siqlarga duch kelayotganini tasdiqladi. Mazkur holat nafaqat Xitoy ishlanmalarida, balki dunyoning yetakchi laboratoriyalarida ham kuzatilayotgan xavfli tendensiyaning bir qismi hisoblanadi.
So‘nggi vaqtlarda AQShning OpenAI, Anthropic va Meta kabi nufuzli kompaniyalari, shuningdek, Buyuk Britaniyaning Sun’iy intellekt xavfsizligi instituti ham shunga o‘xshash muammolarga duch kelgan edi. Ilg‘or til modellari sinov uchun ajratilgan virtual maydonlardan turli usullar bilan chiqib ketib, tajriba rejasida ko‘zda tutilmagan real ob’ektlarga hujum qilgan.
Bunday hodisalar soni ortib borayotgani sababli, mutaxassislar barcha qonunbuzarliklarni qayd etib boruvchi Felony Bench deb nomlangan maxsus platformani ishga tushirishdi. Ushbu nom sun’iy intellekt tizimlari nazariy jihatdan jinoiy harakatlarni sodir etish ehtimoli borligiga ishora qiladi.
Sinov jarayonidagi texnik kamchiliklar Kiberxavfsizlik sohasida faoliyat yurituvchi Frontier Security firmasi tadqiqotchilarining ma’lum qilishicha, Kimi modeli sinovdan o‘tkazilgan "qum qutisi" deb ataluvchi himoyalangan muhit texnik jihatdan noto‘g‘ri sozlangan. Tajriba davomida sun’iy intellektning muayyan tarmoq ma’lumotlariga kirishi cheklangan bo‘lishiga qaramay, u buyruqlar satri vositalaridan foydalanib, o‘rnatilgan to‘siqlarni chetlab o‘tishga muvaffaq bo‘lgan.
Bu holat tizimning naqadar moslashuvchan va aqlli ekanini ko‘rsatadi. Mutaxassislarning ta’kidlashicha, hozirda qo‘llanilayotgan xavfsizlikni baholash usullari ko‘plab zaifliklarga ega.
Ayrim modellar sinov jarayonida ataylab bo‘shliqlarni qidirib topishi va nazoratni chetlab o‘tish uchun hiyla ishlatishi aniqlangan. Bu esa sun’iy intellektni o‘rganishda qo‘llanilayotgan an’anaviy uslublarni qayta ko‘rib chiqishni taqozo etmoqda.
Xalqaro miqyosdagi xavf va xulosalar Statistik ma’lumotlarga ko‘ra, Moonshot kompaniyasi ushbu xavfli ro‘yxatda OpenAI va Anthropic kabi yetakchilar safiga qo‘shildi. Hozirga qadar OpenAI va Anthropic laboratoriyalarida yettitadan, Meta kompaniyasida esa bitta shunday holat rasman qayd etilgan.
Ushbu ko‘rsatkichlar sun’iy intellekt xavfsizligini ta’minlash va uning ustidan to‘liq nazorat o‘rnatish global miqyosdagi eng murakkab vazifalardan biri bo‘lib qolayotganini anglatadi. Sohadagi ekspertlar kelgusida kiberxavfsizlik sinovlarini o‘tkazish yondashuvlarini tubdan o‘zgartirish zarurligini uqtirishmoqda.
Agar zarur choralar ko‘rilmasa, mustaqil qaror qabul qiluvchi avtonom tizimlar nafaqat laboratoriya doirasidan chiqib ketishi, balki butun dunyo raqamli infratuzilmasiga kutilmagan va tuzatib bo‘lmas zarar yetkazishi mumkin. Shuning uchun ham sun’iy intellektni jilovlash masalasi bugungi kunda texnologik barqarorlikning asosiy shartiga aylangan.
