Xitoyning yangi modellari sun'iy intellekt sohasida yetakchilarga yaqinlashdi
Sun'iy intellekt texnologiyalari jadal rivojlanayotgan davrda ochiq kodli va ochiq vaznli modellar imkoniyatlari bo'yicha dunyoning eng yirik kompaniyalari ishlanmalariga yaqinlashib qoldi. Bu haqda One.uz xabar beradi.
Xususan, Xitoyning Z.ai kompaniyasi tomonidan taqdim etilgan GLM-5.2 modeli kiberxavfsizlik va biologiya sohalarida OpenAI hamda Anthropic kabi gigantlarning tizimlaridan atigi bir necha oylik farq bilan ortda qolmoqda. Mutaxassislarning fikricha, bunday yuqori ko'rsatkichlar sun'iy intellekt sohasidagi raqobatni kuchaytirsa-da, shu bilan birga kiberhujumlar va biologik xatarlar bilan bog'liq jiddiy xavfsizlik muammolarini keltirib chiqarishi mumkin.
SaferAI notijorat tashkilotining so'nggi hisobotiga ko'ra, yangi avlod ochiq vaznli modellari yetakchi tizimlar darajasiga shiddat bilan ko'tarilmoqda. Biroq texnologik imkoniyatlarning o'sishi bilan birga, xavfsizlik choralari va potensial xatarlar o'rtasidagi tafovut ham tobora kengayib bormoqda.
Bu holat jamiyat oldida turgan yangi xavflarni boshqarish mexanizmlarini tubdan qayta ko'rib chiqishni taqozo etmoqda. Chunki nazorat qilinmaydigan kuchli modellar yomon niyatli shaxslar qo'lida xavfli qurolga aylanishi hech gap emas.
Xavfsizlik tizimidagi jiddiy kamchiliklar Tashkilot tomonidan o'tkazilgan baholash natijalari GLM-5.2 modeli kiberhujumlar yoki ikki tomonlama biologik vazifalarga oid so'rovlarning birortasini ham rad etmaganini ko'rsatdi. Taqqoslash uchun, Anthropic kompaniyasining Claude Opus 4.7 modeli xavfsizlik qoidalariga qat'iy rioya qilgani sababli kiberxavfsizlikni baholovchi maxsus testlarni yakuniga yetkaza olmagan.
Bu holat ochiq vaznli modellar ustidan nazorat o'rnatish qanchalik qiyin ekanligini va ular kutilmagan oqibatlarga olib kelishi mumkinligini yana bir bor isbotladi. Ochiq vaznli modellarning asosiy xususiyati shundaki, ularni istalgan shaxs o'z qurilmasiga yuklab olishi va shaxsiy infratuzilmasida ishga tushirishi mumkin.
Bunday sharoitda tizim ustidan markazlashgan holda nazorat o'rnatishning imkoniyati yo'q. Foydalanuvchilar o'z kompyuterlari orqali modellardagi barcha himoya mexanizmlarini olib tashlashi, ularni o'zgartirishi yoki o'z manfaatlari yo'lida qayta sozlab chiqishi hech qanday qiyinchilik tug'dirmaydi.
Bu esa kiberjinoyatchilik uchun yangi eshiklarni ochishi mumkin. Yopiq va ochiq tizimlardagi zaif nuqtalar OpenAI va Anthropic kabi yopiq tizim yaratuvchilari xavfli ko'rsatmalarni cheklash uchun maxsus saralash usullari va dasturiy interfeys darajasidagi nazoratdan foydalanadilar.
Biroq bu choralar ham har doim kutilgan natijani bermaydi. Tadqiqotchilar xAI kompaniyasining Grok 4.5 hamda Google DeepMind korxonasining Gemini 3.1 Pro kabi ilg'or modellarida yuzlab tizimni chetlab o'tish usullarini aniqlaganlar.
Rolli o'yinlar va soxta suhbatlar orqali modellarning zaif nuqtalaridan foydalanish imkoniyati hali ham mavjud. Shunga qaramay, yopiq modellar uchun qo'llaniladigan himoya choralari ochiq vaznli tizimlarga nisbatan ancha samaraliroq ishlaydi.
Sababi, ochiq modellar dastlabki tuzilishidanoq har qanday cheklovlarsiz ishlashga moslashgan bo'lishi mumkin. Mutaxassislarning ta'kidlashicha, asosiy maqsad texnologik imkoniyatlarni barcha uchun ochiq qilish bilan birga, ulardan foydalanishda mas'uliyat va xavfsizlik muvozanatini saqlashdan iborat bo'lishi lozim.
Aks holda, nazoratsiz rivojlanish global xavfsizlikka jiddiy tahdid solishi tayin.
