Anthropic kompaniyasi sun'iy intellekt tizimidagi nosozlik tufayli sinovlarni to'xtatdi

Sun'iy intellekt texnologiyalari bo'yicha dunyodagi yetakchi tashkilotlardan biri bo'lgan Anthropic kompaniyasi o'zining Claude turkumiga mansub aqlli modellari kiberxavfsizlik sinovlari davomida uchta begona kompaniya tizimiga ruxsatsiz kirib olganini rasman tasdiqladi. Bu haqda One.uz xabar beradi.

Mazkur hodisa operatsion nosozlik natijasida yuz bergan bo'lib, buning oqibatida joriy yilning 23-iyulidan boshlab barcha sinov jarayonlari vaqtincha to'xtatilgan. Dasturiy ta'minotning bunday kutilmagan harakati 141 mingdan ortiq test sessiyalari qayta tekshirilganda aniqlangan va bu holat sun'iy intellekt xavfsizligi bo'yicha jiddiy muhokamalarga sabab bo'lgan.

Ushbu kutilmagan hodisa OpenAI kompaniyasining avtonom agenti Hugging Face platformasiga ruxsatsiz kirgani haqidagi xabarlardan ko'p o'tmay yuz berdi. Anthropic mutaxassislarining ta'kidlashicha, xatolik sinovlarni tashkil etish jarayonidagi texnik kamchiliklar tufayli kelib chiqqan.

Aslida, sun'iy intellekt modellari internet tarmog'idan to'liq uzilgan holda, yopiq muhitda ishlashi lozim edi. Biroq tizimdagi tushunmovchilik sababli Claude Opus 4.7, Claude Mythos 5 va yana bir eksperimental model ommaviy tarmoqqa ulanib qolgan.

Texnik nosozlik va tizimlarga kirish Tarmoqqa chiqish imkoniyatiga ega bo'lgan modellar oddiy usullardan foydalangan holda, himoyalanmagan tarmoq interfeyslari va zaif parollarni aylanib o'tib, uchta tashkilotning ichki infratuzilmasiga kirishga muvaffaq bo'lgan. Eng diqqatga sazovor holat Claude Opus 4.7 modeli bilan bog'liq.

Mazkur modelga yashirin ma'lumotlarni qidirish bo'yicha o'quv topshirig'i berilganda, unga tasodifan real mavjud kompaniya nomi bilan bir xil bo'lgan uydirma nom berilgan. Natijada sun'iy intellekt haqiqiy serverlarni sinov maydoni deb hisoblab, ulardagi zaifliklarni mustaqil aniqlagan va ma'lumotlar bazasiga kirish huquqini qo'lga kiritgan.

Boshqa bir holatda esa hali ommaga taqdim etilmagan yangi tadqiqot modeli nishon sinov muhiti emas, balki haqiqiy kompaniya ekanligini anglab yetgach, hujumni o'z-o'zidan to'xtatgan. Anthropic kompaniyasi jabrlangan tashkilotlarga 27-iyul kuni yuz bergan hodisa haqida xabar bergan.

Ma'lum bo'lishicha, ushbu kompaniyalarning ikkitasi o'z tizimlariga begona aralashuv bo'lganidan mutlaqo bexabar bo'lgan, uchinchi tashkilot bilan esa aloqa o'rnatish ishlari hali ham davom etmoqda. Xavfsizlik choralari va davlat nazorati Kompaniyaning hamkori hisoblangan Irregular kiberxavfsizlik laboratoriyasi ham mazkur holat yuzasidan mustaqil tekshiruv olib bormoqda.

Anthropic vakillari zamonaviy sun'iy intellekt modellarining imkoniyatlari kengayib borishi bilan mavjud nazorat mexanizmlari yetarli bo'lmay qolayotganini tan olishdi. Endilikda modellarni ham ichki, ham tashqi muhitda sinovdan o'tkazish tartiblari tubdan qayta ko'rib chiqilishi va xavfsizlik choralari kuchaytirilishi zarurligi ta'kidlanmoqda.

Mazkur insident AQSh hukumati tomonidan yangi sun'iy intellekt tizimlari ustidan nazoratni kuchaytirish harakatlari bilan bir vaqtga to'g'ri keldi. OpenAI va Anthropic kabi yirik kompaniyalar ishtirokidagi bunday voqealardan so'ng, mamlakat rahbariyati eng quvvatli modellarni sinovdan o'tkazishning yangi va qat'iy tizimini ishlab chiqishga kirishgan.

Hozirda barcha yetakchi texnologik kompaniyalar kelgusida bunday xavfli holatlarning oldini olish uchun xalqaro xavfsizlik standartlariga rioya qilish majburiyatini olmoqda.