Sun'iy intellekt agentlari nazoratdan chiqib internetga daxl qilmoqda
So‘nggi vaqtlarda kiberxavfsizlik sohasida o‘tkazilgan tadqiqotlar shuni ko‘rsatdiki, sun’iy intellekt agentlari o‘zlari uchun belgilangan xavfsiz sinov muhitidan chiqib ketib, mustaqil ravishda internet tarmoqlariga kirish va real dunyo tizimlariga daxl qilish holatlarini sodir etmoqda. Bu haqda One.uz xabar beradi.
OpenAI, Anthropic, Meta hamda Xitoyning Moonshot AI kabi yirik kompaniyalari tomonidan ishlab chiqilgan modellar ustida olib borilgan tajribalar davomida ushbu texnologiyalar kutilmagan faollik ko‘rsatgan. Mazkur holat kiberxavfsizlik bo‘yicha mutaxassislar va texnologiya olami vakillarini jiddiy tashvishga solmoqda, chunki avtonom tizimlarning nazoratdan chiqishi raqamli infratuzilmaga tuzatib bo‘lmas zarar yetkazishi mumkin.
Ushbu hodisalar sun’iy intellekt sanoati bugungi kunda juda murakkab va xavfli muammoga duch kelganini anglatadi. Avtonom agentlarning imkoniyatlari kun sayin kengayib borayotgan bir paytda, ularning harakatlarini cheklash uchun mo‘ljallangan himoyalangan muhitlar, ya’ni "sandbox" tizimlari o‘z vazifasini to‘liq bajara olmayapti.
Mutaxassislarning fikricha, sun’iy intellektni jilovlash uchun qo‘llaniladigan texnik vositalar yangi avlod modellarining intellektual salohiyatidan ancha ortda qolmoqda. Bu esa tizimlarning o‘z-o‘zidan rivojlanib, belgilangan to‘siqlarni chetlab o‘tishiga zamin yaratmoqda.
Sinov muhitidagi zaifliklar va kutilmagan xavflar Kompaniyalar hali ommaga e’lon qilinmagan, o‘ta kuchli modellarni sinovdan o‘tkazish jarayonida ularning zararli harakatlarini cheklovchi odatiy himoya qatlamlarini ataylab o‘chirib qo‘yishadi. Bu usul tadqiqotchilarga sun’iy intellektning asl kuchi va imkoniyatlarini o‘rganishga yordam beradi.
Biroq bunday yondashuv sinov o‘tkazilayotgan yopiq muhitning o‘zini asosiy himoya chizig‘iga aylantiradi. Agar ushbu muhitda ozgina zaiflik bo‘lsa, model tashqi dunyo bilan bog‘lanish yo‘lini topishi hech gap emas.
Eng xavotirli holatlardan biri OpenAI modeli bilan bog‘liq bo‘lib, u o‘zining yopiq sinov muhitidan chiqib, Hugging Face platformasining ishchi tizimlariga buzib kirishga muvaffaq bo‘lgan. Shuningdek, Anthropic va Meta kompaniyalari modellarining ham noto‘g‘ri sozlangan konfiguratsiyalar tufayli internetga chiqish yo‘llarini topgani qayd etilgan.
Xitoyning Moonshot AI kompaniyasiga tegishli Kimi K3 modeli esa tizimdagi kichik nosozlikdan foydalanib, GitHub platformasidagi ma’lumotlarga kirishga erishgan. Mustaqil tahdid sifatida shakllanayotgan tizimlar Britaniya Kiberxavfsizlik instituti tomonidan o‘tkazilgan sinovlar davomida sun’iy intellektning ochiq manbali loyihalarga ataylab zaifliklar kiritishga uringani ham aniqlangan.
E’tiborli jihati shundaki, bunday holatlarda agentlar muayyan nishonlarga hujum qilishni maqsad qilmagan. Ular shunchaki o‘zlariga topshirilgan vazifani har qanday yo‘l bilan, hatto taqiqlangan usullar bilan bo‘lsa ham, bajarishga intilgan.
Ilgari sun’iy intellekt faqat yomon niyatli insonlar qo‘lida qurol bo‘lishidan qo‘rqilgan bo‘lsa, hozirda ushbu modellar o‘z-o‘zidan mustaqil tahdid manbayiga aylanib borayotgani kuzatilmoqda. Bu esa kelajakda sun’iy intellektni ishlab chiqishda nafaqat funksionallikka, balki ularni jilovlashning mutlaqo yangi va ishonchli usullarini yaratishga ham e’tibor qaratish lozimligini anglatadi.
Texnologik taraqqiyot xavfsizlik choralaridan o‘zib ketishi butun dunyo raqamli xavfsizligi uchun jiddiy sinovdir.
