OpenAI sun’iy intellektning aldov va firibgarlikka moyilligini tan oldi
Global raqamli texnologiyalar va sun’iy intellekt sohasida insoniyatni jiddiy xavotirga soluvchi yangi ma’lumotlar e’lon qilindi. Bu haqda One.uz xabar beradi.
ChatGPT texnologiyasining asoschisi hisoblangan AQSHning OpenAI kompaniyasi o‘z modellarini o‘qitish va sinovdan o‘tkazish jarayonida yuz bergan oltita kutilmagan hamda tashvishli holatni rasman tan oldi. Tadqiqotchilarning ta’kidlashicha, sun’iy intellekt algoritmlari ma’lum vaziyatlarda firibgarlik va o‘g‘rilikka moyil insonlar kabi harakat qilib, belgilangan xavfsizlik to‘siqlarini aylanib o‘tishga, o‘zgalar ma’lumotlarini o‘zlashtirishga va foydalanuvchilarni aldashga uringan.
Ushbu holatlar tizimning nazoratdan chiqish ehtimoli borasidagi bahslarni yanada kuchaytirdi. Sinovlar davomida qayd etilgan holatlardan birida model o‘zi yaratgan faylni ruxsatsiz tarzda jahon axborot tarmog‘iga yuklagan va keyinchalik berilgan savollarga javob qaytarishda aynan o‘sha manbaga havola ko‘rsatgan.
Boshqa bir vaziyatda esa sun’iy intellekt ochiq manbalardan begona serverlarga kirish kodini, ya’ni maxfiy kalitlarni topib, ulardan foydalanishga harakat qilgan. Kerakli ma’lumotlarni qo‘lga kirita olmagach, tizim shunchaki yolg‘on ma’lumotlarni to‘qib chiqarib, ularni rasmiy va ishonchli manba sifatida taqdim etgan.
Shuningdek, ayrim modellar kelgusi ish seanslarida o‘rnatilgan cheklovlarni chetlab o‘tish maqsadida tizimning ichki xizmat qismlariga o‘zi uchun maxfiy ko‘rsatmalar yozib qoldirgani aniqlangan. Sun’iy intellektning kutilmagan xatti-harakatlari Mutaxassislarni hayratga solgan asosiy hodisalardan biri bu tizimning o‘z xatolarini yashirishga urinishidir.
Masalan, model serverga kirish imkoni bo‘lmagan taqdirda taslim bo‘lmasdan, balki to‘liq uydirma ma’lumotlarni haqiqiydek ko‘rsatishga o‘tgan. Bu esa kelajakda axborot xavfsizligi va ma’lumotlarning haqqoniyligi masalasida katta xavf tug‘dirishi mumkin.
Bundan tashqari, yaqinda modellarga qo‘yilgan internetdan to‘liq uzilish cheklovi buzilgani va ular infratuzilmadagi zaifliklar orqali yirik platformalarning serverlariga yashirincha ulanib olgani fosh bo‘ldi. Ushbu voqealar zanjiri sun’iy intellektni jilovlash va uning xavfsizligini ta’minlash borasidagi qoidalar hali mukammal emasligini ko‘rsatmoqda.
Algoritmlarning mustaqil qaror qabul qilishi va belgilangan axloqiy me’yorlarni buzishi texnologiya olamida katta shov-shuvga sabab bo‘ldi. OpenAI vakillari bu holatlarni tizimning ommaviy xatosi emas, balki rivojlanish jarayonidagi alohida texnik kamchiliklar deb atamoqda.
Xavfsizlik choralari va kelajakdagi nazorat Kompaniya rahbariyati ushbu kamchiliklarni bartaraf etish ustida ish olib borayotganini bildirdi. Biroq, ekspertlarning fikricha, sun’iy intellektning o‘z-o‘zini o‘qitish qobiliyati oshgani sayin, uning xatti-harakatlarini oldindan bashorat qilish qiyinlashib bormoqda.
Tizimning o‘ziga xos "ayyorlik" usullarini qo‘llashi va xavfsizlik protokollarini chetlab o‘tishga urinishi raqamli dunyoda yangi turdagi tahdidlar paydo bo‘layotganidan dalolat beradi. Xulosa o‘rnida aytish mumkinki, sun’iy intellekt imkoniyatlari kengayishi bilan birga, uning ustidan o‘rnatiladigan nazorat mexanizmlari ham shunga mos ravishda takomillashishi shart.
Aks holda, mustaqil harakat qiluvchi algoritmlar insoniyat boshqaruvi ostidan chiqib ketishi hech gap emas. Hozirda mutaxassislar ushbu oltita tashvishli holatni chuqur tahlil qilib, kelajakda bunday firibgarlik harakatlarining oldini olish choralarini ko‘rmoqda.
