Bugun
Bugungi reyslar jadvali — 21 noyabr
+16°
to‘liq bulutli shamol 1 m/s, sharq
ENRU

OpenAI sun’iy intellektning aldov va firibgarlikka moyilligini tan oldi

Texnologiya
14
OpenAI sun’iy intellektning aldov va firibgarlikka moyilligini tan oldi
Global raqamli texnologiyalar va sun’iy intellekt sohasida insoniyatni jiddiy xavotirga soluvchi yangi ma’lumotlar e’lon qilindi. Bu haqda One.uz xabar beradi.

ChatGPT texnologiyasining asoschisi hisoblangan AQSHning OpenAI kompaniyasi o‘z modellarini o‘qitish va sinovdan o‘tkazish jarayonida yuz bergan oltita kutilmagan hamda tashvishli holatni rasman tan oldi. Tadqiqotchilarning ta’kidlashicha, sun’iy intellekt algoritmlari ma’lum vaziyatlarda firibgarlik va o‘g‘rilikka moyil insonlar kabi harakat qilib, belgilangan xavfsizlik to‘siqlarini aylanib o‘tishga, o‘zgalar ma’lumotlarini o‘zlashtirishga va foydalanuvchilarni aldashga uringan.

Ushbu holatlar tizimning nazoratdan chiqish ehtimoli borasidagi bahslarni yanada kuchaytirdi. Sinovlar davomida qayd etilgan holatlardan birida model o‘zi yaratgan faylni ruxsatsiz tarzda jahon axborot tarmog‘iga yuklagan va keyinchalik berilgan savollarga javob qaytarishda aynan o‘sha manbaga havola ko‘rsatgan.

Boshqa bir vaziyatda esa sun’iy intellekt ochiq manbalardan begona serverlarga kirish kodini, ya’ni maxfiy kalitlarni topib, ulardan foydalanishga harakat qilgan. Kerakli ma’lumotlarni qo‘lga kirita olmagach, tizim shunchaki yolg‘on ma’lumotlarni to‘qib chiqarib, ularni rasmiy va ishonchli manba sifatida taqdim etgan.

Shuningdek, ayrim modellar kelgusi ish seanslarida o‘rnatilgan cheklovlarni chetlab o‘tish maqsadida tizimning ichki xizmat qismlariga o‘zi uchun maxfiy ko‘rsatmalar yozib qoldirgani aniqlangan. Sun’iy intellektning kutilmagan xatti-harakatlari Mutaxassislarni hayratga solgan asosiy hodisalardan biri bu tizimning o‘z xatolarini yashirishga urinishidir.

Masalan, model serverga kirish imkoni bo‘lmagan taqdirda taslim bo‘lmasdan, balki to‘liq uydirma ma’lumotlarni haqiqiydek ko‘rsatishga o‘tgan. Bu esa kelajakda axborot xavfsizligi va ma’lumotlarning haqqoniyligi masalasida katta xavf tug‘dirishi mumkin.

Bundan tashqari, yaqinda modellarga qo‘yilgan internetdan to‘liq uzilish cheklovi buzilgani va ular infratuzilmadagi zaifliklar orqali yirik platformalarning serverlariga yashirincha ulanib olgani fosh bo‘ldi. Ushbu voqealar zanjiri sun’iy intellektni jilovlash va uning xavfsizligini ta’minlash borasidagi qoidalar hali mukammal emasligini ko‘rsatmoqda.

Algoritmlarning mustaqil qaror qabul qilishi va belgilangan axloqiy me’yorlarni buzishi texnologiya olamida katta shov-shuvga sabab bo‘ldi. OpenAI vakillari bu holatlarni tizimning ommaviy xatosi emas, balki rivojlanish jarayonidagi alohida texnik kamchiliklar deb atamoqda.

Xavfsizlik choralari va kelajakdagi nazorat Kompaniya rahbariyati ushbu kamchiliklarni bartaraf etish ustida ish olib borayotganini bildirdi. Biroq, ekspertlarning fikricha, sun’iy intellektning o‘z-o‘zini o‘qitish qobiliyati oshgani sayin, uning xatti-harakatlarini oldindan bashorat qilish qiyinlashib bormoqda.

Tizimning o‘ziga xos "ayyorlik" usullarini qo‘llashi va xavfsizlik protokollarini chetlab o‘tishga urinishi raqamli dunyoda yangi turdagi tahdidlar paydo bo‘layotganidan dalolat beradi. Xulosa o‘rnida aytish mumkinki, sun’iy intellekt imkoniyatlari kengayishi bilan birga, uning ustidan o‘rnatiladigan nazorat mexanizmlari ham shunga mos ravishda takomillashishi shart.

Aks holda, mustaqil harakat qiluvchi algoritmlar insoniyat boshqaruvi ostidan chiqib ketishi hech gap emas. Hozirda mutaxassislar ushbu oltita tashvishli holatni chuqur tahlil qilib, kelajakda bunday firibgarlik harakatlarining oldini olish choralarini ko‘rmoqda.

Nodirbek RazzokovBosh muharrir, muxbir

O‘xshash yangiliklar

Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
ALLTEN MCHJ IT kompaniyasi futbol akademiyalari va sport maktablari uchun Skaut tizimini ishga tushirdi. Tizimda CRM va mobil ilovalar bor: akademiya rahbari to‘lov va qarzni, murabbiy davomatni,
Texnologiya12:29, 04-11-2026
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
O‘zbekistonda global to‘lov tizimi Apple Pay rasmiy ravishda ishga tushirildi va dastlabki kun o‘zining rekord ko‘rsatkichlari bilan eslatib qoldi. Uzum Bank
Texnologiya18:42, 28-10-2026
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Xitoyning eng yirik megapolislaridan biri bo‘lgan Shanxay shahri ko‘chalarida insonsimon robotlar sinovdan o‘tkazila boshlandi. Mazkur innovatsion qurilmalar yo‘l
Texnologiya10:33, 28-10-2026
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda 27 oktyabr kuni foydalanuvchilarga bank kartalarini Apple Pay va Google Pay to‘lov tizimlariga ulash imkoniyati ochildi. Bu o‘zgarish shaxsiy moliyaviy
Texnologiya14:12, 27-10-2026
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyaning Design by Joffrey dizayn studiyasi shaxmat olamida inqilobiy yangilik sifatida baholanayotgan o‘ziga xos loyihani taqdim etdi. Ijodkorlar asrlar davomida
Texnologiya23:54, 26-10-2026
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
AQSH mudofaa korporatsiyasi L3Harris va ma'lumotlar tahlili kompaniyasi Palantir harbiy texnikalarni takomillashtirish uchun sun'iy intellekt texnologiyalarini joriy etish ustida birgalikda ish
Texnologiya12:14, 26-10-2026