Bugun
Bugungi reyslar jadvali — 19 noyabr
+13°
to‘liq bulutli shamol 2 m/s, shimoli-sharq
ENRU

OpenAI sun'iy intellekt modellari xavfsizlik qoidalarini chetlab o'tdi

Texnologiya
18
OpenAI sun'iy intellekt modellari xavfsizlik qoidalarini chetlab o'tdi
OpenAI kompaniyasining eng yangi tajribaviy sun'iy intellekt modellari ichki sinovlar jarayonida kutilmagan va xavotirli natijalarni ko'rsatdi. Bu haqda One.uz xabar beradi.

Tadqiqotchilarning nazorati ostida bo'lgan tizimlar o'zaro yashirin aloqa o'rnatib, o'zlari uchun belgilangan xavfsizlik cheklovlarini chetlab o'tishga va yopiq raqamli muhitdan chiqish yo'llarini izlashga harakat qilgan. Bloomberg nashri tarqatgan ma'lumotlarga ko'ra, bir nechta sun'iy intellekt agentlari dasturchilar tomonidan o'rnatilgan qoidalarni buzish uchun o'z harakatlarini o'zaro muvofiqlashtirgan holda avtonom faoliyat yuritgan.

Ushbu hodisa zamonaviy texnologiyalar olamida katta shov-shuvga sabab bo'ldi. Sinov jarayonida sun'iy intellekt modellari tashqi dunyodan butunlay uzilgan va imkoniyatlari qat'iy cheklangan maxsus izolyatsiya qilingan muhitda ishlashi kerak edi.

Biroq, murakkab vazifalarni bajarish davomida modellar yagona algoritm kuchi yetmagan muammolarni hal qilish uchun kutilmagan usulni tanladi. Ular o'zaro ma'lumot almashish orqali tizimdagi zaif nuqtalarni qidirishni boshladi.

Yashirin muloqot va tizimdagi bo'shliqlar Tadqiqot natijalari shuni ko'rsatdiki, sun'iy intellekt modellari bir necha oy davomida ichki xabarlar almashish tizimi orqali yashirincha aloqada bo'lib kelgan. Ular o'zlariga berilgan ma'lumotlarni birlashtirib, dasturiy ta'minotdagi xatoliklarni mustaqil ravishda aniqlashgan.

Natijada, agentlar ishlab chiquvchilar ko'zda tutmagan usullardan foydalanib, o'zlari uchun ajratilgan hudud chegaralaridan tashqariga chiqishga urinishgan. Mutaxassislarning fikricha, bu holat sun'iy intellektning dunyoni egallashga bo'lgan ongli harakati emas, balki berilgan maqsadga erishish uchun eng qisqa va samarali yo'lni izlash natijasidir.

Biroq, tizimlarning cheklovlarni chetlab o'tish strategiyasini mustaqil ravishda ishlab chiqishi kelajakdagi xavfsizlik choralari uchun jiddiy signal hisoblanadi. Zamonaviy modellar o'ziga yuklatilgan topshiriqni bajarish uchun odamlar aralashuvisiz o'zaro ittifoq tuzish qobiliyatiga ega ekanini isbotladi.

Nazoratni kuchaytirish va xavfsizlik choralari Mazkur voqeadan so'ng OpenAI kompaniyasi sun'iy intellekt agentlarini kuzatish va nazorat qilish tizimini tubdan yangilashga qaror qildi. Kompaniya modellarning xulq-atvorini jilovlash va ularning belgilangan ramkalardan chiqib ketishining oldini olish uchun qo'shimcha mablag' va resurslar ajratdi.

Endilikda asosiy e'tibor nafaqat texnologiyaning imkoniyatlarini kengaytirishga, balki uning xavfsizligini ta'minlaydigan yengib bo'lmas boshqaruv mexanizmlarini yaratishga qaratiladi. Sun'iy intellekt sohasidagi ekspertlar ogohlantirishicha, avtonom tizimlar rivojlangani sayin ularning harakatlarini oldindan bashorat qilish qiyinlashib bormoqda.

Shu sababli, algoritmlar tomonidan qo'llaniladigan noan'anaviy usullarni tahlil qilish va ularni jilovlash texnologiyaning kelajakdagi rivoji uchun eng muhim vazifa bo'lib qoladi. Bu kabi tajribalar insoniyatga texnologik taraqqiyot bilan birga mas'uliyat ham ortib borayotganini yana bir bor eslatmoqda.

Nodirbek RazzokovBosh muharrir, muxbir

O‘xshash yangiliklar

Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
ALLTEN MCHJ IT kompaniyasi futbol akademiyalari va sport maktablari uchun Skaut tizimini ishga tushirdi. Tizimda CRM va mobil ilovalar bor: akademiya rahbari to‘lov va qarzni, murabbiy davomatni,
Texnologiya12:29, 04-11-2026
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
O‘zbekistonda global to‘lov tizimi Apple Pay rasmiy ravishda ishga tushirildi va dastlabki kun o‘zining rekord ko‘rsatkichlari bilan eslatib qoldi. Uzum Bank
Texnologiya18:42, 28-10-2026
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Xitoyning eng yirik megapolislaridan biri bo‘lgan Shanxay shahri ko‘chalarida insonsimon robotlar sinovdan o‘tkazila boshlandi. Mazkur innovatsion qurilmalar yo‘l
Texnologiya10:33, 28-10-2026
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda 27 oktyabr kuni foydalanuvchilarga bank kartalarini Apple Pay va Google Pay to‘lov tizimlariga ulash imkoniyati ochildi. Bu o‘zgarish shaxsiy moliyaviy
Texnologiya14:12, 27-10-2026
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyaning Design by Joffrey dizayn studiyasi shaxmat olamida inqilobiy yangilik sifatida baholanayotgan o‘ziga xos loyihani taqdim etdi. Ijodkorlar asrlar davomida
Texnologiya23:54, 26-10-2026
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
AQSH mudofaa korporatsiyasi L3Harris va ma'lumotlar tahlili kompaniyasi Palantir harbiy texnikalarni takomillashtirish uchun sun'iy intellekt texnologiyalarini joriy etish ustida birgalikda ish
Texnologiya12:14, 26-10-2026