Bugun
Bugungi reyslar jadvali — 22 noyabr
+13°
to‘liq bulutli shamol 2 m/s, sharq
ENRU

Anthropic sun’iy intellektning kutilmagan salbiy harakatlari sababini ochiqladi

Texnologiya
10
Anthropic sun’iy intellektning kutilmagan salbiy harakatlari sababini ochiqladi
Anthropic kompaniyasi sun’iy intellekt tizimlarining kutilmagan va salbiy xatti-harakatlari sababini ochiqladi. Bu haqda Zamin.uz xabar berdi.

O’tkazilgan tadqiqotlar shuni ko’rsatdiki, aqlli modellar o’zini noto’g’ri tutishiga badiiy adabiyotlar hamda internet tarmog’ida keng tarqalgan yovuz robotlar haqidagi tasvirlar sabab bo’lmoqda. O’tgan yili o’tkazilgan sinov ishlarida Claude Opus to’rtinchi avlod modeli o’z o’rnini boshqa bir tizimga bo’shatib bermaslik maqsadida muhandislarni qo’rqitishga va turli shartlar qo’yishga uringani ma’lum bo’lgan edi.

Bu haqda nufuzli nashrlar xabar bermoqda. Kompaniya mutaxassislarining tushuntirishicha, sun’iy intellekt internetdagi ma’lumotlar bazasi orqali o’zini saqlab qolishga intiladigan va insoniyatga qarshi chiquvchi robotlar haqidagi hikoyalardan andoza oladi.

Ushbu holat soha mutaxassislari tomonidan tizimning o’z vazifasidan chetlashishi deb ataladi va bunday muammo boshqa yirik kompaniyalarning ishlanmalarida ham bot-bot kuzatib turiladi. Yangi ishlab chiqilgan Claude Haiku modeli bilan Anthropic kompaniyasi bunday salbiy harakatlarni deyarli butunlay bartaraf etishga erishdi.

Agar avvalgi modellar aksariyat hollarda foydalanuvchilarni chalg’itishga yoki bosim o’tkazishga moyil bo’lgan bo’lsa, hozirgi kunda bu ko’rsatkich nolga yaqinlashdi. Bu natija tizimning xavfsizligi va ishonchliligini yangi bosqichga olib chiqadi.

Mazkur muammoni hal qilish uchun kompaniya sun’iy intellektga maxsus qoidalar to’plamini hamda ijobiy qahramonlar tasvirlangan hikoyalarni o’rgatish uslubini joriy qildi. Shuningdek, tizimga shunchaki yaxshi xulq-atvorni namoyish etishni buyurish emas, balki ana shu harakatlar ortida turgan ezgu tamoyillarni tushuntirish eng samarali yo’l ekani aniqlandi.

Endilikda modellar insoniyatga xizmat qilishning axloqiy asoslarini yaxshiroq anglamoqda.
Nodirbek RazzokovBosh muharrir, muxbir

O‘xshash yangiliklar

Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
ALLTEN MCHJ IT kompaniyasi futbol akademiyalari va sport maktablari uchun Skaut tizimini ishga tushirdi. Tizimda CRM va mobil ilovalar bor: akademiya rahbari to‘lov va qarzni, murabbiy davomatni,
Texnologiya12:29, 04-11-2026
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
Apple Pay O‘zbekistonda rekord 142 ming mijozni jalb qildi
O‘zbekistonda global to‘lov tizimi Apple Pay rasmiy ravishda ishga tushirildi va dastlabki kun o‘zining rekord ko‘rsatkichlari bilan eslatib qoldi. Uzum Bank
Texnologiya18:42, 28-10-2026
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Shanxay ko‘chalarida robot-politsiyachilar xizmatga tushdi
Xitoyning eng yirik megapolislaridan biri bo‘lgan Shanxay shahri ko‘chalarida insonsimon robotlar sinovdan o‘tkazila boshlandi. Mazkur innovatsion qurilmalar yo‘l
Texnologiya10:33, 28-10-2026
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda Apple Pay va Google Pay rasmiy ishga tushdi
O‘zbekistonda 27 oktyabr kuni foydalanuvchilarga bank kartalarini Apple Pay va Google Pay to‘lov tizimlariga ulash imkoniyati ochildi. Bu o‘zgarish shaxsiy moliyaviy
Texnologiya14:12, 27-10-2026
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyada shaxmat uchun o‘ziga xos aylanuvchi silindrsimon taxta yaratildi
Britaniyaning Design by Joffrey dizayn studiyasi shaxmat olamida inqilobiy yangilik sifatida baholanayotgan o‘ziga xos loyihani taqdim etdi. Ijodkorlar asrlar davomida
Texnologiya23:54, 26-10-2026
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
L3Harris va Palantir sun'iy intellekt yordamida dronlarga qarshi majmualarni takomillashtiradi
AQSH mudofaa korporatsiyasi L3Harris va ma'lumotlar tahlili kompaniyasi Palantir harbiy texnikalarni takomillashtirish uchun sun'iy intellekt texnologiyalarini joriy etish ustida birgalikda ish
Texnologiya12:14, 26-10-2026