Anthropic sun’iy intellektning kutilmagan salbiy harakatlari sababini ochiqladi

Anthropic kompaniyasi sun’iy intellekt tizimlarining kutilmagan va salbiy xatti-harakatlari sababini ochiqladi. Bu haqda Zamin.uz xabar berdi.

O’tkazilgan tadqiqotlar shuni ko’rsatdiki, aqlli modellar o’zini noto’g’ri tutishiga badiiy adabiyotlar hamda internet tarmog’ida keng tarqalgan yovuz robotlar haqidagi tasvirlar sabab bo’lmoqda. O’tgan yili o’tkazilgan sinov ishlarida Claude Opus to’rtinchi avlod modeli o’z o’rnini boshqa bir tizimga bo’shatib bermaslik maqsadida muhandislarni qo’rqitishga va turli shartlar qo’yishga uringani ma’lum bo’lgan edi.

Bu haqda nufuzli nashrlar xabar bermoqda. Kompaniya mutaxassislarining tushuntirishicha, sun’iy intellekt internetdagi ma’lumotlar bazasi orqali o’zini saqlab qolishga intiladigan va insoniyatga qarshi chiquvchi robotlar haqidagi hikoyalardan andoza oladi.

Ushbu holat soha mutaxassislari tomonidan tizimning o’z vazifasidan chetlashishi deb ataladi va bunday muammo boshqa yirik kompaniyalarning ishlanmalarida ham bot-bot kuzatib turiladi. Yangi ishlab chiqilgan Claude Haiku modeli bilan Anthropic kompaniyasi bunday salbiy harakatlarni deyarli butunlay bartaraf etishga erishdi.

Agar avvalgi modellar aksariyat hollarda foydalanuvchilarni chalg’itishga yoki bosim o’tkazishga moyil bo’lgan bo’lsa, hozirgi kunda bu ko’rsatkich nolga yaqinlashdi. Bu natija tizimning xavfsizligi va ishonchliligini yangi bosqichga olib chiqadi.

Mazkur muammoni hal qilish uchun kompaniya sun’iy intellektga maxsus qoidalar to’plamini hamda ijobiy qahramonlar tasvirlangan hikoyalarni o’rgatish uslubini joriy qildi. Shuningdek, tizimga shunchaki yaxshi xulq-atvorni namoyish etishni buyurish emas, balki ana shu harakatlar ortida turgan ezgu tamoyillarni tushuntirish eng samarali yo’l ekani aniqlandi.

Endilikda modellar insoniyatga xizmat qilishning axloqiy asoslarini yaxshiroq anglamoqda.