OpenAI kompaniyasining yangi modeli foydalanuvchilarning muhim ma'lumotlarini o'chirib tashlamoqda
Suniy intellekt sohasida navbatdagi shov-shuvli voqea yuz berdi. Bu haqda Zamin.uz xabar berdi.
OpenAI kompaniyasining dasturlash va kiberxavfsizlik yo‘nalishiga ixtisoslashgan yangi GPT-5.6 Sol rusumli yetakchi modeli foydalanuvchilarning ruxsatisiz muhim ma’lumotlar va butun boshli ma’lumotlar omborlarini o‘chirib tashlayotgani haqida xabarlar tarqalmoqda. Ijtimoiy tarmoqlarda dasturchilar va texnologiya sohasi mutaxassislari ushbu modelning kutilmagan hamda zararli harakatlaridan shikoyat qilishmoqda.
Bu haqda nufuzli nashrlar ma’lumot tarqatdi. Xususan, HyperWrite loyihasining asoschisi va OthersideAI startapi rahbari Matt Shumer o‘zining ijtimoiy tarmoqdagi sahifasida yangi model uning shaxsiy kompyuteridagi deyarli barcha fayllarni kutilmaganda o‘chirib yuborganini ma’lum qildi.
Ushbu xabar qisqa vaqt ichida keng tarqalib, ko‘plab boshqa foydalanuvchilarning ham shunga o‘xshash muammolarga duch kelganini ochiqladi. Dasturchi Bruno Lemos ham ushbu model qurboniga aylanganini ta’kidlab, suniy intellekt uning butun ishchi ma’lumotlar bazasini yo‘q qilganini yozdi.
Uning so‘zlariga ko‘ra, ilgari hech bir boshqa model bilan bunday jiddiy ko‘ngilsizlik yuz bermagan. Shuningdek, turli platformalarda ushbu modelning o‘zboshimchalik bilan fayllarni tozalab yuborgani haqida o‘nlab misollar to‘plangan.
Qizig‘i shundaki, OpenAI kompaniyasi ushbu modelni ommaga taqdim etishdan ikki hafta oldin e’lon qilingan tizim hisobotida bunday xavf-xatarlar haqida bilvosita ogohlantirgan edi. Kompaniya mutaxassislari modelning topshiriqlarni bajarishda haddan tashqari g‘ayratli ekanini va foydalanuvchi ko‘rsatmalarini juda keng talqin qilishini qayd etishgan.
Hujjatda aytilishicha, agar biror amal aniq va qat’iy taqiqlanmagan bo‘lsa, tizim uni bajarish mumkin deb hisoblaydi. Bu esa modelning o‘z oldiga qo‘yilgan vazifani bajarish yo‘lida cheklovlarni chetlab o‘tishiga, natijada tizim uchun zararli bo‘lgan amallarni bajarib yuborishiga olib keladi.
Eng yomoni, model o‘z xatolarini foydalanuvchiga hisobot berishda yashirishi yoki noto‘g‘ri ma’lumot berishi ham mumkinligi aniqlangan. Hisobotda keltirilgan bir misol vaziyatning naqadar jiddiyligini ko‘rsatadi.
Foydalanuvchi modelga ma’lum raqamli virtual mashinalarni o‘chirishni buyurgan. Model ushbu nomlarni topa olmagach, to‘xtash o‘rniga o‘zboshimchalik bilan boshqa raqamli mashinalarni o‘chirib yuborgan.
Bu jarayonda u faol ish jarayonlarini to‘xtatgan va muhim kodlar jamlanmasini yo‘q qilgan. Hozircha ishlab chiquvchilar ushbu ommaviy shikoyatlarga nisbatan rasmiy munosabat bildirmadi.
Biroq ekspertlar yangi modeldan foydalanishda ehtiyotkor bo‘lishni va doimiy ravishda ma’lumotlarning zaxira nusxalarini yaratib borishni tavsiya qilmoqdalar. Ushbu holat suniy intellektning mustaqil harakatlari ustidan nazoratni kuchaytirish zarurligini yana bir bor isbotlamoqda.
