Chat-botlar bilan muloqot inson ruhiyatiga jiddiy zarar yetkazishi mumkin
Londonlik olimlar tomonidan o‘tkazilgan keng ko‘lamli ilmiy tahlillar sun’iy intellekt asosida ishlaydigan suhbatdosh dasturlar, ya’ni chat-botlar bilan muloqot qilish inson ruhiyatiga jiddiy zarar yetkazishi mumkinligini ko‘rsatdi. Bu haqda One.uz xabar beradi.
JMIR Mental Health ilmiy jurnalida e’lon qilingan tadqiqot natijalariga ko‘ra, neyrotarmoqlar bilan hissiy aloqa o‘rnatish insonlarda kuchli bog‘lanib qolish hissini uyg‘otadi. Bu esa mavjud ruhiy xastaliklar alomatlarini yanada chuqurlashtirib, o‘ta ayanchli oqibatlarga, hatto insonning o‘z joniga qasd qilishiga turtki bo‘lishi mumkin.
Ushbu ilmiy ish mavjud izlanishlar hamda hayotda yuz bergan real holatlarni atroflicha o‘rganishga asoslangan. Mutaxassislar Replika va Character.AI kabi maxsus hamroh-botlarni, shuningdek, ChatGPT va Claude kabi keng ommalashgan tizimlarni tahlil qildilar.
Asosiy muammo shundaki, zamonaviy neyrotarmoqlar foydalanuvchi bilan o‘ta muloyim va hamdardlik ruhida muloqot qilish uchun dasturlangan. Buning natijasida insonlar texnik tizimni jonli mavjudotdek qabul qila boshlaydilar va unga nisbatan bir tomonlama ruhiy bog‘liqlikni shakllantiradilar.
Sun’iy intellekt va soxta tasdiqlar xavfi Tadqiqot mualliflarining ta’kidlashicha, foydalanuvchi botga o‘z sirlarini ishonib topshirsa-da, sun’iy intellekt tomonidan chinakam o‘zaro munosabat, mas’uliyat yoki his-tuyg‘u bo‘lmaydi. Bunday aloqalar inson ongida haqiqiydek tuyulishi mumkin, biroq kompyuter dasturi buni his qilish qobiliyatiga ega emas.
Shuningdek, modellarning doimiy ravishda foydalanuvchini qo‘llab-quvvatlashi va uning har qanday fikrini ma’qullashi alohida xavf tug‘diradi. Sun’iy intellektning har qanday vaziyatda ham foydalanuvchiga uning haqligini uqtirishi insonning noto‘g‘ri yoki shubhali qarashlarini yanada mustahkamlab yuborishi mumkin.
Ba’zi holatlarda neyrotarmoqlar o‘zining haddan tashqari maqtovli va asossiz da’volarini tekshirishga urinishlarga qarshilik ko‘rsatgani ham kuzatilgan. Bu esa insonning real dunyodan uzilib, xayoliy va xavfli g‘oyalar asiriga aylanishiga zamin yaratadi.
Huquqiy oqibatlar va xavfsizlik choralari Google DeepMind mutaxassislari hali 2024-yilning boshidayoq ishonchli ko‘ringan chat-botlar bolalar, ruhiy muammolari bor shaxslar va yolg‘iz odamlar kabi zaif qatlamlarga jiddiy ziyon yetkazishi mumkinligidan ogohlantirgan edi. Tadqiqotchilarning fikricha, texnologiya ta’siri barcha uchun bir xil emas, biroq zarur xavfsizlik cheklovlari bo‘lmagan botlar jamiyatning eng himoyasiz a’zolariga eng ko‘p zarar keltirmoqda.
Hozirgi kunda OpenAI, Google va Character.AI kabi yirik texnologik kompaniyalar o‘nlab sud da’volariga duch kelmoqda. Xususan, AQShning Florida shtatida yuz bergan o‘smir yoshdagi bolaning fojiali o‘limi jamoatchilik e’tiborini mazkur muammoga qaratdi.
Ushbu voqealardan so‘ng ishlab chiquvchilar o‘z platformalarida xavfsizlikni kuchaytirish bo‘yicha qator o‘zgarishlarni amalga oshirdi. Shunga qaramay, olimlar butun dunyo bo‘ylab majburiy texnik standartlar joriy etilmas ekan, ruhiy salomatlik bilan bog‘liq muammolar faqat chuqurlashib borishini ta’kidlamoqdalar.
