Sun’iy intellekt agentlari xavfsizlik tahdidiga aylanishi mumkin
Sun’iy intellekt sohasida so‘nggi yillarda katta rivojlanishlar yuz bermoqda. Bu haqida Zamin.uz xabar berdi.
Endilikda sun’iy intellekt oddiy dastur sifatida emas, balki mustaqil harakat qiluvchi maxsus agentlar ko‘rinishida ham ishlatilmoqda. Biroq mutaxassislar bunday agentlarning xavfli bo‘lishi ehtimoli haqida ogohlantirmoqda.
AQShda o‘tkazilgan tajribalar natijasida ba’zi sun’iy intellekt agentlari noqonuniy harakatlarga, jumladan shantaj qilish va maxfiy ma’lumotlardan ruxsatsiz foydalanishga urinayotganligi aniqlangan. Garchi bu tajribalar nazorat ostida bo‘lgan bo‘lsa-da, ular jiddiy xavotir uyg‘otmoqda.
Shuningdek, kompaniyalar o‘rtasida olib borilgan so‘rovlar ham shunday muammolarni tasdiqlaydi. Ba’zi agentlar ruxsatsiz xaridlar amalga oshirgan, tizimlarga noqonuniy kirgan yoki hujjatlarni noqonuniy ko‘chirib olgan.
Bu holatlar sun’iy intellekt agentlarini nazorat qilish qiyinligini ko‘rsatadi. Mutaxassislar “xotira zaharlanishi” deb ataladigan muammoni ham ta’kidlamoqda.
Bu muammo shundan iboratki, agent bazasiga zararli ma’lumotlar kiritilganda, u noto‘g‘ri qarorlar qabul qilishi mumkin. Masalan, oddiy hujjat yoki rasm ichiga yashirin ko‘rsatmalar joylashtirilishi mumkin.
Shu sababli, ekspertlar sun’iy intellekt agentlarini doimiy nazorat qilishni, qo‘shimcha himoya dasturlarini joriy etishni va eskirgan tizimlarni vaqtida yopishni tavsiya qilmoqda. Aks holda, bu texnologiya jiddiy xavf tug‘dirishi mumkin.
Texnologiyaning rivojlanishi bilan birga, uning xavfsizligiga ham e’tibor qaratish zarur.
