ChatGPT orqali biologik qurol tayyorlash xavfi haqida ma’lumot berildi
Amerikaning nufuzli nashrlaridan biri bo‘lgan The Wall Street Journal sun’iy intellekt xavfsizligi borasida xavotirli ma’lumotlarni e’lon qildi. Bu haqda One.uz xabar beradi.
Nashrning yozishicha, ayrim foydalanuvchilar ChatGPT tizimi orqali biologik qurol va zaharli moddalar tayyorlashga oid xavfli ma’lumotlarni olishga uringan. Mutaxassislar ba’zi holatlarda sun’iy intellekt ushbu so‘rovlarga kutilmagan darajada aniq va batafsil javoblar qaytarganini qayd etishgan.
Bu holat zamonaviy texnologiyalarning xavfsizlik tizimlari qanchalik mustahkam ekani borasidagi bahslarni yanada kuchaytirdi. Maqolada keltirilishicha, OpenAI kompaniyasi o‘z modellarini yangilaganidan so‘ng, biologiya va kimyo sohalariga oid murakkab, shu bilan birga xatarli mavzularda so‘rovlar soni ortgan.
Ekspertlar olingan ayrim javoblar texnik jihatdan to‘g‘ri va amaliyotda qo‘llash mumkin bo‘lgan darajada ekanini ta’kidlashmoqda. Bu esa g‘arazli niyatda bo‘lgan shaxslarning ushbu texnologiyadan qurol sifatida foydalanishi ehtimolini yuzaga keltirmoqda.
Xavfsizlik choralari va cheklovlar Vaziyatga munosabat bildirgan OpenAI vakillari xavfli so‘rovlar yuborgan foydalanuvchilarning hisoblari darhol bloklanishini ma’lum qildi. Kompaniya o‘z modellarini doimiy ravishda qayta o‘qitayotganini va xavfsizlik filtrlarini yanada kuchaytirayotganini ta’kidlamoqda.
Hozirgi kunda tizimda bunday ma’lumotlarni taqdim etmaslik uchun qat’iy taqiqlar o‘rnatilgan bo‘lib, ular ruxsat etilmagan ma’lumotlarning chiqib ketishini oldini olishga xizmat qiladi. Shunga qaramay, AQSH qonunchiligida sun’iy intellekt kompaniyalari uchun bunday shubhali so‘rovlar haqida davlat organlariga majburiy hisobot berish tartibi hali joriy etilmagan.
Yagona federal qonunning yo‘qligi kompaniyalarga ushbu masalada mustaqil qaror qabul qilish imkonini bermoqda. Bu esa huquqni muhofaza qiluvchi organlar uchun xavfli harakatlarni barvaqt aniqlashda ma’lum qiyinchiliklar tug‘dirishi mumkin.
Global hamkorlik va kelajakdagi xavflar The Wall Street Journal nashri foydalanuvchilar nafaqat ChatGPT, balki boshqa yirik chatbotlarga ham shunday so‘rovlar bilan murojaat qilganini yozadi. Hozircha Google yoki Anthropic kabi kompaniyalarning tizimlari bunday so‘rovlarga qanday javob bergani haqida aniq dalillar keltirilmagan.
Biroq barcha yirik texnologik gigantlar sun’iy intellektdan zararli maqsadlarda foydalanishning oldini olish uchun hukumatlar va xalqaro ekspertlar bilan hamkorlik qilayotganini bildirishmoqda. Mutaxassislarning fikricha, sun’iy intellektning mislsiz tezlikda rivojlanishi xavfsizlik masalasini jahon miqyosidagi eng dolzarb muammolardan biriga aylantirdi.
Texnologik imkoniyatlar kengaygani sayin, ulardan noto‘g‘ri foydalanish xavfi ham ortib bormoqda. Shu sababli, yirik kompaniyalar o‘z tizimlarini himoya qilish mexanizmlarini har kuni takomillashtirib borishga majbur bo‘lmoqda.
Kelajakda bu boradagi nazoratni kuchaytirish uchun yangi xalqaro standartlar va qonuniy tartiblar ishlab chiqilishi kutilmoqda.
