Google TurboQuant algoritmi til modellarining xotira sarfini olti barobarga kamaytirdi
Google kompaniyasi TurboQuant nomli yangi algoritmni taqdim etdi. Bu haqda Zamin.uz xabar berdi.
Ushbu algoritm yirik til modellarining xotira sarfini olti barobargacha kamaytirishga qodir. Kompaniya ma’lumotlariga ko‘ra, bu usul aniqlikni saqlab qoladi va tizimning unumdorligiga sezilarli zarar yetkazmaydi.
Natijada sun’iy intellekt tizimlarini arzonroq qilish va ularni ishga tushirishni osonlashtirish mumkin bo‘ladi. Bu haqda Tech.onliner.by sayti xabar berdi.
TurboQuant algoritmining asosiy maqsadi — til modellarining suhbat davomida foydalanadigan kesh xotirasini samarali boshqarishdir. Kesh tizimda bir xil hisob-kitoblarni takrorlashning oldini olish uchun zarur ma’lumotlarni saqlab turadi.
Biroq, foydalanuvchi bilan muloqot uzaygani sari kesh hajmi ham ortadi. Bu esa javob berish tezligini sekinlashtirishi va apparat resurslariga bo‘lgan talabni oshirishi mumkin.
Google ma’lumotiga ko‘ra, TurboQuant saqlangan ma’lumotlarni siqish va shu jarayonda yuzaga keladigan xatolarni tuzatish orqali bir necha bosqichda ishlaydi. Ushbu algoritm xotira bosimini kamaytirish bilan birga hisoblash xarajatlarini ham pasaytiradi.
Muhimi, TurboQuantni mavjud modellarni qo‘shimcha tayyorgarlik holda qo‘llash mumkin. Bu yangilik ayniqsa smartfonlar va resurslari cheklangan boshqa qurilmalarda ishlaydigan sun’iy intellekt vositalari uchun foydali bo‘ladi.
Agar TurboQuant keng joriy etilsa, AI xizmatlarining ekspluatatsiya xarajatlarini kamaytirishga yordam beradi. Shuningdek, ilg‘or modellarni kichik va quvvati pastroq qurilmalarda samarali ishlatish imkonini yaratadi.
Bu esa sun’iy intellekt texnologiyalarini kengroq doirada qo‘llashga zamin yaratadi.
