Google sun'iy intellekt uchun yangi xotira texnologiyasini taqdim etdi
Google kompaniyasi TurboQuant nomli yangi texnologiyani taqdim etdi. Bu haqda Zamin.uz xabar berdi.
Bu usul sun’iy intellekt tizimlarining eng katta apparat muammolaridan biri bo‘lgan xotira talabini kamaytirishga qaratilgan. An’anaviy ravishda bunday tizimlarda katta va qimmat chiplarga tayaniladi, ammo TurboQuant yondashuvi katta til modellarining matn yaratish jarayonida xotirada saqlashi lozim bo‘lgan ma’lumot hajmini qisqartirishga asoslanadi.
Bu yangilik sun’iy intellekt tizimlarini ishlab chiqayotgan kompaniyalar va xotira chiplari bozoridagi investorlar uchun muhim ahamiyatga ega bo‘lishi mumkin. Katta til modellarida har bir yangi so‘z yoki belgini taxmin qilish jarayonida oldingi ma’lumotlarga qayta murojaat qilinadi.
Buning uchun avvalgi bosqichlardagi kalit va qiymat ma’lumotlari maxsus keshda saqlanadi. Ushbu kesh takroriy hisob-kitoblarni kamaytiradi, lekin har yangi so‘z qo‘shilganda uning hajmi oshib boradi.
Ayniqsa, uzoq suhbatlarda, dastur yozish jarayonlarida yoki hujjatlarni tahlil qilishda xotira talabi keskin ortishi mumkin. TurboQuant aynan shu keshdagi ma’lumotlarni siqish orqali xotira talabini kamaytiradi.
Ma’lumotlarga ko‘ra, bu usul saqlanayotgan vektorlarni model aniqligiga katta zarar yetkazmasdan siqadi. Oddiy qilib aytganda, u grafik protsessorining jismoniy xotirasini kamroq ishlatib, katta xotira imkoniyatlarini saqlab qolishga harakat qiladi.
Bu esa hisoblash samaradorligini oshirishi va yuqori tezlikdagi xotira ta’minotiga bo‘lgan bosimni kamaytirishi mumkin. Agar TurboQuant kabi usullar keng miqyosda samarali bo‘lsa, sun’iy intellekt infratuzilmasi haqida fikrlarni o‘zgartirishga sabab bo‘ladi.
Xotira talabining yuqoriligi saqlanib qolishi mumkin, ammo aqlli siqish texnologiyalari apparatga bo‘lgan ehtiyojni sekinlashtirishi kutilmoqda. Bu esa sanoat uchun dasturiy ta’minotning rolini oshirib, ilgari faqat apparat yordamida hal qilinadi deb hisoblangan muammolarning bir qismini hal qilish imkonini beradi.
