«OpenAI» ChatGPT ishlash xarajatlarini ikki barobarga qisqartirdi
Компания OpenAI, считающаяся лидером в области технологий искусственного интеллекта, разработала метод снижения эксплуатационных расходов системы без необходимости покупки нового оборудования. Об этом сообщил Zamin.uz.
Согласно данным влиятельных изданий, компании удалось сократить вычислительные мощности, необходимые для обработки запросов пользователей ChatGPT, более чем в два раза. Это достижение не только обеспечивает финансовую экономию, но и дает стратегическое преимущество в условиях глобального дефицита вычислительных ресурсов.
Упомянутая новость связана с улучшением процесса непосредственного ответа обученной модели на запросы пользователей, то есть этапом генерации ответов. В настоящее время именно этот процесс требует наибольших затрат у компаний, разрабатывающих генеративные системы искусственного интеллекта.
Если обучение модели выполняется в определенные сроки, взаимодействие с пользователями приводит к избыточному расходу ресурсов и мощности на каждый запрос. Как подчеркивают источники, новая система эффективности, внедренная OpenAI, в основном ориентирована на пользователей сервиса ChatGPT, которые не прошли регистрацию или используют его бесплатно.
В результате количество графических процессоров, необходимых для обслуживания этих пользователей в определенный период времени, сократилось на несколько сотен. Для обслуживания такого масштаба это чрезвычайно низкий и впечатляющий показатель.
На данный момент OpenAI официально не раскрывала, какие именно технологические методы позволили достичь этого результата. По оценкам специалистов, такая эффективность достигнута не за счет установки дополнительного оборудования, а за счет разумного использования существующей серверной инфраструктуры, улучшения управления памятью или оптимизации алгоритмов обработки данных в виде пакетов.
Это достижение может полностью изменить экономический баланс на рынке искусственного интеллекта. В то время как во всем мире на строительство центров обработки данных и покупку мощных чипов тратятся миллиарды долларов, снижение затрат через программное обеспечение становится наиболее правильным путем.
Это открывает перед OpenAI возможность предлагать свои услуги значительно более широкой аудитории. Если эта технология получит широкое распространение, компания сможет расширить круг бесплатных услуг, снизить цены для корпоративных клиентов и обслуживать больше пользователей при существующей инфраструктуре.
На данный момент неясно, применяется ли это улучшение к платным подписчикам или к самым сложным логическим моделям компании. Однако такие достижения в области программной оптимизации демонстрируют, что в развитии искусственного интеллекта решающую роль играет не только количество технических устройств, но и умение эффективно их использовать.
