В данной статье представлено комплексное исследование производительности вывода большихязыковых моделей (LLM) на высокопроизводительных вычислительных HPC-кластерах. Экспериментыпроводились с четырьмя моделями — LLaMA-3-70B, Mixtral-8x7B, Falcon-40B и Gemma-2-27B — с использованиемразличных конфигураций квантизации: FP16, INT8, INT4, а также фреймворков vLLM и TensorRT-LLM.Оцениваются три ключевых показателя: задержка первого токена (TTFT), пропускная способность (токенов/с) иэнергоэффективность (Дж/токен). Результаты свидетельствуют о том, что INT4-квантизация с параллелизмомтензоров на 4 GPU обеспечивает оптимальный баланс между скоростью и потреблением энергии, достигаяснижения задержки до 84% при росте пропускной способности в 8,2 раза по сравнению с однопроцессорнымFP16-выводом.
| Mualliflar | Исмайылов , Эльвиз |
|---|---|
| Jurnal | Муҳандислик ва Иқтисодиёт |
| Nashr sanasi | 2026-06-01 |
| Jild | 4 |
| Son | 6 |
| Til | Rus |
большие языковые модели, HPC-кластеры, бенчмаркинг, задержка вывода, пропускная способность, энергоэффективность, квантизация, vLLM, TensorRT-LLM, параллелизм тензоров.
Ushbu maqolada hududiy soliq salohiyatining nazariy-metodologik asoslari va uni shakllantiruvchi omillarkompleks tarzda tahlil qilinadi. Klassik makroiqtisodiy yondashuvdan boshlab zamonaviy integratsiyalashgan…
Maqolada O‘zbekistonda kichik biznes subyektlarini moliyalashtirishda raqamli kreditlash va muqobil skoringmexanizmlarini rivojlantirish masalalari tahlil qilingan. Tadqiqot jarayonida garov ta’minotining yetishmasligi…
Mazkur maqolada bugungi kunda turizm sanoatida keng rivojlanib borayotgan onlayn bronlash tizimlaridasun’iy intellekt integratsiyasi, uning qo‘llanish sohalari, afzalliklari va ayrim cheklovlari haqida ma’lumotlar…
Mazkur maqolada iqtisodiyotni raqamlashtirish jarayonida sun’iy intellekt texnologiyalarining o‘rni, asosiyxususiyatlari va amaliy ahamiyati tahlil qilingan. Sun’iy intellektning iqtisodiy jarayonlarni…
Ushbu maqolada sanoat tarmoqlarini boshqarishning zamonaviy va samarali usullaridan biri hisoblanganklaster tizimida to‘qimachilik korxonalarini xomashyo bilan barqaror ta’minlash bo‘yicha xorijiy mamlakatlarning ilg‘or…
Mazkur maqolada raqamli transformatsiya sharoitida qishloq xo‘jaligi kooperatsiyalarini rivojlantirishningtashkiliy-iqtisodiy mexanizmlari tadqiq etilgan. Tadqiqotda qishloq xo‘jaligi kooperatsiyalarining zamonaviy…
Mazkur maqolada raqamli transformatsiya sharoitida mehmonxona xizmatlarini avtomatlashtirishning iqtisodiyafzalliklari tahlil qilinadi. Tadqiqot davomida mehmonxonalarda qo‘llanilayotgan zamonaviy axborot…
Mazkur maqolada O‘zbekiston sanoatini diversifikatsiyalashning nazariy asoslari, hozirgi holati va ustuvoryo‘nalishlari tizimli tahlil etilgan. Tadqiqotda sanoat ishlab chiqarishining tarmoq tarkibi, eksportning…
Maqolada xizmat ko‘rsatish korxonalarida iqtisodiy resurslardan, xususan, inson kapitalidanfoydalanish samaradorligini baholashning nazariy va uslubiy asoslari yoritilgan. Tadqiqotda «samaradorlik» va«unumdorlik»…
Mazkur maqolada qo‘shilgan qiymat solig‘ini (QQS) hisoblash va undirish amaliyotining nazariy asoslarihamda zamonaviy rivojlanish tendensiyalari kompleks ravishda tadqiq etilgan. Tadqiqotda QQSning davlat…