NVIDIA-nın Blackwell Ultra GB300 NVL72 rəfində DeepSeek modelləri üzrə gecikmə və ötürmə qabiliyyəti artdı
LMSYS uzun kontekstli inferens testlərində NVIDIA GB300 NVL72-nin GB200 NVL72-yə nisbətən sürət və gecikmədə üstün nəticələr göstərdiyini açıqladı.
LMSYS testlərində NVIDIA GB300 NVL72 dərin kontekstli DeepSeek iş yüklərində GB200-ü geridə qoydu
«wccftech.com» məlumatına görə, LMSYS NVIDIA-nın GB300 NVL72 süni zəka rəflərini DeepSeek-in son açıq mənbə modellərində uzun kontekstli inferens üçün sınaqdan keçirib və nəticələr GB200 NVL72 ilə müqayisədə daha yüksək göstəricilər verib.
Uzun kontekst tapşırıqları qrafik prosessorun video yaddaşına daha çox yük saldığı üçün testlərdə PD disaqreqasiya yanaşması tətbiq edilib: iş yükü «prefill» (sorğunun emalı) və «decode» (tokenlərin yaradılması) mərhələlərinə bölünüb.
Son Xəbərlər
Xiaomi 15 Ultra Qlobal Versiyası
Xiaomi yeni flaqman modeli Xiaomi 15 Ultra-nı qlobal satışa çıxaracağını təsdiqlədi. HyperOS 2.0 ilə yeni dövr başlayır!
Samsung-un Üçqatlanan Telefonu
Samsung, Galaxy Unpacked tədbirində üçqatlanan telefon konseptini təqdim etdi. Yeniliklər haqqında daha çox məlumat əldə edin.
Realme GT 7: Ən Ucuz Smartfon
Snapdragon 8 Elite çipi ilə Realme GT 7 fevral ayında təqdim ediləcək. Yeni xüsusiyyətlər və uyğun qiymət gözləyir.
Dinamik hissələmə və KV tutumunun çevrilməsi kimi optimizasiyalarla GB300 NVL72-nin pik ötürmə qabiliyyəti 1,53 dəfə artıb və 226,2 token/saniyə hər qrafik prosessor səviyyəsinə çatıb. Çox-token proqnozlaşdırması ilə istifadəçi sürəti 1,87 dəfə yüksəlib, gecikmə göstəricisi isə 1,58 dəfə yaxşılaşıb.
Gecikməyə həssas ssenarilərdə GB300-ün GB200-ə qarşı orta hesabla 1,4-1,5 dəfə üstün olduğu qeyd olunur. Ümumi sahibolma dəyəri üzrə rəqəmlər açıqlanmayıb və GB300 ilə yerləşdirmə xərclərinin artdığı da bildirilib.
Bu xəbəri necə dəyərləndirirsiniz?
