Wccftech, NVIDIA’ın AI Infra Summit’te Vera Rubin platformları için enerji verimliliği optimizasyonlarını tanıttığını bildiriyor. Şirket, DSX MaxLPS teknolojisinin megawatt başına %40 daha fazla token verimi sağladığını söylüyor.
Habere göre bir Lambda kümesi saniyede 5 milyon tokene ulaştı. Bu sonuç, NVIDIA’ın yapay zekâ iş yüklerinin oluşturduğu enerji talebini karşılamaya yönelik daha geniş çalışmalarının bir parçası olarak sunuluyor.
NVIDIA’ın tam kapsamlı yapay zekâ fabrikası platformunda Vera Rubin sistemleri, Dynamo çıkarım yazılımı, NeMo kütüphaneleri ve ağ teknolojileri bulunuyor. Bunlar arasında ölçek büyütme hesaplaması için NVLink, Ethernet için Spectrum-X ve çok sayıda sistemi bağlamak için ConnectX SuperNICs yer alıyor.
Bildiren kaynak, verimlilik kazanımlarını Vera Rubin platformlarının özellikleri olarak aktarıyor. Mevcut bilgiler, rakamlar için ek test koşulları veya bağımsız doğrulama sunmuyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.