Wccftech'e göre GPU Unlock adlı açık kaynaklı bir proje, NVIDIA GeForce RTX 3090 Ti ekran kartlarının Linux üzerinde daha yüksek FP16 ve BF16 hesaplama performansına erişmesini sağlıyor. Habere göre bu yetenekler genellikle profesyonel iş istasyonu ekran kartlarına ayrılıyor.
Haberde, aracın tüketici sınıfı GeForce kartlarındaki yazılım düzeyindeki kısıtlamaları aştığı belirtiliyor. Projenin geliştiricisi “zagitta” adını kullanıyor. Sağlanan haber özeti, RTX 3090 Ti'ın BF16 performansının 87,5 TFLOPS'tan 157 TFLOPS'a çıktığını söylüyor; ancak başka bir yerde başlangıç değerini “87,5 FLOPS” olarak veriyor. Birim konusundaki bu tutarsızlık açıklanmıyor.
Özette ayrıca vLLM çıkarım hızlarının %36'ya kadar arttığı bildiriliyor. Bunlar haberde aktarılan sonuçlar; sağlanan bilgiler test yöntemlerini veya bağımsız doğrulamayı içermiyor. GPU Unlock açık kaynaklı olarak tanımlanıyor, ancak depo ya da lisans bilgisi verilmemiş.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.