Wccftech'e göre bir kullanıcı, harici ekranı RTX 4090 yerine bilgisayarın tümleşik grafik işlemcisine (iGPU) bağlayarak 2,5 GB video belleğini boşalttı. Habere göre kullanıcı, ardından Qwen3.8-27B'nin bağlam penceresini iki katına çıkararak 132K'ya ulaştırdı.
RTX 4090, 24 GB VRAM'e sahip ve Qwen3.8-27B gibi orta boyutlu dil modellerini çalıştırabiliyor. Wccftech, model için kullanılabilir bellek miktarının sıkıştırma düzeyine de bağlı olduğunu; modeli ekran kartının bellek sınırları içinde çalıştırmak için ayarlamalar ve başka optimizasyonlar gerekebileceğini belirtiyor.
RTX 4090'ın HDMI veya DisplayPort bağlantısı yerine iGPU'nun ekran çıkışını kullanmak, ekran kartının VRAM'inin daha büyük bir bölümünü model için kullanılabilir bırakabilir. Bildirilen sonuç tek bir kullanıcıya ait; kaynak, aynı değişikliğin başka sistemlerde de aynı miktarda belleği boşaltacağını göstermiyor.
Wccftech'in aktardığına göre daha büyük bağlam penceresine rağmen kullanıcının önemli bir şikâyeti vardı. Kaynağın mevcut özeti bu şikâyetin ayrıntılarını vermiyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.