En användare frigjorde enligt uppgift 2,5 GB videominne genom att ansluta en extern skärm till datorns integrerade grafikprocessor (iGPU) i stället för till RTX 4090, rapporterar Wccftech. Användaren ska sedan ha fördubblat kontextfönstret för Qwen3.8-27B till 132K.
RTX 4090 har 24 GB VRAM och kan köra medelstora språkmodeller som Qwen3.8-27B. Hur mycket minne som finns tillgängligt för en modell beror också på kvantiseringen. Det kan krävas justeringar och andra optimeringar för att hålla modellen inom grafikkortets minnesgräns, skriver Wccftech.
Om man använder iGPU:ns bildutgång i stället för RTX 4090:s HDMI- eller DisplayPort-anslutning kan mer av grafikkortets VRAM bli tillgängligt för modellen. Det rapporterade resultatet gäller en användare. Källan visar inte att samma ändring frigör lika mycket minne i andra system.
Wccftechs rapport beskriver det större kontextfönstret men nämner också att användaren hade ett betydande klagomål trots fördubblingen. Den tillgängliga källsammanfattningen ger inga fler detaljer om klagomålet.
Kommentarer
0Inga kommentarer ännu. Skriv den första.