Projektet GPU Unlock med öppen källkod uppges ge NVIDIA GeForce RTX 3090 Ti-grafikkort tillgång till högre beräkningsprestanda i FP16 och BF16 under Linux. Enligt Wccftech brukar den här kapaciteten vara reserverad för professionella arbetsstationskort.
Enligt artikeln kringgår verktyget programvarubegränsningar på GeForce-kort för konsumenter. Projektets utvecklare använder namnet ”zagitta”. Den tillhandahållna sammanfattningen säger att RTX 3090 Ti:s BF16-prestanda ökar från 87,5 till 157 TFLOPS, men anger på ett annat ställe startvärdet som ”87,5 FLOPS”. Det är oklart vilken enhet som avses.
Sammanfattningen uppger också att inferenshastigheten i vLLM ökar med upp till 36 %. Det här är rapporterade resultat; informationen som lämnats innehåller inga testdetaljer eller oberoende verifiering. GPU Unlock beskrivs som öppen källkod, men uppgifter om kodarkiv eller licens saknas.
Kommentarer
0Inga kommentarer ännu. Skriv den första.