Intel presenterar GPU D-series med 480GB för AI-inferens

Intel har presenterat GPU D-series, en accelerator med upp till 480GB minne som är utformad för AI-inferens. Företaget visade upp den vid det nyligen hållna Open Compute Project Global Summit. Produkten var tidigare känd under kodnamnet Crescent Island.

Intel uppger att ett kort kan stödja stora språkmodeller med upp till 300 miljarder parametrar, medan ett system med åtta GPU:er kan hantera modeller med över en biljon parametrar. Företaget beskriver acceleratorn som avsedd för arbetsbelastningar som långa promptar, samtidiga inferensförfrågningar, företagstjänster för AI och robotik.

D-series använder LPDDR5X-minne i stället för GDDR7. Intel anger beräkningsprestandan för FP8 till 1,3 petaflops, minnesbandbredden till 1,5TB/s och effektgränsen till 350W. Den har ett standardiserat PCIe-format och luftkylning. Intel uppger att den är kompatibel med företagets GPU-plattformar.

Intel planerar också att koppla acceleratorn till Xeon-processorer för uppgiftssamordning och dataöverföring. Företaget har inte offentliggjort något butikspris eller ett specifikt datum för allmän tillgänglighet. Minneskapacitet, bandbredd och beräkningsprestanda är olika mått; källan redovisar inga oberoende jämförelser av hur snabbt kortet hanterar förfrågningar.