Meta och Panmnesia föreslår CXL-datacenter för 960 AI-acceleratorer

Meta samarbetar med den koreanska startupen Panmnesia kring en datacenterdesign som ska göra det möjligt för tusentals processorer att fungera som ett sammanhängande system. Förslaget använder Compute Express Link (CXL) för att ansluta CPU:er, acceleratorer och minne över flera rack utan vanliga nätverkslänkar.

Arkitekturen kan samla upp till 960 AI-acceleratorer i en sammanhängande domän. Den är utformad för att minska varierande kommunikationsfördröjningar som kan få andra acceleratorer att vänta under upprepade steg i AI-träning. Ethernet och InfiniBand kopplar normalt samman system bortom enskilda servrar, men paketbehandling och samordning i programvara kan öka variationen i fördröjningen när arbetsbelastningen växer.

Panmnesias design använder en switch med hög fan-out, en länksaccelerationsenhet och en fabricstyrenhet. Komponenterna ordnas i brickor, poddar och en fabric. Företaget uppger att fabricstyrenheten och länksaccelerationsenheten har genomgått kiselvalidering, medan switchen har tillverkats.

Designen jämförs med NVIDIAs GB200 NVL72, där en CPU samordnar två acceleratorer via NVLink-C2C. Enligt Panmnesia kan en CPU samordna 16 acceleratorer, en åttafaldig ökning. Omkring 60 sådana grupper kan bilda en domän med cirka 960 acceleratorer.

Åtkomst mellan rack kan minska från fördröjning på mikrosekundnivå till flera hundra nanosekunder. Elektrisk CXL-signalering når cirka sju meter vid 128 GT/s med två retimers. Därför föreslår Panmnesia optiska CXL-länkar för längre avstånd och uppger att företaget har slutfört en hårdvaruvalidering av ett proof of concept.

Panmnesias vd Myoungsoo Jung sade: ”CXL gör det möjligt för hela datacentret att fungera som ett enda datorsystem.”