Microsoft presenterar Maia 300, en AI-accelerator som planeras tas i drift 2027

Microsoft har presenterat Maia 300, företagets nästa generations accelerator för AI-arbetslaster i Azure. Företaget säger att utrullningen planeras börja 2027.

Enligt Microsoft är Maia 300 främst utformad för inferens, bland annat resonemang med långa kontexter, konversationsbaserad AI och agentuppgifter i flera steg. Företaget hävdar att chippet ska leverera 40 % fler token per megawatt än andra ledande GPU-baserade system. En racklösning med 96 Maia 300-acceleratorer väntas ge upp till sju gånger högre tokenkapacitet på racknivå än en Maia 200-racklösning.

Utformningen kombinerar åtta HBM4-stackar med en uppgiven maximal bandbredd på 18TB/s och en termisk designeffekt på 950W. Microsoft säger att ett Maia 300-rack ska rymma 96 acceleratorer inom en effektbudget på 167kW, med 27,6TB HBM-kapacitet och en sammanlagd HBM-bandbredd på 1,7 petabyte per sekund. Beräkningschipletarna ska tillverkas med TSMC:s N2P-process.

Microsoft räknar med att Maia 300 ska stödja AI-tjänster som GitHub, Microsoft Foundry, Copilot, Cowork och Microsoft Teams. Företaget säger att Maia 200 redan kör produktionsarbetslaster, däribland Microsoft 365 Copilot och modeller som utvecklats av Microsofts AI-team. Microsoft hävdar att Maia 200 levererar upp till 1,7 gånger fler token per watt än ledande GPU-infrastruktur för inbyggda AI-funktioner i Teams, Copilot och Cowork. GitHub Copilot och Microsoft Foundry väntas följa före årets slut.