Qualcomms vd säger att mobiler kan köra 100B LLM:er senast 2028

Qualcomms vd Cristiano Amon säger att smartmobiler som kan köra 100B stora språkmodeller (LLM:er) kontinuerligt kan komma senast 2028. Han säger också att AI-företag bygger telefoner som ska klara detta.

Rapporten pekar ut minneskapaciteten som en viktig flaskhals för att köra större AI-modeller på mobiler. Den säger att det är osannolikt att 16 GB-gränsen passeras inom kort, med tanke på situationen för DRAM-försörjningen.

Amon har sagt att mobiltillverkare skulle behöva utrusta telefonerna med stora mängder RAM för att köra modellerna, samtidigt som minnestillgången är knapp och priserna höga. Källan lyfter fram tillgången på DRAM och kostnaden som olösta frågor, men förklarar inte hur tillverkarna skulle hantera dem och ger inga fler detaljer om telefonerna.