Mistral Large 4 har 1 biljon parametrar och aktiverar 49 miljarder

Enligt Wccftech är den nysläppta Mistral Large 4 en modell i den främsta klassen med 1 biljon parametrar. Artikeln uppger att modellen aktiverar 49 miljarder parametrar åt gången.

Wccftech beskriver modellen, med smeknamnet ”Le Chonk”, som byggd med en gles Mixture-of-Experts-arkitektur (MoE). Källan säger att modellens enda tydliga försprång gäller reglering, men utdraget som tillhandahållits förklarar inte grunden för jämförelsen.

Artikeln sätter frågan i samband med debatten om reglering och produktivitet i Europeiska unionen. Utdraget innehåller inga belägg för att bedöma det bredare påståendet. Modellens parameterantal och antalet aktiva parametrar är de konkreta tekniska uppgifter som finns i materialet.