Mistral Large 4, 1 trilyon parametreye sahip ve 49 milyar parametreyi etkinleştiriyor

Wccftech'e göre yeni yayımlanan Mistral Large 4, 1 trilyon parametreli bir sınır model. Wccftech, Mistral Large 4'ün aynı anda 49 milyar parametreyi etkinleştirdiğini belirtiyor.

Wccftech, “Le Chonk” lakaplı modelin seyrek bir Mixture-of-Experts (MoE) mimarisi kullandığını aktarıyor. Kaynak, modelin öne çıktığı tek alanın düzenleme olduğunu söylüyor; ancak sağlanan alıntı bu karşılaştırmanın dayanağını açıklamıyor.

Haberde bu nokta, Avrupa Birliği'nde düzenlemeler ve üretkenlik üzerine yürütülen tartışmalar bağlamında sunuluyor. Alıntıda bu daha geniş iddiayı değerlendirmeye yarayacak kanıt bulunmuyor. Sağlanan materyalde yer alan belirli teknik bilgiler, modelin toplam parametre sayısı ve etkin parametre sayısı.