Meta, binlerce işlemcinin tek bir uyumlu sistem gibi çalışmasını amaçlayan bir veri merkezi tasarımı üzerinde Koreli girişim Panmnesia ile çalışıyor. Öneri, geleneksel ağ bağlantıları olmadan CPU'ları, hızlandırıcıları ve belleği birden fazla raf arasında bağlamak için Compute Express Link (CXL) kullanıyor.
Mimari, tek bir uyumluluk alanında 960'a kadar yapay zekâ hızlandırıcısını bir araya getirebilir. Tasarım, tekrarlanan yapay zekâ eğitimi aşamalarında bazı hızlandırıcıların beklemesine yol açabilen değişken iletişim gecikmelerini azaltmayı hedefliyor. Ethernet ve InfiniBand, tek tek sunucuların ötesindeki sistemleri genellikle bağlar; ancak paket işleme ve yazılım koordinasyonu, iş yükleri büyüdükçe gecikme değişkenliğini artırabilir.
Panmnesia'nın tasarımında yüksek fan-out'lu bir anahtar, bağlantı hızlandırma birimi ve fabric denetleyicisi bulunuyor. Bunlar tepsiler, pod'lar ve bir fabric içinde düzenleniyor. Şirket, fabric denetleyicisi ile bağlantı hızlandırma biriminin silikon doğrulamasını tamamladığını, anahtarının ise üretildiğini söylüyor.
Tasarım, NVIDIA'nın bir CPU'nun NVLink-C2C üzerinden iki hızlandırıcıyı yönettiği GB200 NVL72 ile karşılaştırılıyor. Panmnesia'ya göre bir CPU 16 hızlandırıcıyı yönetebilir; bu, sekiz kat artış anlamına geliyor. Yaklaşık 60 grup, yaklaşık 960 hızlandırıcılı bir alan oluşturabilir.
Raflar arası erişim, mikrosaniye düzeyindeki zamanlamadan birkaç yüz nanosaniyeye düşebilir. Elektriksel CXL sinyallemesi, iki retimer ile 128 GT/s hızında yaklaşık yedi metreye ulaşabiliyor. Bu nedenle Panmnesia daha uzun mesafeler için optik CXL bağlantıları öneriyor ve donanım doğrulamasını tamamladığını belirtiyor.
Panmnesia CEO'su Myoungsoo Jung, “CXL tüm veri merkezinin tek bir bilgi işlem sistemi gibi çalışmasını sağlıyor” dedi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.