Meta trabaja con la startup surcoreana Panmnesia en un diseño de centro de datos pensado para que miles de procesadores funcionen como un sistema coherente. La propuesta utiliza Compute Express Link (CXL) para conectar CPU, aceleradores y memoria entre varios racks sin enlaces de red convencionales.
La arquitectura podría reunir hasta 960 aceleradores de IA en un único dominio de coherencia. Su objetivo es reducir las variaciones en la latencia de comunicación que pueden obligar a otros aceleradores a esperar durante las etapas repetidas del entrenamiento de IA. Ethernet e InfiniBand suelen conectar sistemas situados más allá de servidores individuales, pero el procesamiento de paquetes y la coordinación mediante software pueden aumentar la variación de la latencia a medida que crecen las cargas de trabajo.
El diseño de Panmnesia utiliza un switch de alta ramificación, una unidad de aceleración de enlaces y un controlador de fabric. Los componentes se organizan en bandejas, pods y un fabric. La empresa afirma que su controlador de fabric y su unidad de aceleración de enlaces han completado la validación de silicio, mientras que su switch ya ha sido fabricado.
El diseño se compara con el GB200 NVL72 de NVIDIA, donde una CPU coordina dos aceleradores mediante NVLink-C2C. Según Panmnesia, una CPU podría coordinar 16 aceleradores, un aumento de ocho veces. Unas 60 agrupaciones de este tipo podrían formar un dominio con aproximadamente 960 aceleradores.
El acceso entre racks podría reducirse de tiempos de nivel de microsegundos a varios cientos de nanosegundos. La señalización eléctrica CXL alcanza unos siete metros a 128 GT/s con dos retimers. Por ello, Panmnesia propone enlaces CXL ópticos para distancias mayores y afirma haber completado la validación de hardware de una prueba de concepto.
Myoungsoo Jung, CEO de Panmnesia, dijo: «CXL permite que todo el centro de datos funcione como un único sistema informático».
Comentarios
0Aún no hay comentarios. Escribe el primero.