DSX MaxLPS de NVIDIA ofrece un 40 % más de rendimiento de tokens por megavatio mientras el clúster de Lambda alcanza 5 millones de tokens por segundo

Wccftech informa de que NVIDIA mostró optimizaciones de eficiencia energética para sus plataformas Vera Rubin durante AI Infra Summit. La compañía afirma que su tecnología DSX MaxLPS ofrece un 40 % más de rendimiento de tokens por megavatio.

Según el informe, un clúster de Lambda ha alcanzado 5 millones de tokens por segundo. El resultado se presenta como parte del esfuerzo más amplio de NVIDIA para afrontar la demanda energética generada por las cargas de trabajo de inteligencia artificial.

La plataforma de NVIDIA para una fábrica de IA integral incluye sistemas Vera Rubin, el software de inferencia Dynamo, las bibliotecas NeMo y tecnologías de red. Entre ellas están NVLink para la computación de escalado dentro del sistema, Spectrum-X para Ethernet y ConnectX SuperNICs para conectar grandes cantidades de sistemas.

Las mejoras de eficiencia mencionadas se presentan como características de las plataformas Vera Rubin. La información disponible no ofrece condiciones de prueba adicionales ni una verificación independiente de las cifras.