Lenovo NVIDIA GB300 NVL72. 72 GPUs Blackwell y 36 CPUs Grace.

3.630.000,00 €

Impuestos incluidos

72 GPUs NVIDIA Blackwell Ultra (36 CPUs NVIDIA Grace).
Memoria: GPU | Ancho de banda: hasta 21 TB | hasta 576 TB/s.
Núcleos CPU: 2.592 Arm Neoverse V2.
Tensor Core FP4: 1.400 | 1.100 PFLOPS.
Tensor Core FP8/FP6 (720 PFLOPS).

Disponemos del GB300 de Nvidia, Lenovo, Dell, SuperMicro, Asus y Gigabyte. Para más información, consúltennos.

Descripción
Detalles del producto

El Lenovo NVIDIA GB300 NVL72 es una solución a escala de rack basada en la arquitectura NVIDIA Blackwell, que ofrece avances revolucionarios en la aceleración de la computación y lidera la nueva era de la IA con una capacidad de cálculo optimizada y una mayor memoria.

El GB300 NVL72 es la oferta insignia de NVIDIA en IA a escala de rack. Se trata de un diseño de referencia de NVIDIA de extremo a extremo adoptado por el mercado.

La NVIDIA GB300 NVL72 es una plataforma diseñada para ofrecer rendimiento y eficiencia en el razonamiento de IA, con un diseño modular escalable que incorpora 72 GPU NVIDIA Blackwell Ultra y 36 CPU NVIDIA Grace basadas en Arm en un rack estándar con refrigeración híbrida.

La GB300 NVL72 utiliza una arquitectura de refrigeración híbrida: las CPU, las GPU y los componentes NVSwitch se refrigeran por líquido, mientras que los módulos OSFP, las unidades de almacenamiento y los componentes PDB se refrigeran por aire.

Los componentes de la solución de rack de IA están diseñados para ser compatibles con el rack NVIDIA MGX. La solución de refrigeración líquida consta de una CDU, un colector trasero, conectores de desconexión rápida y placas de refrigeración para las CPU, las GPU, los adaptadores de red ConnectX-8 y todos los componentes de NVSwitch.

El conmutador NVLink integrado en el GB300 NVL72 permite que todas las GPU del rack se comuniquen como parte de una estructura unificada. Cada rack cuenta con 72 GPU NVIDIA Blackwell interconectadas mediante la tecnología NVIDIA NVLink™ de quinta generación, lo que conforma un único dominio de cálculo de alto rendimiento ideal para el razonamiento multimodal a gran escala, la inferencia de alto rendimiento y las cargas de trabajo de entrenamiento de modelos de lenguaje grande (LLM).

El Lenovo NVIDIA GB300 NVL72 es una solución a escala de rack para múltiples GPU NVIDIA interconectadas. La solución consta de 18 bandejas de cálculo con GPU, 9 bandejas de conmutación y 6 u 8 bandejas de alimentación, todas ellas conectadas a través de un backplane con cartucho de cables trasero.

Diseño de rack de IA «llave en mano»

Diseñado para aplicaciones de inteligencia artificial (IA) y computación de alto rendimiento (HPC) a gran escala, el Lenovo NVIDIA GB300 NVL72 destaca en simulaciones intensivas y modelización compleja. Está concebido para gestionar cargas de trabajo de modelización, entrenamiento, simulación, renderización, tecnología financiera, investigación científica, computación técnica, implementaciones en red y análisis en diversos campos, como la investigación, las ciencias de la vida, la energía, la ingeniería y la simulación financiera.

El NVIDIA GB300 NVL72 de Lenovo cuenta con un sistema mixto de refrigeración por aire y líquido para satisfacer sus exigentes requisitos de potencia. La NVIDIA GB300 NVL72 se integra a la perfección en un armario de rack estándar de 19". Cada rack consume 135 kW de TDP; hasta 155 kW en picos, dependiendo de la carga de trabajo y del comportamiento del EDP. A nivel de rack, la distribución entre la disipación de calor por aire y por líquido es de aproximadamente un 10 % por aire y un 90 % por líquido.

Este diseño garantiza una fácil mantenimiento y una densidad de rendimiento extrema, lo que convierte a la NVIDIA GB300 NVL72 en la opción ideal para clústeres de cálculo de todos los tamaños —desde el ámbito departamental o de grupos de trabajo hasta las supercomputadoras más potentes del mundo—, desde Exascale hasta Everyscale®.

Cada rack cuenta con 72 GPU NVIDIA Blackwell interconectadas mediante la tecnología NVIDIA NVLink™ de quinta generación, lo que conforma un único dominio de cálculo de alto rendimiento ideal para el razonamiento multimodal a gran escala, la inferencia de alto rendimiento y las cargas de trabajo de entrenamiento de modelos de lenguaje a gran escala (LLM).

Las soluciones de refrigeración directa por agua se integran en fábrica y se someten a nuevas pruebas a nivel de rack para garantizar que este pueda instalarse directamente en las instalaciones del cliente. Estas pruebas de calidad, minuciosas y sistemáticas, son el resultado de más de una década de experiencia en el diseño y la implementación de soluciones DWC según los estándares más exigentes.

Escalabilidad y rendimiento

El Lenovo NVIDIA GB300 NVL72 se basa en una infraestructura de rack GB300 que ofrece las siguientes características para potenciar el rendimiento y mejorar la escalabilidad:

El sistema de GPU a nivel de rack NVIDIA GB300 NVL72
- Un rack con bandejas de cálculo de 1U, 72 GPU con NVLINK y NVSwitches no escalables (el dominio NVLink se limita a un único rack; no hay escalabilidad de NVLink entre racks).
- La solución de refrigeración es un sistema híbrido de componentes refrigerados por líquido y por aire.
- Estantes de alimentación de 6 u 8. La cantidad depende de la configuración del rack y de los requisitos de redundancia de alimentación.

La bandeja de cálculo de 1U aprovecha la arquitectura NVIDIA GB300 NVL72:
- Dos procesadores NVIDIA Grace.
- Cuatro GPU NVIDIA Blackwell SXM7.
- Interconexiones NVLink de alta velocidad entre las GPU.

Cada bandeja de cálculo cuenta con hasta 3 ranuras PCIe Gen 5 x16 para redes de alta velocidad, dependiendo de la configuración.
Cada bandeja de cálculo admite además hasta 8 bahías para unidades E1.S de 3,84 T, dependiendo de la configuración, para almacenamiento interno, y 1 SSD M.2 NVMe de 1,92 T para el arranque del sistema operativo.
Todas las unidades son unidades E1.S NVMe con interfaz de host PCIe Gen 5 x4, para maximizar el rendimiento de E/S en términos de rendimiento, ancho de banda y latencia.
La bandeja de cálculo incluye un puerto Ethernet de 1 Gb integrado para la depuración de redes. Una tarjeta BMC para la gestión del sistema (el puerto «Out Of Band» admite la comunicación de gestión de la BMC). Se puede añadir conectividad de red de alta velocidad con el host a través de las ranuras PCIe incluidas.
La bandeja de cálculo ofrece capacidades de expansión de E/S mediante PCI Express 5.0 (PCIe Gen 5). Una ranura PCIe Gen 5 x16 proporciona un ancho de banda de 128 GB/s, suficiente para admitir 800 GbE a través de conexiones de red OSFP (1 adaptador NVIDIA BlueField-3 de 1 puerto). Se admiten 400/200 GbE mediante cables DAC/AOC de derivación. Dos conexiones Gen 5 x16 (32 carriles en total) proporcionan el ancho de banda necesario para una conexión de 800 GbE utilizando el adaptador de red ConnectX-8 8180 (2 adaptadores ConnectX-8 de 2 puertos).
La bandeja de conmutación NVLink™ de 1U aprovecha la arquitectura NVIDIA GB300 NVL72:
- Una base de bandeja de conmutación GB300 NVL72 NS (no escalable).
- Una solución de bandeja de alimentación redundante GB200 NVL72.

El conmutador de gestión NVIDIA SN2201 se basa en la arquitectura NVIDIA GB300 NVL72:
- Un conmutador NVIDIA SN2201 de 48 puertos CC.
- Una solución de bastidor de alimentación redundante GB200 NVL72.

Eficiencia energética

La solución de refrigeración directa por agua ofrece las siguientes características de eficiencia energética para ahorrar energía, reducir los costes operativos, aumentar la disponibilidad energética y contribuir a un medio ambiente más sostenible:
La refrigeración por agua elimina el consumo eléctrico de los ventiladores de refrigeración del armario y reduce drásticamente el flujo de aire necesario en la sala de servidores, lo que también supone un ahorro energético en el centro de datos gracias a la menor necesidad de aire acondicionado.
Es posible que no se necesiten enfriadores de agua con una solución de refrigeración directa por agua. Los enfriadores suponen un gasto importante en la mayoría de las zonas geográficas y pueden reducirse o incluso eliminarse, ya que ahora la temperatura del agua puede oscilar entre 10 °C y 35 °C en un entorno refrigerado por aire.
La energía térmica absorbida puede reutilizarse para calentar edificios en invierno o para generar frío mediante enfriadores de adsorción, lo que permite un mayor ahorro en los gastos de funcionamiento.
Los procesadores y otros componentes microelectrónicos funcionan a temperaturas más bajas porque se refrigeran por agua, lo que consume menos energía y permite un mayor rendimiento.
La solución de alimentación consta de módulos de alimentación de 50 V que suministran energía a la barra colectora y cumplen con las especificaciones estándar de los racks MGX v1.1.

Facilidad de gestión y seguridad

Las siguientes potentes funciones de gestión del sistema simplifican la gestión local y remota del sistema NVIDIA GB300 NVL72:

Compatibilidad con los protocolos de gestión estándar del sector: IPMI 2.0, API REST de Redfish y consola serie a través de IPMI.
La NVIDIA GB300 NVL72 está equipada con la pila de software HPC y IA de Lenovo, por lo que permite dar soporte a múltiples usuarios y escalar dentro de un único entorno de clúster.
La pila de software de HPC e IA de Lenovo ofrece a nuestros clientes de HPC una pila de software de código abierto totalmente probada y con soporte técnico, que permite a sus administradores y usuarios aprovechar de la forma más eficaz y sostenible desde el punto de vista medioambiental las capacidades de supercomputación de Lenovo.
Nuestro sistema de gestión Confluent ofrece una interfaz diseñada para proteger a los usuarios de la complejidad de la orquestación de clústeres de HPC y la gestión de cargas de trabajo de IA, lo que hace que el software de HPC de código abierto sea accesible para todos los clientes.
La compatibilidad integrada con el Módulo de Plataforma de Confianza (TPM) 2.0 permite funciones criptográficas avanzadas, como las firmas digitales y la certificación remota.
Es compatible con el arranque seguro (Secure Boot) para garantizar que solo se pueda utilizar un sistema operativo con firma digital.
Compatibilidad con el estándar de cifrado avanzado (AES) de NI, un estándar del sector, para un cifrado más rápido y seguro.
Para la gestión: chip de gestión de servidores BMC (ASPEED AST2600) y HMC.
Las plataformas de alimentación están situadas en la parte superior e inferior del armario (33 kW cada una).
El controlador de gestión de placa base (BMC) de las bandejas de procesamiento se utiliza junto con el controlador del módulo host (HMC) para proporcionar gestión fuera de banda.

Disponibilidad y facilidad de mantenimiento

La bandeja de computación GB300 y la bandeja de conmutadores GB300 NVL ofrecen las siguientes características para simplificar el mantenimiento y aumentar el tiempo de actividad del sistema:

Diseñado para funcionar las 24 horas del día, los 7 días de la semana.
En los sistemas de refrigeración híbridos, de agua y de aire, se necesitan algunos ventiladores.
Estantes de alimentación que minimizan el tiempo de inactividad, ya que la corriente se distribuye entre varios estantes.
La retirada de las cubiertas de los nodos sin necesidad de herramientas facilita el acceso a las actualizaciones y a las piezas que se pueden sustituir, como los adaptadores y las unidades.
El sistema permite la actualización del firmware sin interrupciones para cualquier dispositivo programable.
Las FRU (unidades sustituibles in situ) que admite el diseño. Las FRU son piezas que pueden sustituirse in situ.
Cualquier conector de cableado que se desee que incluya un cierre de seguridad y un diseño a prueba de errores para evitar que los usuarios lo conecten al revés.
El puerto de la consola de depuración externa está destinado a proporcionar acceso por terminal a cada uno de los componentes principales (CPU/SO, BMC) con fines de depuración y diagnóstico.
Se ofrece una garantía limitada de tres años para unidades sustituibles por el cliente y asistencia in situ, con cobertura de 9x5 al siguiente día laborable. Hay disponibles ampliaciones y extensiones de garantía opcionales.

El sistema Lenovo NVIDIA GB300 NVL72 integra 36 CPUs Grace y 72 GPUs Blackwell en un diseño de rack con refrigeración líquida, optimizado para máxima densidad y eficiencia.

Su dominio NVLink de 72 GPUs funciona como una única GPU, permitiendo ejecutar inferencia LLM de billones de parámetros en tiempo real.

Cada superchip conecta 2 GPUs Blackwell y 1 CPU Grace mediante NVLink-C2C.

El superchip NVIDIA GB300 ofrece hasta 50 veces más rendimiento en inferencia LLM frente a generaciones anteriores, proporcionando potencia excepcional para aplicaciones de IA a gran escala.