La plataforma NVIDIA HGX B300 representa un avance significativo en nuestra infraestructura informática. Cabe destacar que la última variante, denominada NVIDIA HGX B300 NVL16, indica la cantidad de chips de cómputo interconectados mediante NVLink, en lugar de reflejar simplemente la cantidad de paquetes de GPU. Este cambio de nomenclatura subraya la evolución del enfoque de NVIDIA hacia el rendimiento de la interconexión y la escalabilidad modular.
Especificaciones
La siguiente tabla describe las especificaciones clave para el HGX B300 NVL16 y las variantes anteriores del HGX B200:
| Especificaciones | HGX B300 NVL16 | HGX B200 |
| Factor de forma | 16 GPU NVIDIA Blackwell Ultra | 8 GPU NVIDIA Blackwell |
| Núcleo tensor FP4** | 144 PFLOPS (con escasez) 144 PFLOPS (sin escasez) | 105 PFLOPS (con escasez) 72 PFLOPS (sin escasez) |
| Núcleo tensorial FP8/FP6* | 72 PFLOPS | 72 PFLOPS |
| Núcleo tensor INT8* | 2 POPS | 72 POPS |
| Núcleo tensor FP16/BF16* | 36 PFLOPS | 36 PFLOPS |
| Núcleo tensor TF32* | 18 PFLOPS | 18 PFLOPS |
| Rendimiento FP32 | 600 TFLOPS | 600 TFLOPS |
| Núcleo tensorial FP64/FP64 | 10 TFLOPS | 296 TFLOPS |
| La memoria total | Hasta 2.3 TB | 1.4 TB |
| Generación NVLink | Quinta generación | Quinta generación |
| Conmutador NVIDIA NVSwitch™ | Conmutador NVLink 5 | Conmutador NVLink 5 |
| Ancho de banda de GPU a GPU de NVSwitch | 1.8 TB / s | 1.8 TB / s |
| Ancho de banda total de NVLink | 14.4 TB / s | 14.4 TB / s |
| Ancho de banda de la red | 1.6 TB / s | 0.8 TB / s |
| Atención Rendimiento | 2 × | 1 × |
* Con escasez
** Con escasez | sin escasez
NVIDIA está experimentando una importante transformación de su plataforma HGX B300.
En primer lugar, el cambio es relativamente sencillo: la plataforma ahora se llama NVIDIA HGX B300 NVL16. NVIDIA adoptó este nombre porque ahora prioriza la cantidad de chips informáticos conectados mediante NVLink, en lugar de la cantidad de paquetes de GPU presentes.
Antes del HGX B200, la situación seguía prácticamente igual. Sin embargo, con la llegada del NVIDIA HGX B300 NVL16, el panorama está cambiando. Esta plataforma ofrece hasta 2.3 TB de memoria HBM3e. Como se muestra en la imagen superior, cuenta con 16 módulos de GPU con doble encapsulado Blackwell. El año pasado, NVIDIA actualizó los chips de conmutación NVLink con el diseño del HGX B200, donde dos chips de conmutación NVLink se ubican entre ocho encapsulados de GPU. Esta configuración es similar a la que se muestra para el HGX B300 y sus componentes.
En la imagen a continuación, se puede ver que la placa base UBB está equipada con ocho grandes disipadores refrigerados por aire, cada uno de los cuales refrigera dos GPU Blackwell, con la sección de conmutación NVLink situada entre ellos. La altura del módulo es de aproximadamente 5U, como lo indica el módulo HGX B300 de ASUS, presentado posteriormente.
Al final del UBB, observe un conector tipo OCP UBB cubierto por una tapa naranja. Los conectores de alta densidad (conectores ExaMax) utilizados en la especificación OCP UBB por AMD, NVIDIA y otros fabricantes son muy frágiles, por lo que es fundamental cubrirlos cuando no se utilizan.
Entre estos conectores con cubierta naranja y los disipadores de la GPU, se pueden observar disipadores más pequeños. Estos ya no están dedicados a chips retemporizadores PCIe, sino que ahora sirven para tarjetas de interfaz de red (NIC) NVIDIA ConnectX-8.
Los conectores de alta velocidad y alimentación UBB 2.0 se conectan a la HIB (placa de interfaz de computación de alto rendimiento). Los conectores NIC se encuentran entre los conectores UBB y las ocho tarjetas de interfaz NVIDIA ConnectX-8 montadas en la UBB. Una vista similar de la HGX H200 muestra que estos ocho conectores superiores no están presentes.
NVIDIA aprovecha el conmutador PCIe integrado del ConnectX-8 para ofrecer funciones que antes requerían chips adicionales. Aunque esto pueda parecer insignificante, representa un cambio significativo en la industria. En la conferencia NVIDIA GTC 2025, ASUS presentó el ASUS AI Pod NVIDIA GB300 NVL72 y el ASUS XA NB3I-E12 (un módulo de 10U de altura), donde la bandeja UBB extraíble en la parte inferior del sistema muestra claramente ocho puertos de conectividad de red.
También se destacan las especificaciones de la placa base UBB 1.X y los conectores de interfaz, estando la ASUS XA NB3I-E12 equipada con la NVIDIA HGX B300 NVL16.
Distintos proveedores han diseñado sus bandejas de diversas maneras. Normalmente, las interfaces que se conectan al panel frontal del chasis externo se ubican en el lado opuesto a las tarjetas de red ConnectX-8, lo que requiere cableado para cubrir esta brecha. Otros proveedores están explorando soluciones para abordar este cambio.