NVIDIA HGX B300 プラットフォームは、コンピューティング インフラストラクチャにおける大きな進歩を象徴しています。特に注目すべきは、最新のバリアントである NVIDIA HGX B300 NVL16 では、GPU パッケージの数だけでなく、NVLink を介して相互接続されたコンピューティング チップの数も表していることです。この命名法の変更は、相互接続性能とモジュール式のスケーラビリティに対する NVIDIA の進化するアプローチを強調しています。
技術仕様
次の表は、HGX B300 NVL16 と以前の HGX B200 バリアントの主な仕様の概要を示しています。
| 製品仕様 | HGX B300 NVL16 | HGX B200 |
| フォームファクター | 16 × NVIDIA Blackwell Ultra GPU | NVIDIA Blackwell GPU × 8基 |
| FP4テンソルコア** | 144 PFLOPS（スパース性あり） 144 PFLOPS（スパース性なし） | 105 PFLOPS（スパース性あり） 72 PFLOPS（スパース性なし） |
| FP8/FP6 テンソルコア* | 72PFLOPS | 72PFLOPS |
| INT8テンソルコア* | 2 ポップ | 72 ポップ |
| FP16/BF16 テンソルコア* | 36PFLOPS | 36PFLOPS |
| TF32 テンソル コア* | 18PFLOPS | 18PFLOPS |
| FP32のパフォーマンス | 600 TFLOPS | 600 TFLOPS |
| FP64/FP64 テンソルコア | 10 TFLOPS | 296 TFLOPS |
| 合計メモリ | 最大2.3 TB | 1.4 TB |
| NVLink生成 | 第5世代 | 第5世代 |
| NVIDIA NVSwitch™ | NVLink 5 スイッチ | NVLink 5 スイッチ |
| NVSwitch GPU間帯域幅 | 1.8 TB /秒 | 1.8 TB /秒 |
| NVLinkの総帯域幅 | 14.4 TB /秒 | 14.4 TB /秒 |
| ネットワーク帯域幅 | 1.6 TB /秒 | 0.8 TB /秒 |
| 注意パフォーマンス | 2× | 1× |
* スパース性あり
** スパースあり | スパースなし
NVIDIA は、HGX B300 プラットフォームの大幅な変革を進めています。
まず、変更は比較的分かりやすいものです。プラットフォームの名称は「NVIDIA HGX B300 NVL16」に変更されました。NVIDIAがこの名称を採用したのは、搭載されているGPUパッケージの数ではなく、NVLink経由で接続されるコンピューティングチップの数を強調するためです。
HGX B200以前は、状況はほぼ変わっていませんでした。しかし、NVIDIA HGX B300 NVL16の登場により、状況は一変しました。このプラットフォームは最大2.3TBのHBM3eメモリを搭載します。上の画像に示すように、16個のデュアルBlackwell GPUパッケージモジュールを搭載しています。昨年、NVIDIAはNVLinkスイッチチップをHGX B200設計にアップグレードしました。この設計では、300個のGPUパッケージ間にXNUMX個のNVLinkスイッチチップが配置されています。この構成は、HGX BXNUMXとそのコンポーネントに表示されているものと似ています。
下の画像では、UBBマザーボードに5つの大型空冷ヒートシンクが搭載されており、それぞれが300つのBlackwell GPUを冷却し、その間にNVLinkスイッチセクションが配置されていることがわかります。モジュールの高さは約XNUMXUで、これは後ほど紹介するASUSのHGX BXNUMXモジュールの高さからもわかります。
UBBの端には、オレンジ色のキャップで覆われたOCP UBBスタイルのコネクタがあります。AMD、NVIDIA、その他のメーカーがOCP UBB仕様で使用している高密度コネクタ（ExaMaxコネクタ）は非常に壊れやすいため、使用していないときは必ずカバーをしてください。
オレンジ色のカバーで覆われたコネクタとGPUヒートシンクの間に、小型のヒートシンクが見えます。これらはPCIeリタイマーチップ専用ではなく、NVIDIA ConnectX-8ネットワークインターフェースカード（NIC）用のヒートシンクになっています。
UBB 2.0の高速コネクタと電源コネクタは、HIB（High-Performance Computing Interface Board）に接続されます。NICコネクタは、UBBコネクタとUBBに搭載された8つのNVIDIA ConnectX-200 NICの間にあります。HGX HXNUMXの同様の図を見ると、これらのXNUMXつの上向きコネクタがないことがわかります。
NVIDIAはConnectX-8に内蔵されたPCIeスイッチを活用することで、これまでは追加チップを必要としていた機能を提供しています。これは些細なことのように思えるかもしれませんが、業界にとって大きな変化を表しています。2025年のNVIDIA GTCカンファレンスにおいて、ASUSはASUS AI Pod NVIDIA GB300 NVL72とASUS XA NB3I-E12（高さ10Uのモジュール）を発表しました。システム下部の取り外し可能なUBBトレイには、XNUMXつのネットワーク接続ポートがはっきりと確認できます。
UBB 1.X マザーボードの仕様とインターフェース コネクタも強調されており、ASUS XA NB3I-E12 には NVIDIA HGX B300 NVL16 が搭載されています。
各ベンダーのトレイ設計は様々です。通常、外部シャーシのフロントパネルに接続するインターフェースはConnectX-8 NICの反対側に配置されているため、この隙間を埋めるためのケーブル配線が必要になります。他のベンダーは、この変更に対処するためのソリューションを模索しています。