مقدمة عن NVIDIA DGX H100

يعد نظام NVIDIA DGX H100 نظامًا عالميًا مصممًا للبنية التحتية للذكاء الاصطناعي وأحمال العمل. فيما يلي ملخص لميزات الأجهزة والمكونات الرئيسية للنظام:

تعد وحدة GPU Board منطقة تجميع المكونات الرئيسية لخادم الذكاء الاصطناعي بأكمله. الجزء الأساسي هو GPU Board Tray، والذي يحتوي بشكل أساسي على مكونات GPU، ولوحات الوحدات، ومفاتيح NVSwitches.

يعد درج اللوحة الأم لوحدة المعالجة المركزية هو المكون الأساسي للخادم (بما في ذلك الخوادم العادية وخوادم الذكاء الاصطناعي)، والذي يحتوي على اللوحة الأم لوحدة المعالجة المركزية وذاكرة النظام وبطاقة الشبكة ومفتاح PCIE والمكونات الأخرى.

• معالج الرسومات: 8 وحدات معالجة رسوميات NVIDIA H100، توفر ذاكرة GPU سعة 640 جيجابايت.
• المعالج المركزي: وحدتا معالجة مركزية Intel Xeon 2C PCIe Gen8480، تحتوي كل منهما على 5 مركزًا، وتتراوح سرعة الساعة من 56 جيجا هرتز إلى 2.0 جيجا هرتز.

• NVLink: 4 روابط NVLink من الجيل الرابع، توفر 900 جيجابايت/ثانية من عرض النطاق الترددي لوحدة معالجة الرسومات إلى وحدة معالجة الرسومات.
• التخزين:

تخزين نظام التشغيل: 2 SSD بسعة 1.92 تيرابايت NVMe M.2 (صفيف RAID 1).

تخزين ذاكرة التخزين المؤقت للبيانات: 8 وحدات NVMe U.3.84 SED بسعة 2 تيرابايت (صفيف RAID 0).

• شبكة:

الشبكة العنقودية: 4 منافذ OSFP، يدعم InfiniBand (حتى 400 جيجابت في الثانية) وEthernet (حتى 400 جيجابت في الثانية).

شبكة التخزين: بطاقتا Ethernet مزدوجتا المنفذ NVIDIA ConnectX-2، تدعمان Ethernet (حتى 7 جيجابت في الثانية) وInfiniBand (حتى 400 جيجابت في الثانية).

• ذاكرة النظام: توفر كل 32 وحدة DIMM سعة 2 تيرابايت من الذاكرة.
• إدارة النظام خارج النطاق (BMC): يدعم واجهة مستخدم Redfish وIPMI وSNMP وKVM والويب.
• إدارة النظام داخل النطاق: 3 واجهات مزدوجة المنافذ بسرعة 100 جيجابت و10 جيجابت RJ45. المواصفات الميكانيكية والطاقة:

• الأبعاد: مثبت على حامل 8U، الارتفاع 14 بوصة، الحد الأقصى للعرض 19 بوصة، الحد الأقصى للعمق 35.3 بوصة.
• الوزن: الحد الأقصى 287.6 رطلاً (130.45 كجم).
• جهد الإدخال: 200-240 فولت تيار متردد.
• المواصفات لكل مصدر طاقة: الحد الأقصى 10.2 كيلووات، 3300 وات @ 200-240 فولت، 16 أمبير، 50-60 هرتز.
• يدعم اتصالات الشبكة عالية السرعة، بما في ذلك InfiniBand وEthernet، بسرعات تصل إلى 400 جيجابت في الثانية.