كيف تستخدم NVIDIA GB200 800G/1.6T DAC/ACC

أصدرت NVIDIA أحدث أنظمة الحوسبة من سلسلة GB200، مع أداء محسّن بشكل ملحوظ. تستخدم هذه الأنظمة كلاً من الوصلات النحاسية والبصرية، مما يؤدي إلى الكثير من النقاش في السوق حول تطور التقنيات "النحاسية" و"البصرية".

الوضع الراهن: سلسلة GB200 (بما في ذلك GH200 السابقة) هي نظام "الرقاقة الفائقة" من NVIDIA. بالمقارنة مع الخوادم التقليدية، يتمتع النظام بتفاصيل أكبر، مع 36 أو 72 وحدة معالجة رسومات متصلة بشكل أساسي باستخدام الإشارات الكهربائية داخل الخزانة. خارجيًا، يستخدمون شبكات NVLink وInfiniBand.

إن الاختيار بين النحاس والبصريات هو في الأساس تجارةoff بين المسافة والسرعة.

هل يقلل GB200 من أهمية الاتصال البصري؟

استنادًا إلى GH200، يكون السيناريو المستهدف لنظام GB200 NVL72 أكثر توجهاً نحو المجموعات الكبيرة والسحابات والعملاء من نوع النظام الأساسي - ما تعرفه NVIDIA باسم "AI Cloud/AI Factory". والشكل المتوقع هو كتلة متعددة الخزانات، حيث تكون الشبكات المشتركة بين الخزانات 800غ أو أكثر من ذلك من شأنه أن يؤدي إلى خسائر كهربائية هائلة، مما يجعل الاتصال البصري ضرورة.

ومع ذلك، بالنسبة للعملاء الصغار ومتوسطي الحجم الذين قد يعتمدون نظام GB200 واحد فقط، فإن الجدوى مشكوك فيها، وقد تكون الخوادم التقليدية أو الحلول المستندة إلى السحابة خيارات أفضل (أيضًا جزء من استراتيجية التمايز الخاصة بـ NVIDIA).

الهدف من تصميم GB200 هو: يمكن لخزانة واحدة التعامل مع استدلال الذكاء الاصطناعي، وهو أمر مفيد لنشر المحاكاة الافتراضية السحابية.

الحد الأدنى من وحدة نظام GB200 عبارة عن خزانة، وقد تم تحسين أداء الاستدلال بشكل كبير، والذي يمكنه التعامل بشكل أفضل مع المعلمات الضخمة، والرموز المتقاطعة، والرموز الضخمة، وسيناريوهات الاستدلال المتعددة المتزامنة، وتجنب الأنظمة الموزعة ذات وحدة معالجة الرسومات المفردة واسعة النطاق . في سيناريو IDC السحابي، يمكنه التعامل بشكل أفضل مع الطلب المستقبلي الهائل للاستدلال (بالإشارة إلى تقييمات AWS وMSFT).

يرجع فهم السوق للزيادة في التوصيلات النحاسية إلى ما يلي:

في السابق، لم تكن مجموعات سلسلة H100 تحتوي على وصلات بينية داخل الخزانة، بل كانت تحتوي على خزانة شبكة منفصلة، ​​وكان معدل الرقائق مرتفعًا نسبيًا، لذلك لم يكن هناك أي سلك نحاسي قصير المسافة تقريبًا.

بينما بالنسبة لسلسلة GB200، على الرغم من وجود العديد من الأسلاك النحاسية داخل الخزانة، فإن الطلب على التوصيلات البينية الضوئية في مجموعات كبيرة، مثل مجال NVLink وتوسيع الترابط البصري لـ IB، كبير جدًا، والمسار المستقبلي لضوئيات السيليكون و لقد أصبح الإدخال/الإخراج البصري من شريحة إلى شريحة واضحًا جدًا بالفعل.

س: كيف اختلف إطلاق منتج NVIDIA في مؤتمر GTC عن التوقعات؟

ج: في مؤتمر GTC هذا، أصبح GB200 هو المنتج الرئيسي، بينما لم يتم إطلاق منتجات B100 وB200 المتوقعة في الأصل كما كان متوقعًا. تحتوي شريحة GB200 على وحدتي معالجة رسوميات ووحدة معالجة مركزية واحدة، والمنتج الرئيسي المعروض عبارة عن خزانة واحدة مكونة من 2 شريحة GB1 لاستخدام الخادم. بالمقارنة مع GB36 الذي تم إصداره العام الماضي، فإن GB200 لم يعرض منتج مجموعة قياسي، ولكن فقط منتج خزانة واحد مكون من 200 بطاقة.

س: ما هو دور بنية IP في سلسلة GB200؟

ج: بالنسبة لبعض العملاء الكبار الذين يحتاجون إلى اتصالات عبر الخزانات، يتم استخدام بنية IP للاتصالات الخارجية. ومع ذلك، فإن الفرق بين GB200 وGB200 يكمن في الاتصالات الداخلية. يستخدم GB200 التوصيلات الكهربائية ذات الارتباط m (أي الوصلات النحاسية بين وحدة معالجة الرسومات والمحول)، بدلاً من طريقة الاتصال بلوحة الكترونية معززة في العام الماضي. وشدد هوانغ بشكل خاص على مزايا الوصلات النحاسية في خفض التكلفة وإظهار الأداء في المؤتمر.

س: في مؤتمر GTC، قدم جنسن هوانغ شرحًا خاصًا لحل التوصيل البيني النحاسي، ما هي مميزاته؟

ج: هذه هي المرة الأولى التي يتم فيها شرح حل التوصيل البيني النحاسي على وجه التحديد في مثل هذا المؤتمر المهم، وهو أيضًا نقطة تثير قلقًا كبيرًا للجميع. يتم توصيل وحدات معالجة الرسومات من خلال الرابط mlink، مما يؤكد استخدام الوصلات النحاسية، وقد يكون حل منتجها مشابهًا لطريقة الاتصال بلوحة الكترونية معززة العام الماضي. وشدد هوانغ على مزايا الوصلات النحاسية في خفض التكلفة وإظهار الأداء.

س: ما هو تأثير إطلاق سلسلة GB200 على السوق؟

ج: نظرًا لأن الجيل الجديد من شرائح GPU على مستوى الخادم من NVIDIA، فإن تحسينات الأداء والكفاءة لسلسلة GB200 سيكون لها تأثير كبير على السوق. على وجه الخصوص، قد يؤدي اعتمادها لحل التوصيل البيني النحاسي إلى تغيير طريقة الاتصال الداخلي لمجموعات وحدة معالجة الرسومات، مما يقلل التكاليف ويحسن الأداء. علاوة على ذلك، قد يغير GB200 تصميم ونشر مراكز البيانات، مما يؤدي إلى زيادة تطوير الذكاء الاصطناعي والحوسبة السحابية.

س: ما هي مزايا التوصيل النحاسي GB200؟

ج: أبرز مميزات إطلاق GB200: تحتوي شريحة GB200 الفردية على وحدتي معالجة رسوميات ووحدة معالجة مركزية واحدة، والمنتج الرئيسي الذي تم إطلاقه هو منتج خزانة واحدة يتكون من 2 شريحة GB1. وهذا يدل على أن NVIDIA تركز على التوصيلات الكهربائية (mlink) بدلاً من تقنية التوصيل البيني البصري. الترويج والتوقعات في السوق: سيتم تطبيق GB36 على نطاق واسع، على عكس GH200 الذي لم يتم اعتماده على نطاق واسع. وفقًا لخطاب هوانغ في المؤتمر، يشير العديد من العملاء الرئيسيين المحتملين إلى أن GB200 لديه توقعات كبيرة الحجم. يعتقد السوق عمومًا أن الترويج لـ GB200 قد يؤدي إلى زيادة تدريجية في نسبة الوحدات الضوئية إلى وحدات معالجة الرسومات من 200:200 إلى 1:2.5، وقد يكون لحجم مبيعات GB1 في العام المقبل إمكانات نمو كبيرة.

س: ما هو اتجاه الصناعة للموصلات لوحة الكترونية معززة؟

ج: يتزايد استخدام موصلات اللوحة الإلكترونية المعززة تدريجيًا في خوادم الذكاء الاصطناعي والمحولات الكبيرة وأجهزة التوجيه. تتطور التكنولوجيا أيضًا نحو أوضاع لوحة الكترونية معززة صفرية متعامدة ولوحة الكترونية معززة للكابل. تتمتع كابلات اللوحة الإلكترونية المعززة بمزايا مسافة الإرسال الأطول والأسلاك الأكثر مرونة ولكنها أعلى نسبيًا في التكلفة.

س: ما هي اتجاهات الطلب والأسعار للموصلات المعززة؟

ج: يؤدي الطلب المتزايد على خوادم الذكاء الاصطناعي إلى زيادة الطلب على موصلات اللوحة الإلكترونية المعززة. كما أدى التحول إلى وضع لوحة الكترونية معززة للكابل إلى زيادة القيمة، حيث تمثل القيمة الإجمالية 3-5% من تكلفة الخادم الواحد. لذلك، تظهر الصناعة اتجاهًا لنمو الحجم والأسعار.

س: كيف يؤثر إطلاق GB200 على صناعة الوحدات البصرية؟

ج: يعد إطلاق GB200 أمرًا إيجابيًا بالنسبة لصناعة الوحدات الضوئية، لأنه يلبي الطلب على الاتصالات عبر الخزانات، والتي توجد لدى معظم العملاء. يحتوي GB200 الحالي على عرض نطاق ترددي ثنائي الاتجاه يبلغ 1800 جيجا، واستنادًا إلى نسبة تكوين 1.6T، تبلغ النسبة إلى الوحدات الضوئية حوالي 1:9. في حالة استخدام محلول 800 جرام، يمكن أن تصل النسبة إلى 1:18. فرق القيمة ليس كبيرا، ولكن منذ ذلك الحين الوحدات الضوئية 1.6T OSFP-XD ومن المتوقع أن يتم إنتاجها بكميات كبيرة في الربع الرابع، فإن العملاء يميلون أكثر لاستخدام حل 4T الأكثر فعالية من حيث التكلفة. ولذلك، سيتم ترقية الوحدات البصرية، مما يدفع الاتجاه من 1.6:1 الحالي إلى 2.5:1.

س: ما هي الاختلافات الرئيسية بين GB200 وGH200؟

ج: يتمثل الاختلاف الرئيسي في أن سلسلة GH ليست منتجًا بكميات كبيرة، بينما لدى GB200 مجموعة واسعة من العملاء المحتملين، بما في ذلك Google وMeta وOpenAI وMicrosoft وOracle وTesla. وهذا يعني أن GB200 سيشهد تطبيقًا واسع النطاق واعتمادًا كبيرًا.

س: ما هي توقعات السوق للطلب على الوحدة الضوئية 1.6T OSFP-XD في العام المقبل؟

ج: تتراوح توقعات السوق للطلب على الوحدة الضوئية 1.6T OSFP-XD في العام المقبل بين 2-3 مليون وحدة، ويتوقع نموذجنا 2.5 مليون. هذا لا يأخذ في الاعتبار بعد الطلب المتزايد من سلسلة B100 أو B200 المستقلة.

س: ما هو نوع حل الربط البيني الذي اعتمدته GB200؟

ج: يعتمد GB200 حل التوصيل البيني النحاسي، مما يقلل التكاليف. خاصة مع اعتماد GB200 بكميات كبيرة، سيصبح هذا عاملاً مهمًا يؤدي إلى زيادة الطلب على الوحدات الضوئية.

س: ما هو الاتجاه الصناعي الذي عكسه عرض هوانغ في المؤتمر؟

ج: يمكن النظر إلى العرض الذي قدمه في المؤتمر على أنه انعكاس لاتجاه الصناعة، وليس مجرد موضوع ساخن على المدى القصير. بمرور الوقت، ستراقب الصناعة أداء الشركات ذات الصلة. كان السوق قد شهد سابقًا مناقشات حول حلول التوصيل البيني النحاسي مقابل حلول التوصيل البيني البصري، ولكن تم التأكيد الآن على أن GB200 اعتمد حل التوصيل البيني النحاسي.

س: ما هي أهداف الاستثمار الأساسية في صناعة الوحدات البصرية؟

ج: مع اعتماد GB200 بكميات كبيرة والطلب المتزايد على الوحدات الضوئية 1.6T OSFP-XD، ستحظى FiberMall بمزيد من الاهتمام.

س: ما هو احتمال السوق لحل التوصيل البيني النحاسي؟

ج: إن موقف السوق تجاه حل التوصيل البيني النحاسي آخذ في التغير. تشير حقيقة اعتماد GB200 لحل التوصيل البيني النحاسي إلى أن هذا الحل قد يشهد تطبيقًا أوسع في المستقبل. ومع تقديم أداء الشركات ذات الصلة، فإن آفاق السوق الخاصة بحل التوصيل البيني النحاسي تستحق التطلع إليها.

س: ما هي الاختلافات الرئيسية في التصميم والتطبيق بين GB200 وGH200؟

ج: يدمج تصميم GB200 المحول والخادم ووحدة معالجة الرسومات في نفس الخزانة، باستخدام طريقة اتصال تشبه الخادم النصلي. تكون واجهات الإدخال/الإخراج الخاصة بالمحول مرئية في المقدمة، في حين أن الاتصال بين المحول ووحدة معالجة الرسومات يكون على الأرجح من خلال كابل لوحة الكترونية معززة نحاسية. بالمقارنة، يستخدم GH200 تصميم اتصال منفصل مع DAC (كابل التوصيل المباشر).

س: ما هو الدور الذي يلعبه كابل اللوحة الإلكترونية النحاسية في تصميم GB200؟

ج: يلعب كابل اللوحة الإلكترونية النحاسية دورًا حاسمًا في تصميم GB200، حيث يقوم بتوصيل موصلات اللوحة الإلكترونية المعززة ويدعم الاتصال البيني بين المحول ولوحات وحدة معالجة الرسومات. هذا التصميم يجعل نقل الإشارة بين الخادم والمحول أكثر ملاءمة.

س: ما هي مجالات التطبيق الرئيسية للموصلات لوحة الكترونية معززة؟

ج: تُستخدم موصلات اللوحة الإلكترونية المعززة بشكل أساسي في المحولات الكبيرة وأجهزة التوجيه وخوادم الذكاء الاصطناعي. خاصة في الخوادم ذات التصميم المعياري والمحولات/أجهزة التوجيه الكبيرة، ستكون بنية اللوحة الفرعية واللوحة الإلكترونية المعززة أكثر شيوعًا.

س: ما هو اتجاه تطوير الصناعة للموصلات لوحة الكترونية معززة؟

ج: مع التقدم في تصميم الخادم والمحول، من المتوقع أن يستمر الطلب على موصلات اللوحة الإلكترونية المعززة في النمو. خاصة في مجالات المحولات الكبيرة وأجهزة التوجيه وخوادم الذكاء الاصطناعي، فإن آفاق تطبيق هذه الموصلات واسعة.

س: ما هو المشهد التنافسي على جانب العرض؟

ج: إن المشهد التنافسي على جانب العرض الخاص بموصل اللوحة الإلكترونية المعززة مستقر نسبيًا. توفر شركة FiberMall، بفضل خبرتها الإنتاجية الغنية وإمكاناتها القوية في إدارة سلسلة التوريد، للسوق منتجات موصلات لوحة الكترونية معززة مستقرة وعالية الجودة.

س: كيف يؤثر تصميم GB200 على الطلب على موصلات لوحة الكترونية معززة؟

ج: أدى تصميم GB200 إلى زيادة الطلب على خوادم الذكاء الاصطناعي والمحولات/أجهزة التوجيه الكبيرة، مما أدى بدوره إلى زيادة الطلب على موصلات لوحة الكترونية معززة. في نموذج التصميم هذا للخوادم والمحولات، سيشهد الطلب على موصلات اللوحة الإلكترونية المعززة زيادة كبيرة.

س: كيف تتطور موصلات اللوحة الإلكترونية المعززة في مسار تطوير التكنولوجيا الخاص بها؟

ج: تتطور موصلات اللوحة الإلكترونية المعززة في اتجاهين: أحدهما عبارة عن لوحة معززة صفرية متعامدة، والآخر عبارة عن لوحة الكترونية معززة للكابل. يعتمد GB200 وضع لوحة الكترونية معززة للكابل، والذي تشمل مزاياه تبديد أفضل للحرارة، وفقدان أقل للإرسال، ومسافة نقل أطول، وأسلاك أكثر مرونة. ولكن الجانب السلبي هو ارتفاع التكلفة.

س: ما هو منطق جانب الطلب للموصلات المعززة؟

ج: إن الطلب على موصلات اللوحة الإلكترونية المعززة مدفوع بشكل أساسي من خلال خوادم الذكاء الاصطناعي، كما أن وضع اللوحة الإلكترونية المعززة للكابل له قيمة أعلى بكثير من وضع لوحة إلكترونية إلكترونية معززة تقليدية. حاليًا، تمثل قيمة موصلات لوحة الكترونية معززة حوالي 3-5% من تكلفة خادم واحد.

س: ما هو احتمال السوق المستقبلي للموصلات لوحة الكترونية معززة؟

ج: مع التطور السريع للتقنيات مثل الذكاء الاصطناعي والبيانات الضخمة، سيستمر نمو طلب السوق على الموصلات ذات اللوحة الإلكترونية المعززة. في المستقبل، سيواجه سوق موصل اللوحة الإلكترونية المعززة المزيد من الفرص والتحديات، وتحتاج الشركات المحلية والأجنبية إلى تعزيز البحث والتطوير التكنولوجي وابتكار المنتجات بشكل مستمر لتلبية طلب السوق والحفاظ على ميزة تنافسية.

س: هل سيصبح وضع لوحة الكترونية معززة للكابل المستخدم في خوادم الذكاء الاصطناعي هو الاتجاه السائد؟

ج: نعم، من المتوقع أن يصبح وضع الكابل المعزز المستخدم في خوادم الذكاء الاصطناعي اتجاهًا سائدًا.