Broadcom مقابل NVIDIA: سباق التبديل 400G / 800G

في Computex ، تعهدت NVIDIA بتوفير "إيثرنت بلا خسارة" لأعباء عمل الذكاء الاصطناعي من خلال منصة Spectrum-X الخاصة بها. ومع ذلك ، إذا سألت Broadcom ، فهذه ليست فكرة جديدة. علق رام فيلاجا ، النائب الأول لرئيس مجموعة Core Switching Group في Broadcom ، قائلاً: "لا يوجد شيء فريد في أجهزتهم." وأوضح أن NVIDIA تقوم بشكل أساسي ببناء منصة Ethernet متكاملة رأسياً ، والتي تتفوق في إدارة الازدحام بطريقة تقلل من زمن انتقال الذيل (النسب المئوية العالية لوقت الاستجابة) وتقليل وقت إكمال العمل بالذكاء الاصطناعي. يعتقد Velaga أن هذا لا يختلف عما فعلته Broadcom مع ASICs التبديل Tomahawk5 و Jericho3-AI. وهو يرى أيضًا إطلاق هذا المحول باعتباره اعترافًا من NVIDIA بأهمية Ethernet في التعامل مع تدفقات GPU في AI.

فيما يتعلق بـ NVIDIA ، لم تتخلى الشركة عن شبكات InfiniBand. في الواقع ، استثمروا مبلغًا كبيرًا من المال (17 مليار دولار أمريكي) للاستحواذ على Mellanox. إن InfiniBand مناسب للغاية للمستخدمين الذين يقومون بتشغيل عدد صغير من أحمال العمل الكبيرة للغاية ، مثل GPT-3 أو التوائم الرقمية. ومع ذلك ، أوضح جلعاد شاينر ، نائب رئيس التسويق لقسم الشبكات في NVIDIA ، أنه في بعض البيئات ، وخاصة السحاب متعدد المستأجرين ، فإن الإيثرنت هو الخيار المفضل. ذكر شاينر أن البنية التحتية التقليدية لشبكة إيثرنت تعمل بشكل جيد مع أعباء عمل AI / ML الأصغر ، لكن نمو أحمال العمل هذه الآن قد تجاوز إمكانيات العقدة الواحدة ، مما أدى إلى سرعات بطيئة. تدعي منصة Spectrum-X من NVIDIA أنها تواجه هذا التحدي.
تجدر الإشارة إلى أن Spectrum-X من NVIDIA ليس منتجًا مستقلاً. إنه مزيج من الأجهزة والبرامج ، مع المكونات الأساسية بما في ذلك مفتاح إيثرنت Spectrum-51.2 من NVIDIA بسرعة 4 تيرا بايت / ثانية ووحدة معالجة البيانات BlueField-3 (DPU). الفكرة الأساسية هي أنه عند استخدام كل من مفتاح NVIDIA و DPU معًا ، فإنهم يتعاونون للتخفيف من الازدحام المروري ، وإذا كان من المتوقع أن تصدق NVIDIA ، فإنهم يقضون تمامًا على فقدان الحزمة.
على الرغم من أن Shainer يدعي أن هذه وحدة وظيفية جديدة لـ NVIDIA ، يعتقد Velaga أن فكرة "Ethernet غير المفقودة" هي مجرد تسويق. وعلق قائلاً: "بدلاً من وصفها بأنها بلا خسارة ، فمن الأدق القول إنك تدير الازدحام بشكل فعال لدرجة أن لديك بنية إيثرنت عالية الكفاءة".
علاوة على ذلك ، تدعي Velaga أن إدارة الازدحام هذه قد تم دمجها في أحدث جيل من Broadcom من أجهزة التبديل ASIC ، ولا يمكن استخدامها إلا مع smartNICs أو وحدات DPU من أي بائع أو مزود خدمة سحابية. "ليس عليك القيام بذلك على NIC ؛ يمكنك الانتقال من ورقة Jericho3-AI إلى ورقة Jericho3-AI أخرى ".
عندما سُئل شاينر عن Tomahawk5 و Jericho3-AI من Broadcom ، رفض مقارنتهما ، بحجة أن Spectrum-X ينتمي إلى فئته الخاصة ويشير ضمنيًا إلى أن بعض البائعين يضيفون ببساطة "AI" إلى المنتجات الحالية. قال: "بغض النظر عن ما تسميه ، لا يوجد شيء به ميزات مصممة خصيصًا للذكاء الاصطناعي".


وفقًا لـ Velaga ، تحاول NVIDIA التكامل الرأسي لمعالجة ازدحام Ethernet. وقال: "سبب نجاح Ethernet اليوم هو أنه نظام بيئي مفتوح للغاية". لهذا السبب ، قد يكون من الصعب بيع Spectrum-X من NVIDIA لموفري الخدمات السحابية الذين يفضلون تجنب قفل البائعين. إنهم يريدون بشدة تجنب الموقف الذي يؤدي إلى التبني الواسع لأنظمة تشغيل الشبكات المحايدة للبائع مثل SONiC. هذا يسمح لهم بتشغيل السحب الخاصة بهم على أي مفتاح متوافق.
من حيث القيمة ، يدعم Spectrum-4 من NVIDIA بالفعل SONiC ، بالإضافة إلى برامج تشغيل Cumulus NOS و Linux Switch الخاصة به. ومع ذلك ، نظرًا لأن منصة Spectrum-X تعتمد على وجود كل من Spectrum-4 و BlueField في وقت واحد ، فلا يمكنك ببساطة تبديل أحدهما بمفتاح SONiC أو DPU المتوافق الآخر دون فقدان الوظيفة.
عند الحديث عن DPU ، فإن العديد من مزودي الخدمات السحابية الرئيسيين لديهم بالفعل SmartNICs المصممة لبيئاتهم. خدمات أمازون ويب لديها Nitro ، شاركت جوجل في تطوير ASIC سمارتنيك مع Intel ، واستحوذت Microsoft على Fungible في يناير. هذه الأجهزة ذات قيمة عالية لموفري الخدمات السحابية كما يسمحون بذلك offتحميل أحمال عمل الشبكات والتخزين والأمان الشائعة ، وتحرير وحدات المعالجة المركزية (CPU) لتشغيل أعباء عمل المستأجر.
ذكر شاينر أنه من الممكن تماما. وهو يعتقد أن مقدمي الخدمات السحابية يمكنهم الاستفادة من وحدات DPU الحالية لإدارة البنية التحتية الخاصة بهم والتحكم في حركة المرور بين الشمال والجنوب أثناء استخدام BlueField-3 من NVIDIA لإدارة حركة المرور بين الشرق والغرب بين العقد في المجموعة.
وأضاف أنه لا يوجد ما يمنع الناس من نشر مفاتيح NVIDIA أو وحدات DPU كمنتجات قائمة بذاتها. "إذا أراد شخص ما استخدام مفاتيحنا وبناء حل خاص به ، فنحن نرحب بذلك. إذا أراد شخص ما استخدام وحدات DPU الخاصة بنا واستخدام مفاتيح شخص آخر ، فتابع بالطبع. قال شاينر "يمكنك تطوير هذه المكونات بنفسك".
ومع ذلك ، فإن Velaga من Broadcom غير متأكد من كيفية تبني العملاء لهذه الفكرة. وعلق قائلاً: "من الصعب أن نقول كيف سيتم تسويق قيمة حلول Ethernet المتكاملة رأسياً في عالم ينهار فيه كل شيء".