رؤية الشبكة المستقبلية لمراكز الذكاء الاصطناعي: رحلة التحول في أريستا

تطور وتحديات بنية شبكة الذكاء الاصطناعي

عند مناقشة شبكات الذكاء الاصطناعي، يمكن تحليل بُعدين رئيسيين. البعد الأول هو بنية الشبكة الأساسية المقدمة للذكاء الاصطناعي. البعد الثاني هو تطبيق تكنولوجيا الذكاء الاصطناعي في عمليات الشبكة وصيانتها. لقد قمنا بدمج العديد من الميزات والحلول لتعزيز أنظمتنا الداخلية، بما في ذلك عمليات الذكاء الاصطناعي (AIOps) والقدرة على المراقبة. تم تجهيز مفاتيحنا بأجهزة استشعار متعددة وميزات أمان مثل ترقية النظام الذكي (SSU)، وهي قدرات أساسية لشبكات الذكاء الاصطناعي. تتيح ميزة ترقية النظام الذكي تحديثات تصحيح الأمان السلسة وترقيات النظام مع الحفاظ على تشغيل خدمات الشبكة المهمة، كما أنها تدعم التحليلات التنبؤية.

تعمل جميع منتجات أريستا، سواء كانت مفاتيح الحرم الجامعي أو أجهزة توجيه شبكة واسعة النطاق أو مفاتيح مركز البيانات الكبيرة بسعة 400 جيجابايت مع 576 منفذًا، على نفس نظام التشغيل القابل للتوسيع (EOS). بالإضافة إلى ذلك، تتم إدارة جميع المنتجات من خلال منصة البرامج الموحدة CloudVision، مما يوفر للعملاء حلولاً شاملة عالية الجودة تضمن أداءً ثابتًا عبر بيئات مختلفة. وقد حظي هذا التوحيد بتقدير كبير من قبل العملاء.

تقليديًا، كانت الشبكات تعمل في صوامع معزولة. على سبيل المثال، كان لدينا شبكة الواجهة الأمامية وشبكة الواجهة الخلفية في مراكز البيانات، حيث تتكون الشبكة الخلفية بشكل أساسي من الحوسبة عالية الأداء التي يهيمن عليها InfiniBand. ومع تقدم تكنولوجيا الذكاء الاصطناعي، نشهد تحولًا من مراكز البيانات التقليدية إلى مراكز تركز على الذكاء الاصطناعي. في مراكز الذكاء الاصطناعي، تربط الشبكة الخلفية وحدات معالجة الرسومات، بينما تربط الشبكة الأمامية شبكات مراكز البيانات التقليدية وأنظمة التخزين وشبكات WAN، وتغطي بشكل أساسي جميع مكونات الشبكة اللازمة لبناء مركز ذكاء اصطناعي موحد.

يوضح أحد الشرائح من مجموعة 650 التطور التاريخي والتوقعات المستقبلية لسرعات منافذ مراكز البيانات. وكما هو موضح، فإن المنافذ عالية السرعة تسير على مسار نمو كبير. ويجمع الرسم البياني بين سرعات 800 جيجابت و1.6 تيرابايت، وهو أمر منطقي - حيث تعتمد سرعة 800 جيجابت على 8x100G SERDES، بينما تستخدم سرعة 1.6 تيرابايت 16x100G أو 8x200G SERDES. ويعود هذا النمو إلى ما يقرب من 30% إلى 40% من الطلب على شبكة الذكاء الاصطناعي، مما يعكس توسع مجموعات الذكاء الاصطناعي، وخاصة مجموعات التدريب. وبالنظر إلى المستقبل، فإن عمليات الاستدلال ستقود هذا النمو أيضًا. لذلك، يجب أن تواكب قدرات الإدخال/الإخراج تحسينات أداء وحدة معالجة الرسومات. على الجانب الأيمن من الرسم البياني، تُظهر ASIC 51.2T أسرع معدل اعتماد في التاريخ، مما يشير إلى انتقال سريع من 25.6T إلى 51.2T، مع إمكانية اتباع شرائح 100T بوتيرة أسرع. تقليديا، كانت ترقيات السرعة تستغرق عدة سنوات، ولكن بسبب الطلب على الذكاء الاصطناعي، أصبحت التحولات التكنولوجية تحدث الآن كل 1.5 إلى 2 سنة لتلبية احتياجات النطاق الترددي لوحدات معالجة الرسومات والمعجلات الأخرى.

من مراكز البيانات التقليدية إلى مراكز الذكاء الاصطناعي: رحلة التحول في شركة أريستا

التحول المعماري:تستخدم شبكات مراكز البيانات التقليدية عادةً بنية متعددة المستويات، حيث تربط الشبكة الأمامية أجهزة المستخدم والشبكات الخارجية، وتستخدم الشبكة الخلفية في المقام الأول تقنية InfiniBand لتلبية متطلبات الحوسبة عالية الأداء (HPC). ومع ذلك، مع التقدم السريع لتكنولوجيا الذكاء الاصطناعي، تتحول فلسفات تصميم مراكز البيانات نحو نماذج تركز على الذكاء الاصطناعي.

إعادة تنظيم المكونات:في هياكل مراكز البيانات التي تعمل بالذكاء الاصطناعي، تعمل الشبكة الخلفية على ربط وحدات معالجة الرسوميات، بينما تستمر الشبكة الأمامية في ربط شبكات مراكز البيانات التقليدية وأنظمة التخزين وشبكات WAN. ويؤدي هذا إلى إنشاء بيئة شبكة شاملة تركز على أحمال عمل الذكاء الاصطناعي.

فيما يتعلق بالأنظمة المعيارية، تتميز منتجات Arista الرائدة في مجال الذكاء الاصطناعي بتصميمات الهياكل الأكبر حجمًا، حيث تدعم ما يصل إلى 576 منفذًا بسرعة 800 جيجابت. يسمح هذا التكوين للشبكات الأصغر بالاتصال بهيكل كبير، وتحقيق أكثر من 1100 منفذ بسرعة 400 جيجابت في الحجم - مما يوفر ما يقرب من نصف بيتابايت من النطاق الترددي من هيكل واحد. بالنسبة للمجموعات الأكبر، مثل تلك التي تحتوي على عشرات أو مئات الآلاف من وحدات معالجة الرسوميات، يستخدم التصميم الأمثل بنية شبكة ذات طبقتين للجزء الخلفي. يعد الحفاظ على هذا الهيكل ثنائي الطبقة أمرًا بالغ الأهمية في سيناريوهات الذكاء الاصطناعي، حيث يعد موازنة الحمل أمرًا مهمًا للغاية. يساعد ضمان توزيع حركة المرور بشكل صحيح في منع الازدحام، وتجنب وحدات معالجة الرسوميات الفردية من إبطاء عبء العمل بالكامل، وتقليل الانقطاعات، وخفض استهلاك الطاقة للشبكات عالية الطاقة.

تحديات أحمال عمل الذكاء الاصطناعي على الشبكات

طلب النطاق الترددي: يتزايد حجم ومتطلبات الحوسبة الخاصة بنماذج الذكاء الاصطناعي بشكل كبير، مما يؤدي إلى زيادة حادة في الطلب على النطاق الترددي للشبكة.

حركة مرورية متقطعة: يولد كل تدفق بيانات من خوادم تدريب الذكاء الاصطناعي حركة مرورية متقطعة بمعدلات خطوط، وعادةً ما ينطوي ذلك على 4-8 تدفقات بيانات فقط، ولكن هذا النمط يمكن أن يتسبب في ازدحام شديد في الشبكة.

اختناقات زمن الوصول: تجعل الحوسبة الموزعة أبطأ مسارات حركة المرور بمثابة عنق زجاجة، مع إمكانية أن يكون لأي زمن وصول في الشبكة تأثيرًا كبيرًا على الأداء العام.

مراقبة حركة المرور: تعد مراقبة حركة المرور بالذكاء الاصطناعي واستكشاف أخطائها وإصلاحها أمرًا صعبًا للغاية نظرًا لسرعتها العالية وطبيعتها المتقطعة، مما يجعل أدوات المراقبة التقليدية غير كافية.

حلول شبكة الذكاء الاصطناعي من أريستا

تقدم أريستا مجموعة شاملة من حلول شبكات الذكاء الاصطناعي، والتي تغطي منصات التبديل عالية الأداء، والهندسة المعمارية المبتكرة للشبكة، وميزات البرامج المتقدمة، والتقنيات البصرية الفعالة لمعالجة التحديات المختلفة التي تفرضها أحمال عمل الذكاء الاصطناعي.

مفاتيح إيثرنت عالية الأداء:

خط المنتج: توفر شركة Arista مجموعة كاملة من مفاتيح Ethernet 800G، بما في ذلك التكوينات الثابتة والأنظمة المعيارية.

سلسلة Etherlink AI:

أنظمة التكوين الثابتة: تتميز بشريحة Broadcom 512T، وهي مجهزة بـ 64 منفذ 800G (تعادل 128 منفذ 400G)، وهي مناسبة لأحمال عمل الذكاء الاصطناعي الصغيرة والمتوسطة الحجم.

الأنظمة المعيارية: منتجات الذكاء الاصطناعي الرائدة التي تدعم ما يصل إلى 576 منفذ 800G لكل هيكل، وهي مثالية لمراكز البيانات الضخمة للغاية.

سلسلة 7700: تستخدم أنظمة Etherlink الموزعة تصميمًا أحادي القفزة، مما يدعم التوسع إلى 32,000 وحدة معالجة رسومية، مما يلبي احتياجات الحوسبة على نطاق أوسع.

نظام التشغيل: تعمل كافة المفاتيح على نظام التشغيل Arista EOS (نظام التشغيل القابل للتوسعة)، ويتم إدارته بشكل موحد من خلال منصة CloudVision، مما يعزز كفاءة الإدارة.

يُعد هيكل Arista الذي تبلغ سرعته 51.2 تيرابايت في الثانية، والذي تم بناؤه على عملية 5 نانومتر ومجهز بـ 64 منفذ 800G، الخيار الأكثر كفاءة في استخدام الطاقة المتاح حاليًا. في مجموعات الذكاء الاصطناعي، يعد موازنة الحمل واستهلاك الطاقة التحديين الأساسيين، حيث تعد كفاءة الطاقة مصدر قلق كبير للعملاء. تتجه الصناعة نحو البصريات القابلة للتوصيل الخطي (LPO) لتعزيز كفاءة الطاقة لكل من الوحدة البصرية والشبكة. يمكن إعادة تخصيص توفير الطاقة على جانب الشبكة لمزيد من وحدات معالجة الرسوميات أو وحدات المعالجة المركزية.

يمثل هذا ابتكارًا ذكيًا في الأجهزة. بناءً على الملاحظات الواردة من كبار العملاء، فإن إزالة جميع الكابلات وتفكيك الهيكل وإجراء الإصلاحات عند فشل أحد المكونات داخل الهيكل هي مهمة شاقة. عادةً، تكون المكونات ذات أقصر متوسط ​​وقت بين الأعطال (MTBF) هي الذاكرة (RAM) أو محركات الأقراص ذات الحالة الصلبة (SSD) أو وحدات المعالجة المركزية (CPU). لمعالجة هذه المشكلة، يسمح تصميم نظامنا بإزالة وحدة وحدة المعالجة المركزية بالكامل بعد إخراج المروحتين على الجانب الأيمن.

تتمثل ميزة أخرى لهذا التصميم في قدرته على تلبية احتياجات الأمان لبعض العملاء فيما يتعلق بالبيانات الملكية على محركات أقراص الحالة الصلبة. نظرًا لأنه يمكن إزالة وحدة وحدة المعالجة المركزية بشكل مستقل، يمكن للعملاء التعامل مع هذه البيانات بأمان أثناء الصيانة. يوفر هذا التصميم راحة كبيرة ويمثل ابتكارًا رئيسيًا في الأجهزة.

تم تجهيز أحدث جيل من منتجات 7700R4 ببطاقات خط 800G. وفي أكبر تكوين له، يمكن للهيكل دعم ما يصل إلى 1,152 منفذ 400G، وهو قادر على توفير ما يقرب من نصف بيتابايت من معدل نقل البيانات. يستخدم هذا الهيكل بنية قائمة انتظار إخراج افتراضية (VOQ) قائمة على الخلايا بالكامل، مما يضمن موازنة مثالية للحمل. هذا التصميم مناسب بشكل خاص للعملاء الذين يقومون ببناء مجموعات صغيرة، حيث يكفي هيكل واحد؛ كما أنه يعمل كجهاز شبكة أساسي مثالي للذكاء الاصطناعي للعملاء الذين يقومون ببناء مجموعات كبيرة.

تقنيات موازنة الأحمال المبتكرة

• التحدي: إن خوارزميات ECMP التقليدية متعددة المسارات ذات التكلفة المتساوية غير فعالة في التعامل مع حركة مرور الذكاء الاصطناعي، مما دفع شركة Arista إلى تطوير العديد من حلول موازنة التحميل المستهدفة:
• التخطيط المدرك للازدحام: يقوم بتوزيع حركة المرور بذكاء على الروابط الصاعدة المختلفة استنادًا إلى تحميل الشبكة في الوقت الفعلي، مما يقلل من خطر الازدحام.
• موازنة التحميل المستندة إلى RDMA: تستخدم خوارزميات برمجية لتحقيق موازنة تحميل دقيقة استنادًا إلى خصائص حركة مرور RDMA.
• Distributed Etherlink Switch (DES): يعمل على حل مشكلات موازنة التحميل من خلال إعادة توجيه الحزم على مستوى الأجهزة، وذلك باستخدام مخطط ربط أحادي القفزة لتقليل زمن الوصول.
• تصميم الهندسة المعمارية: يتميز بهندسة شبكة مزدوجة الطبقة تتطلب قفزة واحدة فقط في الممارسة العملية، حيث تقع الشريحة الرئيسية في مفتاح الورقة بينما يعمل العمود الفقري كجهاز تبديل عالي السرعة.
• بروتوكول نقل رذاذ الحزم: بديل مستقبلي لبروتوكول RDMA، مصمم للتعامل مع الحزم غير المنظمة وتعزيز استقرار نقل البيانات بشكل فعال.

الفرق بين طابور الإخراج الافتراضي (VOQ) وموازنة التحميل المدعومة من RDMA: يشير VOQ إلى البنية التحتية داخل الهيكل، باستخدام طوابير الإخراج الافتراضية لتخصيص الحزم بين منافذ الإدخال والإخراج، وهي عملية مجدولة بالكامل. على النقيض من ذلك، تتضمن موازنة التحميل المدعومة من RDMA موازنة تحميل ديناميكية مع التركيز بشكل خاص على خصائص حركة مرور RDMA، مما يسمح بموازنة التحميل أو التجزئة بناءً على حركة المرور هذه.

يوفر الرسم البياني نظرة عامة شاملة على بنية الشبكة، والتي تشمل كل من شبكات الواجهة الأمامية التقليدية وشبكات الذكاء الاصطناعي المخصصة للواجهة الخلفية. اعتمادًا على حجم المجموعة، يمكن أن تتضمن التكوينات هيكلًا ثابتًا أصغر حجمًا أو رفوفًا أو مزيجًا من الاثنين. بالنسبة للمجموعات الضخمة للغاية، يمكن حتى النظر في بنية ثلاثية الطبقات.

يتطلب كل من الواجهة الخلفية والأمامية للذكاء الاصطناعي أنظمة تخزين مخصصة. بالإضافة إلى ذلك، تعد اتصالات شبكة WAN ضرورية. تقدم هذه النظرة العامة البنية العامة لشبكة الذكاء الاصطناعي الكبيرة.

قدرات التصور المحسّنة

• أدوات مراقبة الشبكة: تكافح طرق مراقبة الشبكة التقليدية لالتقاط التقلبات على مستوى الميكروثانية في حركة مرور الذكاء الاصطناعي. تقدم Arista أدوات مراقبة مبتكرة متنوعة:
• محلل الذكاء الاصطناعي: يلتقط إحصائيات حركة المرور على فترات زمنية تبلغ 100 ميكروثانية، مما يوفر رؤى تفصيلية حول سلوك الشبكة، مما يتيح التعرف السريع على مشكلات الازدحام وموازنة التحميل.
• وكيل الذكاء الاصطناعي: يمتد نظام التشغيل EOS إلى خوادم NIC، مما يحقق الإدارة المركزية ومراقبة اتصالات ToR وNIC.
• الاكتشاف التلقائي: يمكن لوكيل الذكاء الاصطناعي اكتشاف التكوينات بين المفاتيح وبطاقات الشبكة ومزامنتها تلقائيًا، ودعم ملحقات المكونات الإضافية المختلفة لبطاقات الشبكة.
• جمع البيانات: تجميع بيانات عداد NIC، مما يوفر عرضًا أكثر شمولاً للشبكة وقدرات تحليل محسّنة.

آليات شاملة للسيطرة على الازدحام

• تقنيات إدارة الازدحام: تستخدم أريستا تقنيات متعددة لإدارة ازدحام الشبكة بشكل فعال، بما في ذلك:
• التحكم في تدفق الأولوية (PFC): يمنع فقدان الحزمة الناجم عن تجميع حركة المرور في القفزة الأخيرة من خلال التحكم في تدفق الأولوية.
• إشعار الازدحام الصريح (ECN): يقلل من سرعة نقل البيانات أثناء ازدحام ناقل PCI، مما يؤدي إلى تجنب تعطل الشبكة.
• القياس عن بعد داخل الشبكة: يوفر معلومات مفصلة عن عمق قائمة انتظار ازدحام الشبكة، مما يسهل المراقبة والتحسين في الوقت الفعلي.

ضمان الموثوقية العالية:

• تقنيات التوفر العالي: تقدم أريستا ميزات مختلفة لضمان التوفر العالي لشبكات الذكاء الاصطناعي:
• الترقيات غير المعطلة (SSU): تدعم ترقيات إصدار EOS بدون أي توقف.
• تحسين مستوى البيانات: تحسين أداء الشريحة لضمان تشغيل الشبكة بشكل مستقر.
• مراقبة شاملة لرابط L1: مراقبة حالة 400,000 وحدة بصرية في الوقت الفعلي، وتحديد الأعطال ومعالجتها على الفور لضمان موثوقية الشبكة.

جوهرة تاج أريستا: نظام التشغيل القابل للتوسعة (EOS) وميزاته:

في بيئة الذكاء الاصطناعي، يعد موازنة التحميل أمرًا بالغ الأهمية. نحن نقدم ميزات متنوعة، بما في ذلك موازنة التحميل الديناميكي (DLB)، وموازنة تحميل الازدحام (CLB)، والتجزئة القائمة على رأس RDMA، وإشعار الازدحام الكمي لمركز البيانات (DCQCN)، وإشعار الازدحام الصريح (ECN)، وطرق التحكم في الازدحام من خلال التحكم في التدفق ذي الأولوية (PFC). بالإضافة إلى ذلك، نقدم ميزات محسّنة مثل مراقبة PFC وخيارات المستأجرين المتعددين.

إذا كنت تقوم ببناء مجموعات GPU أو xPU وتخطط لتقديمها كخدمة، فستكون هناك حاجة إلى قدرات التجزئة والتعدد في المستأجرين. وهنا يأتي دور شبكة LAN القابلة للتوسعة الافتراضية (VXLAN) وشبكة Ethernet الافتراضية الخاصة (EVPN). بمجرد النشر، تكون المراقبة والتصور ضروريين للوصول إلى بيانات القياس عن بعد وتحديد نقاط الازدحام والروابط المعيبة، مما يضمن موثوقية الشبكة وقوتها.

التكنولوجيا البصرية والاتجاهات المستقبلية

البصريات القابلة للتوصيل الخطي (LPO):

• مميزات التصميم: يستخدم 800G LPO تصميمًا خطيًا، مما يقلل التكلفة واستهلاك الطاقة بشكل كبير.
• التوقعات المستقبلية: يمكن لـ LPO 1.6T تقليل استهلاك الطاقة بشكل أكبر ومن المتوقع أن يحقق إنتاجًا واسع النطاق بحلول عام 2025، ليصبح تقنية رئيسية لتقليل استهلاك الطاقة في مجموعات الذكاء الاصطناعي.

في الشبكات، من المهم بنفس القدر. عند فحص تقنية بصرية 400G، يُلاحظ عدم تطابق بين الإشارات الكهربائية والإشارات الضوئية. الإشارات الكهربائية هي 8X 50G، بينما الإشارات الضوئية هي 4X 100G، مما يستلزم وجود علبة تروس لتحويل الإشارة الكهربائية 50G إلى إشارة ضوئية 100G. بالإضافة إلى تحويل الإشارة، تتمتع علبة التروس أيضًا بقدرات تضخيم الإشارة. ما هو دور علبة التروس؟ إنها توفر مكسبًا للطاقة للإشارة الضوئية ولكنها تضيف أيضًا تكلفة. عند سرعات 800G، يكون الوضع خطيًا، وهي سمة مواتية. الإشارات الكهربائية هي 8X 100G PAM-4، والإشارات الضوئية هي أيضًا 8X 100G PAM-4، مما يؤدي إلى تطابق مثالي لسرعات الإشارة الضوئية، مما يؤدي إلى أدنى تكلفة وتصميم بصري أبسط.

التكامل على مستوى الرف:

• الحل التكاملي: دمج المزيد من وحدات معالجة الرسوميات وتقنية الشبكة في نفس الرف، باستخدام وصلات بصرية من كابلات النحاس لتحسين الأداء العام.
• تحليل الحالة: يدمج حامل NVL72 من Nvidia 72 وحدة معالجة رسومية مع استهلاك طاقة يصل إلى 120 كيلو وات. وفي حين يوفر التكامل على مستوى الحامل مزايا من حيث التكلفة والطاقة، فإنه يواجه أيضًا تحديات في إدارة الحرارة.

في مجموعات الذكاء الاصطناعي، إذا كنت مهتمًا بمخططات التوصيل الضوئية الأكثر استخدامًا، فإن معظم مجموعات الذكاء الاصطناعي تتبنى تصميم نهاية الرف. هنا، يتم استخدام 800G VSR4، مما يوفر مسافة نقل تبلغ 50 مترًا، وهي كافية لتوصيل أي وحدة معالجة رسومية من نهاية الرف. بين الورقة والعمود الفقري، يمكن استخدام XDR4 أو FR4؛ يدعم أحدهما النقل حتى 500 متر، والآخر حتى 2 كيلومتر.

اتحاد Ultra Ethernet (UEC):

• الخلفية التنظيمية: تعد شركة أريستا أحد الأعضاء المؤسسين لـ UEC، وتعمل بنشاط على تعزيز تطوير تقنية Ethernet.
• الأهداف الفنية: يهدف UEC إلى معالجة تحديات الشبكة التي يفرضها أحمال عمل الذكاء الاصطناعي والحوسبة عالية الأداء، بما في ذلك بروتوكولات النقل والتحكم في الازدحام وتقنية رش الحزم.
• إصدار المواصفات: من المتوقع أن تصدر UEC مواصفات الشبكة متعددة الطبقات في وقت لاحق من عام 2024، مما يؤدي إلى تعزيز توحيد معايير الصناعة.

توسيع نطاق شبكات الذكاء الاصطناعي:

• الدعم المعماري: تقدم Arista مجموعة متنوعة من بنيات الشبكات لدعم مجموعات الذكاء الاصطناعي ذات الأحجام المختلفة، بما في ذلك:
• هندسة العمود الفقري الورقية ثنائية الطبقة: مناسبة للمجموعات الصغيرة والمتوسطة الحجم، وتوفر استخدامًا فعالًا للنطاق الترددي.
• هندسة الشبكة ثلاثية الطبقات: مناسبة للمجموعات الضخمة للغاية، مما يعزز قابلية توسع الشبكة.
• هندسة الشبكة متعددة المستويات: توسيع نطاق الشبكة من خلال مستويات مستقلة متعددة، مما يدعم التزامن الأعلى.
• هندسة الجدولة الموزعة: تحقق اتصالات منطقية ذات قفزة واحدة، وتدعم احتياجات التوسع لما يصل إلى 32,000 وحدة معالجة رسومية.
• طلب السوق: يعد بناء مجموعات الذكاء الاصطناعي واسعة النطاق أمرًا مكلفًا، ولكن الطلب المتزايد في السوق على الحوسبة عالية الأداء ومعالجة البيانات الضخمة لا يزال يدفع الابتكار والتطوير في التقنيات ذات الصلة.