كم عدد أجهزة الإرسال والاستقبال الضوئية التي يتطلبها ChatGPT؟

قامت FiberMall باستقراء البنية التحتية للذكاء الاصطناعي بما في ذلك أجهزة الإرسال والاستقبال الضوئية التي يقدمها ChatGPT إلى الطاولة.

الفرق من مركز البيانات التقليدي هو أنه مع بتقنية InfiniBand هيكل شجرة الدهون شائع في الذكاء الاصطناعي ، يتم استخدام المزيد من المفاتيح وعدد المنافذ في المنبع والمصب في كل عقدة متطابقة.

تعد SuperPOD واحدة من الوحدات الأساسية المطابقة لنموذج تجميع الذكاء الاصطناعي الذي تستخدمه NVIDIA.

تم تصميم SuperPOD القياسي باستخدام خوادم GPU 140 DGX A100 ، HDR InfiniBand 200G بطاقات NIC، و 170 مفتاح NVIDIA Quantum QM8790 مع 200G و 40 منفذًا لكل منهما.

استنادًا إلى حل NVIDIA ، SuperPOD مع 170 مفتاحًا ، يحتوي كل محول على 40 منفذًا ، وأبسط طريقة هي ربط 70 خادمًا لكل منها ، ومتطلبات الكبل المقابل هي 40 × 170/2 = 3400 ، مع الأخذ في الاعتبار حالة النشر الفعلية حتى 4000 كابل. من بينها ، نسبة الكبل النحاسي: AOC: الوحدة الضوئية = 4: 4: 2 ، المقابلة لعدد أجهزة الإرسال والاستقبال الضوئية المطلوبة = 4000 * 0.2 * 2 = 1600 ، أي بالنسبة إلى SuperPod ، نسبة الخادم: التبديل : استخدام الوحدة الضوئية = 140: 170: 1600 = 1: 1.2: 11.4

تتطلب المتطلبات المشابهة لمتطلبات مستوى الدخول GPT4.0 ما يقرب من 3750 خادمًا من خوادم NVIDIA DGX A100. يتم سرد متطلبات أجهزة الإرسال والاستقبال الضوئية في ظل هذه الحالة في الجدول التالي.

وفقًا لـ IDC ، يبلغ سوق خوادم الذكاء الاصطناعي العالمي 15.6 مليار دولار في عام 2021 ومن المتوقع أن يصل إلى 35.5 مليار دولار بحلول عام 2026. ويبلغ حجم سوق صناعة خوادم الذكاء الاصطناعي في الصين 6.4 مليار دولار في عام 2021. وفقًا لبيانات IDC ، من المتوقع شحن 200 / 400G من الموانئ لزيادة سيناريوهات مركز البيانات بسرعة ، بمعدل نمو مركب يبلغ 62٪ من 22 إلى 26 عامًا. من المتوقع أن تتجاوز شحنات منافذ التبديل العالمية 870 مليون في عام 2026 ، بحجم سوق يزيد عن 44 مليار دولار.

يقوم FiberMall باستقراء الطلب على الخوادم والمحولات وأجهزة الإرسال والاستقبال الضوئية من بنية مركز بيانات AI. في عملية الاستقراء هذه ، يستخدم FiberMall نسبة 4: 4: 2. يرتبط استخدام الوحدات الضوئية في مركز البيانات بشكل مباشر بطلب حركة المرور. من المحتمل أن تكون هذه النسبة موجودة فقط بكامل طاقتها ، ولا يزال من المفيد إجراء دراسة متعمقة لكيفية حركة مرور الخدمة داخل مركز بيانات الذكاء الاصطناعي الآن.