ما هو مركز بيانات الذكاء الاصطناعي؟ [فيديو واختبار]

باختصار: مركز بيانات الذكاء الاصطناعي هو عالي الكثافة ، حيث تُخصص الطاقة والتبريد والبنية التحتية والتخزين لتدريب النماذج وخدمتها، وليس مجرد غرفة خوادم مزودة بوحدات معالجة رسومية إضافية. تكمن أهمية الرقائق في تصميمها، بينما المبنى مدى كفاءتها. إذا تعذر نقل البيانات، يُمكن تجهيز خلية صغيرة؛ ويُفضل أن تستأجر معظم الفرق.

أهم النقاط المستفادة:

الرقائق مقابل البناء: الطاقة والتبريد والنسيج والتخزين هي التي تحدد ما إذا كانت المسرعات ستعمل أم لا.

أماكن وليست قصورًا: قم بتحديث رفّين عندما لا يمكن نقل البيانات؛ لا تشتري مجمعًا جامعيًا.

المتوسط ​​مقابل الوسيط: في ثماني عمليات تشغيل، أخفى الوسيط عمليات إعادة التشغيل؛ استخدم المتوسط ​​لمدة 18 ساعة.

مقاومة سوء الاستخدام: لا تقم بتحديد قيمة PUE لرفين في قاعة مختلطة.

نتائج توضيحية: ثماني عمليات تشغيل تمثل خريطة صغيرة، وليست توفيراً في الإنتاج بنسبة 50%.

مقالات قد ترغب في قراءتها بعد هذه المقالة:

الذكاء الاصطناعي موثوق؟ فيديو واختبار:
استكشف موثوقية الذكاء الاصطناعي من خلال فيديو شيق واختبار تفاعلي.

🔗 كيفية استخدام الذكاء الاصطناعي في الحياة اليومية
اكتشف الطرق العملية التي يمكن للذكاء الاصطناعي من خلالها تبسيط المهام والروتين اليومي.

🔗 كيفية استخدام الذكاء الاصطناعي في العمل:
تعرّف على الطرق العملية لاستخدام الذكاء الاصطناعي لزيادة إنتاجية مكان العمل بشكل أكثر ذكاءً.

🔗 هل ​​يستطيع الذكاء الاصطناعي التفكير بنفسه؟
تعرّف على ما إذا كان الذكاء الاصطناعي قادراً حقاً على التفكير بشكل مستقل أو الاستدلال.

كيف يختلف عن مركز البيانات "العادي"

تُصمَّم القاعات التقليدية لتحسين أداء أحمال العمل المتنوعة وضمان استمرارية الخدمة عبر العديد من الخدمات الصغيرة. بالتأكيد، أنت تهتم بالتكرار، وبمؤشر كفاءة استخدام الطاقة (PUE) كمفهوم - الطاقة الإضافية التي يستهلكها المبنى لتوفير واط واحد من قدرة الحوسبة. لكنك، عادةً، لا تُصمِّم كل ممر حول رفٍّ يعمل كمجمع تدفئة متنقل.

تُغيّر مواقع الذكاء الاصطناعي النسب. تزداد الكثافة. تصبح الشبكة نسيجًا لا يمكن لعملية التدريب أن تستمر بدونه. يجب أن تحافظ وحدات التخزين على استمرارية نقاط التفتيش، وإلا ستتوقف المسرعات عن العمل، مثل خيول السباق في زحام مروري.

هناك اختلاف ثقافي أيضًا. يفكر فريق عمليات المؤسسات بنظام التذاكر وفترات التغيير. بينما يفكر فريق عمليات الذكاء الاصطناعي بنظام قوائم انتظار المهام والشعور بالإحباط عند تعطل عقدة ما في وقت متأخر من الزمن. أعتقد أنه لا يزال بإمكانك تسمية كليهما "مراكز بيانات" لأنهما كذلك بالفعل. التسمية تخفي البنية التحتية.

ليس تصنيفًا أخلاقيًا. آلات مختلفة، نفس اسم العائلة.

وحدات معالجة الرسومات، والمسرعات، والرف الذي يستهلك الطاقة

عند المشي في أرضية مرتفعة تقليدية، تبدو رفوف الملابس مهذبة نوعاً ما. أما عند المشي في صف من رفوف الذكاء الاصطناعي، فتبدو وكأنها تريد ابتلاع المبنى بأكمله.

ليس المعالج المركزي المتطور هو العنصر الأبرز في هذه التقنية، بل هو وحدة المعالجة المتسارعة: وحدات معالجة الرسومات أو رقائق الذكاء الاصطناعي الأخرى، مُجمّعة في خوادم، ثم في رفوف، ثم في صفوف تتشارك في بنية عالية النطاق الترددي. تربط وصلات وحدات معالجة الرسومات الرقائق معًا لتكوين ما يُشبه وحدة معالجة متسارعة عملاقة واحدة؛ وتؤدي بنية المجموعة نفس الوظيفة على مستوى الصفوف. لا ينجح التدريب المتوازي إلا إذا ظلت هذه الروابط قوية وقابلة للتنبؤ. إذا فقدت هذه الميزة، فستصبح "مجموعتك" مجرد مجموعة من محطات العمل باهظة الثمن تتشارك نفس المنطقة.

الطاقة تتبع المعالجات، لا وحدات توزيع الطاقة المكتبية الضخمة. أحمال تقنية المعلومات تصل إلى ميغاواط بمجرد امتلاء قاعة - لن أذكر رقمًا محددًا. المفاجأة تكمن في كثافة كل رف. عدد أقل من الرفوف، كل رف منها أشبه بفرن صغير. العامل المحدد غالبًا هو محطة التحويل، وليس قائمة وحدات معالجة الرسومات المطلوبة. كما تعلمون، قسم المشتريات يريد المزيد من المعالجات المسرّعة، وشركة الكهرباء تريد نقاشًا مطولًا وشيكًا ضخمًا.

هناك استعارة غريبة بعض الشيء لا أستطيع التخلص منها: الرف حيوان جائع. يمكنك تربية حيوان أسرع، لكنك ستظل مضطرًا لإطعامه وتنظيفه من الحرارة. إذا أهملت أيًا منهما، فسيصبح مجرد قطعة عديمة الفائدة.

الطاقة والحرارة ومشكلة التبريد

الكهرباء تدخل، والحرارة تخرج. هذه هي العقيدة بأكملها.

تُفرّغ الرفوف عالية الكثافة الحرارة بطريقة لم يُطلب من الهواء التعامل معها من قبل. يمكنك زيادة تدفق الهواء - مبادلات حرارية في الأبواب الخلفية، ممرات أكثر سخونة، أنظمة احتواء ذكية - وهذا يُجدي نفعًا إلى حدٍ ما. ثم يظهر السائل.

• التبريد المباشر للرقاقة

• حلقات تبريد تجعل غرفة المصنع تبدو وكأنها ورشة تصنيع مواد كيميائية

• الانغماس في بعض التصاميم، الأمر الذي لا يزال يثير دهشة الأشخاص الذين يعتقدون أن الماء والخوادم لا ينبغي أن يجتمعا في جملة واحدة

لا شيء من هذا جذاب. إنه كله جزء من المنتج، لأن دواسة الوقود التي تُخفّض السرعة هي دواسة دفعتَ ثمنها بالفعل ولا يمكنك استخدامها بالكامل.

لا يزال مؤشر كفاءة استخدام الطاقة (PUE) مهمًا. إنه نسبة، وليس سمة شخصية. يسعى المشغلون جاهدين لتحقيقه لأن كل واط يُنفق على المراوح والمضخات هو واط لم يُوجه إلى وحدة معالجة الرسومات (GPU). لن أذكر رقمًا "نموذجيًا"؛ فالمناخ وكيفية تحديد الحدود يؤثران عليه، والدقة الزائفة أسوأ من انعدامها. للماء دورٌ في هذا أيضًا. بعض النباتات تتغذى بالرش، وبعضها الآخر يستهلك الطاقة بسرعة. التبريد التبخيري فعال حتى يصبح النهر أو الجفاف عاملًا سياسيًا.

الشبكات: لماذا تُعدّ البنية التحتية بنفس أهمية الرقائق الإلكترونية؟

يقوم الناس بتصوير وحدات معالجة الرسومات. ينبغي عليهم تصوير المحولات.

التدريب أشبه بحوار. آلاف المعالجات المسرّعة تتبادل التدرجات والمعلمات وأجزاء النموذج بتزامن دقيق. إذا اهتزت الشبكة، يتوقف العمل بالكامل على أبطأ نقطة اتصال. لهذا السبب، تُولي مراكز الذكاء الاصطناعي اهتمامًا بالغًا لشبكات النطاق الترددي العالي، وزمن الاستجابة المنخفض، والبنى الشبكية التي لا تتأثر عند انقطاع أحد الروابط. شبكات شبيهة بشبكة InfiniBand، وشبكة Ethernet تؤدي الدور نفسه، ووصلات بين وحدات معالجة الرسومات داخل الصندوق، وكابلات يجب أن تكون مثالية من المرة الأولى.

الاستدلال موضوع آخر. يهتم نظام تقديم النماذج بزمن الاستجابة المتأخر - أي زمن الاستجابة البطيء، وليس المتوسط. يختلف أسلوب المعالجة الدفعية عن المعالجة الآنية. تتطلب مجموعة التدريب حركة بيانات شاملة وكبيرة، بينما يتطلب نظام تقديم النماذج عددًا كبيرًا من الطلبات الصغيرة وعزلها، دون حدوث ازدحام في موازن الأحمال.

الخطأ الذي أغفلته هنا: يتعامل الناس مع الشبكة كأنها سباكة، ومع رقائق المعالج كأنها مطعم. في هذا المبنى، السباكة هي المطعم. إن أغفلت هذا، فستشتري مطبخًا لا يستقبل طلبات التوصيل.

التدريب مقابل الاستدلال: مبنيان، وأحيانًا حرفيًا

التدريب عمليةٌ شاقة. تُجمّع مجموعةً من الخوادم، وتُغذّيها بالبيانات، وتُجري عمليات التحقق بانتظام، وتُشغّلها لساعاتٍ أو أسابيع، وتدعو أن يبقى النظام يعمل بسلاسة. عمليةٌ كثيفة المعالجة، تستهلك نطاقًا تردديًا كبيرًا، وتتطلب صبرًا وهدوءًا - إلى أن يُعطّل عطلٌ في إحدى الخوادم العمليةَ بأكملها. قد يُؤدي تعطل مُسرّع واحد في مهمةٍ مُترابطةٍ بإحكام إلى توقف العملية برمتها.

الاستدلال أشبه بواجهة متجر. نماذج مُدرَّبة مسبقًا، تُجيب الآن على الأسئلة، وتُصنِّف الصور، وتُنشئ النصوص. زمن الاستجابة مهم. قد يتفوق مُسرِّع أقدم قليلًا بالقرب من العميل على مُسرِّع متطور في قارة أخرى.

إذن، ينقسم الوضع. تسعى مراكز التدريب إلى توفير الطاقة والأراضي والكثافة. بينما تسعى مراكز الاستدلال إلى تقليل زمن الاستجابة وزيادة الحضور. وتوجد قاعات هجينة أيضًا، لأن رأس المال ليس بلا حدود. حسنًا، ليس بالضرورة مبنيين. أحيانًا قاعة واحدة مزودة بحبل مخملي وحلقتين للتبريد.

هنا أيضاً تتفرع مفاهيم مراكز البيانات المشتركة، ومجمعات الحوسبة فائقة التوسع، والبنية التحتية المحلية. تبني شركات الحوسبة فائقة التوسع على نطاق واسع يجعلنا نحن الآخرين نبدو وكأننا نرتب أثاثاً. تبيع مراكز البيانات المشتركة كثافة الخوادم بالرفوف. أما البنية التحتية المحلية فتظل قائمة عندما لا يمكن نقل البيانات إلى خارج المجمع.

معدل نقل البيانات، ونقاط التحقق، والرقائق المتعطشة للذاكرة

لا أحد يضع نظام الملفات المتوازية على غلاف الكتيب.

يجب أن تصل بيانات التدريب بسرعة كافية لتجنب تعطل وحدات معالجة الرسومات. يجب أن تصل نقاط التحقق في الوقت المحدد حتى لا يؤدي أي عطل إلى ضياع أسبوع كامل من البيانات. يجب تحميل أوزان النموذج قبل أن تصبح النسخة المُستخدَمة جاهزة للعمل. معدل نقل البيانات في وحدة التخزين - وليس سعتها فقط - هو العائق الخفي. يمكنك إنفاق مبالغ طائلة على مُسرّعات التخزين، ثم تُقلّل من مواردها باستخدام مصفوفة مُصممة خصيصًا للأجهزة الافتراضية.

النمط مألوف: مجموعة حاسوبية لامعة، وقائمة انتظار للمهام، وانتظار الإدخال/الإخراج يحدق بك كفاتورة وقحة. إن تجميع موارد الحوسبة دون تجميع مسار البيانات هو ما يؤدي إلى خمول مكلف للغاية. إما أن تُبقي الرقائق مُغذّاة أو أن تُقرّ بأنك اشتريتَ تمثالًا.

البرمجيات، والتنسيق، وطبقة العمليات غير الجذابة

الأجهزة هي النجمة، أما المبرمجون فهم من يقومون بالعمل.

مركز بيانات الذكاء الاصطناعي عديم الفائدة إذا لم تتمكن المهام من العثور على وحدات معالجة رسومية، وإذا لم يتمكن فريقان من مشاركة مجموعة بيانات دون خلافات حادة، وإذا تعذر استبدال رتبة معطلة، وإذا تدهورت البرامج الثابتة حتى تعطلت البنية التحتية تدريجيًا. التنسيق، والمراقبة، والتحكم في استهلاك الطاقة - طبقة العمليات غير الجذابة، والتي تُظهر أهميتها.

أُكنّ تقديرًا خاصًا لهذه الطبقة. أيضًا، عندما تتظاهر بطاقة الشبكة المُهيأة بشكل خاطئ بوجود مشكلة تبريد طوال فترة ما بعد الظهر... ستكتشف ذلك بطريقة مؤلمة.

عندما تموت عقدة أثناء التشغيل

تتعطل إحدى العقد. لا تزال فترات التغيير تتعارض مع عمليات التدريب التي لا تتقيد بجدولك الزمني. تقوم بجدولة المهام الكبيرة بشكل جماعي، وعزل مجموعات الاستدلال، وكتابة أدلة تشغيل لحالات الفشل التي تبدو وكأنها "بطيئة" حتى تبدو وكأنها "متوقفة تمامًا". لا تزال التكرارات مهمة - الطاقة، والتبريد، والمسارات، والتخزين - لكن نمط الفشل أقل وضوحًا من شريحة "وقت التشغيل بنسبة 90%" القديمة. الاستدلال: نسخ احتياطي، وتفريغ العقدة المعطلة، والاستمرار في الاستجابة. التدريب يتطلب نقاط تفتيش، لا تفاؤلًا.

الموقع، والمياه، وشبكة الكهرباء، والجيران

لا تضع واحدة من هذه الأشياء بجوار كوخ من أجل المنظر.

غالباً ما يكون ربط الشبكة هو العامل الحاسم في عملية اختيار الموقع. فالأرض أسهل من محطة فرعية وشبكة مرافق تخدم عملاء آخرين. أما الماء للتبريد، إن استُخدم، فيُصبح مشكلة مع الجيران بمجرد هطول الأمطار الغزيرة. الضوضاء. الحجم الكبير. الحرارة عند السياج الحدودي. تكتشف لجان التخطيط آراءً حول "السحابة" بمجرد حاجتها إلى حقل ونهر.

يؤثر زمن الاستجابة سلبًا. يفضل الاستدلال التواجد بالقرب من المستخدمين وشبكات الربط البيني. يمكن للتدريب أن يختبئ في أسواق الطاقة الأرخص والمناخات الأكثر برودة. يتحدث القطاع كما لو أن هناك موقعًا مثاليًا واحدًا. لا يوجد. هناك حل وسط يتم التوصل إليه عبر بيان صحفي.

الحرارة المتبقية والفرن غير المرغوب فيه

تُحب الكتيبات هذه الفكرة. "توجيه الحرارة المهدرة إلى المنازل والمسابح والبيوت الزجاجية"؛ إنها عبارة جذابة. أحيانًا يكون مسار التبريد في الحيّ حقيقيًا. وأحيانًا يكون موقع الحرم الجامعي غير مناسب، ومع ذلك تتسرب الحرارة إلى الهواء. أنا متشكك في رواية الكتيبات، لكنني لست متشككًا في الأسس الفيزيائية.

من يحتاج إلى واحد (ومن ينبغي عليه الاستئجار بدلاً من ذلك)

لا يحتاج معظم الناس إلى امتلاك إحدى هذه القاعات.

القائمة المختصرة:

• شركات الحوسبة السحابية العملاقة، لأن المنتج هو أسطولها

• في المختبرات، عندما يكون وقت الانتظار هو عنق الزجاجة، أو عندما لا يمكن للبيانات المغادرة

• قد يكون من المنطقي أن يحتفظ بنك أو مجموعة مستشفيات أو حكومة أو شركة مصنعة بمجموعة بيانات سرية - سواء كانت مخزنة محلياً أو في مركز بيانات خاص - حتى لو كان ذلك أمراً معقداً

ينبغي على الجميع استئجارها. استضافة مشتركة بكثافة جاهزة للذكاء الاصطناعي. حجز سحابي. مجموعة خوادم مُدارة. ستحصل على مُسرّعات الأداء دون أن تُصبح مُشغّل محطة طاقة. يتلاشى هذا الحماس بمجرد أن يسأل أحدهم عن المسؤول عن نظام التبريد في الساعة الثالثة صباحًا.

لا أنكر وجود شعور بالفخر. فامتلاك المجموعة يشبه امتلاك وسائل التنبؤ. ثم تصل فاتورة الكهرباء، فيتلاشى ذلك الشعور بالفخر.

ما الغرض من المبنى

إذن، ما هو مركز بيانات الذكاء الاصطناعي؟ هو عبارة عن مجمع متخصص عالي الكثافة، حيث تُنظَّم فيه مُسرِّعات البيانات والطاقة والتبريد والبنية التحتية والتخزين حول تدريب النماذج وخدمتها - وليس مجرد بنية تحتية عامة للأجهزة مع وحدة معالجة رسومية في زاوية ما. يبدو كمستودع، لكنه يعمل كمحطة طاقة تُجري عمليات حسابية معقدة.

إذا لم تتذكر شيئًا آخر: فإنّ الرقائق الإلكترونية هي التي تحظى بالشهرة، بينما تُحدّد محطة التحويل، ونظام التبريد، والشبكة ما إذا كانت تلك الرقائق فكرة جيدة أم لا. يمكن للتدريب والاستدلال أن يتشاركا سقفًا واحدًا، لكنهما سيظلان يتطلبان أساليب مختلفة. ينبغي لمعظم المؤسسات أن تستأجر، بينما ينبغي لقلة منها أن تبني. سيلاحظ الجيران ذلك في كلتا الحالتين.

لطالما كان للسحابة مبنى. أما اليوم، فالمبنى له آراء.

مثال واقعي: خلية تدريب ذات رفّين عندما لا يمكن للصور مغادرة

سيناريو

توموس هو مسؤول البنية التحتية في شركة كيستريل بريسيجن، وهي شركة تصنيع تضم 400 موظف في منطقة ويست ميدلاندز. لديهم بالفعل قاعة صغيرة داخل مقر الشركة: نظام تخطيط موارد المؤسسات (ERP)، ومشاركة الملفات، والآلات الافتراضية، وهي البيئة المختلطة التي بدأنا بها هذه المقالة. تبريد هوائي. إيثرنت عادي. شبكة تخزين (SAN) مناسبة تمامًا لأقراص المكتب.

يحتاج فريق الرؤية الآلية إلى تدريب نموذج فحص على أجهزة التقطير في المصنع. لا يمكن نقل هذه الأجهزة خارج الموقع، فهي تُظهر عملية لن تقوم الشركة بتخزينها على قرص سحابي، حتى لو كان خاصًا. يتمثل حل قسم المشتريات في أربعة خوادم ثنائية التسريع وشريحة بعنوان "مركز بيانات الذكاء الاصطناعي الخاص بنا". تم وضع الخوادم في رفّين موجودين، نظرًا لوجود مساحة كافية، والتي كانت تُشكل العائق الأكبر.

ليس الأمر كذلك. في غضون أسبوعين، تبدو وحدات معالجة الرسومات مشغولة ثم تخفّض سرعتها تدريجيًا. تتباطأ العمليات بشكل كبير عند وصول نقطة التفتيش إلى شبكة التخزين. تتعطل إحدى العقد في الساعة الحادية عشرة، وينتهي كل شيء. لم يفشل توموس في شراء الرقائق، بل اشترى مجموعة من محطات العمل باهظة الثمن في مبنى واحد. كان المبنى لا يزال قاعة اجتماعات للشركات.

لا يحتاجون إلى مجمع، أو محطة فرعية جديدة، أو حتى نهر. ما يحتاجونه هو خلية صغيرة تعمل كمركز بيانات ذكاء اصطناعي مصغر: طاقة تتناسب مع قدرة الخوادم على استيعابها، وحرارة تُصرف دون إتلاف الرقائق، وشبكة بيانات تُمكّن عملية التدريب من التواصل، ومساحة تخزين قادرة على حفظ نقاط التحقق، ودليل تشغيل في حال تعطل أي عقدة. ولأن الصور لا يمكن نقلها، فإن استئجار حاوية تخزين على بُعد أربعين دقيقة ليس الحل. الحل يكمن في تحديث خادمين.

ما تحتاجه الخلية

• يتم تحديد ميزانية الطاقة في ذلك الصف بناءً على وحدات توزيع الطاقة، وليس على متطلبات وحدة معالجة الرسومات. إذا لم تتمكن السعة المتبقية من تزويد الخوادم الأربعة بالطاقة اللازمة للتدريب، يتوقف النقاش عند هذا الحد، ويتجهون إلى مركز بيانات أكثر كثافة، وليس إلى حلول سحرية

• لم يُطلب من نظام تبريد الهواء التعامل مع هذه الكثافة: مبادلات حرارية خلفية إذا كانت القاعة تتسع لها، أو دائرة تبريد سائلة صغيرة إذا كانت تتسع لها أيضًا. وإذا لم يتوفر أي منهما، فلن يتم تركيب الخوادم

• يجب توفير بنية مخصصة عالية النطاق الترددي بين العقد الأربع، وليس شبكة إيثرنت المكتب. إذا كان لدى المورّد محوّل بسرعة 10 جيجابت فقط في الكتالوج، فهذا لا يُعدّ مجموعة خوادم

• التخزين المحلي السريع لنقاط التفتيش وأجزاء التدريب، وليس شبكة تخزين الأجهزة الافتراضية

• مُجدوِل، وفترة تفتيش، ومسار إعادة تشغيل مكتوب. الأجهزة هي العنصر الأساسي. هذه الطبقة هي المهمة

• صندوق استدلال مُسيّج لخط الإنتاج، منفصل عن أحاديث التدريب، لأن الخدمة تتطلب زمن استجابة منخفضًا وعزلًا، وليس بشكل جماعي

• يُطلب الإذن بتسجيل بيانات الطاقة، وترددات وحدة معالجة الرسومات، وأحداث خفض التردد، ووقت تشغيل المهمة. إذا لم يتمكنوا من فحص هذه البيانات، فسوف يقومون بتصوير وحدات معالجة الرسومات ولن يلاحظوا المفاتيح

مثال على التعليمات

يوضح توموس هذا الأمر في موجز المرافق، بلغة بسيطة:

لا تسمّوا هذا المكان "حرمًا للذكاء الاصطناعي". أنشئوا وحدة تدريب ثنائية الرفوف في القاعة الحالية لأربعة خوادم ثنائية التسريع. ستبقى صور المصنع في الموقع. النجاح هو: أن تُكمل العُقد الأربع دورة تدريبية من 12 مرحلة فحص دون أي تباطؤ حراري، وأن تُنشئ نقطة تفتيش في دقائق معدودة لا عشرات الدقائق، وأن تستأنف التدريب من تلك النقطة عند تعطيل رتبة عمدًا. يجب أن يُحافظ نظام التبريد على عمل وحدات معالجة الرسومات بترددات التدريب. يجب أن تكون الشبكة مُشتركة بين هذه الخوادم الأربعة، لا مجرد مسار عبر بنية المكتب. يجب أن تُغذّي وحدات التخزين الرقائق. إذا لم يكن تركيب مُبادلات حرارية خلفية مُناسبًا، فأخبروا بذلك وتوقفوا. لا تُقدّموا تقديرًا لفعالية استخدام الطاقة (PUE) لرفوف في قاعة مُختلطة. هذا الرقم مُبالغ فيه.

ثم يضع هذا في وظيفة التدريب نفسها:

قم بتفعيل نقطة تفتيش كل 30 دقيقة في منطقة التدريب السريع المحلية. في حال خسارة أحد اللاعبين، أعد بدء التدريب من آخر نقطة تفتيش مكتملة. لا تنتظر في منطقة التدريب. لا تستمر في التدريب أثناء انخفاض الوقت بسبب الحرارة. سجّل ذلك وتوقف حتى نتمكن من معرفة سبب التوقف.

الساعة المثالية تبدو كالتالي: جميع وحدات معالجة الرسومات الثمانية تعمل بترددات التدريب، وتم تحميل ملف نقطة التفتيش، والعملية تسير بسلاسة. أما الساعة السيئة فتبدو كالتالي: المراوح تعمل بأقصى سرعة، وترددات المعالجات منخفضة، وتمت كتابة 2% من نقطة التفتيش بعد عشر دقائق، ويقول أحدهم في المكتب: "المجموعة جاهزة". لكن "جاهزة" لا تعني أنها جاهزة للتدريب.

كيفية اختباره

إنهم يكتبون الاختبار قبل التحديث، وهذا هو الهدف الأساسي من عدم الثقة في العرض التوضيحي.

• نفس الوصفة المكونة من 12 مرحلة، ونفس 120 ألف صورة ثابتة للفحص، وثماني عمليات تشغيل

• يُقاس التوقيت بالساعة الفعلية حتى اكتمال الوصفة، بما في ذلك أي إعادة تشغيل، بدءًا من إرسال المهمة وحتى آخر نقطة تفتيش في الحقبة 12

• تجنب ارتفاع درجة الحرارة: تبقى ترددات وحدة معالجة الرسومات عند المستوى المستهدف للتدريب طوال فترة التشغيل. يُعتبر حدث خفض التردد فشلاً حتى لو انتهت المهمة في النهاية

• مراجعة التخزين: وقت كتابة نقطة التفتيش، والمتوسط، والأسوأ، من سجل المهمة

• إعفاء من العمل على القماش: لا يبقى العمل معلقًا في انتظار جماعي طالما أن الرتبة سليمة. إذا لم يتمكنوا من رؤية هذا الانتظار، فإن عملية التجهيز لم تكتمل

• يتم قتل اثنين من أصل ثمانية لاعبين في خطوة ثابتة، عن قصد، لاختبار مسار إعادة التشغيل

• يُعدّ الاستدلال اختبارًا منفصلاً يتكون من 200 صورة، يُجرى من خط الإنتاج إلى صندوق التقديم المُسيّج. ولا يُحتسب نجاح التدريب ضمن نجاح التقديم

• يسجلون استهلاك الطاقة من وحدات توزيع الطاقة في الخوادم على شكل عينات مدتها 15 دقيقة، لذلك لا داعي لاختراع وحدة الميغاواط

الموافقة على تسمية الخلية "جاهزة للذكاء الاصطناعي": إتمام 8 من أصل 8 وصفات؛ عدم ظهور أي من أصل 8 حالات تباطؤ حراري؛ استئناف كلا العمليتين المتوقفتين؛ بقاء نقاط التفتيش بالدقائق. إذا فاتهم ذلك، فلا يزال لديهم غرفة خوادم مزودة ببطاقات رسومات متطورة.

نتيجة

نتيجة توضيحية، من اختبار وهمي مكون من ثماني جولات، وليست رقماً منشوراً من Kestrel.

الافتراضات: أربعة خوادم ثنائية التسريع في رفّين؛ نموذج فحص واحد؛ 120,000 صورة ثابتة؛ ثماني عمليات تشغيل لوصفة ثابتة من 12 دورة؛ يشمل وقت التشغيل عمليات إعادة التشغيل حتى انتهاء الوصفة؛ يعني التقييد انخفاضًا مسجلاً في وقت التدريب؛ وقت نقطة التفتيش هو الكتابة، وليس الرغبة؛ طاقة الرف هي عينات PDU، وليست PUE الحرم الجامعي.

قبل التحديث، كانت وحدات معالجة الرسومات (GPUs) في رفوف التبريد الهوائي العادية متصلة بشبكة إيثرنت المكتب وشبكة تخزين الأجهزة الافتراضية (VM SAN):

• أُنجزت 5 من أصل 8 محاولات من المحاولة الأولى. متوسط ​​الوقت المستغرق بين هؤلاء الخمسة: 14 ساعة

• اضطر 3 من أصل 8 إلى إعادة المحاولة بعد توقف دام حوالي 11 ساعة (اثنان بعد تعطل عقدة بسبب نقطة تفتيش قديمة، وواحد بعد امتلاء نقطة التفتيش بشبكة التخزين). تمت إعادة المحاولة فورًا، دون انتظار طوال الليل: 11 ساعة ضائعة بالإضافة إلى محاولة ثانية استغرقت 14 ساعة، أي 25 ساعة لإتمام الوصفة على هؤلاء الثلاثة

• متوسط ​​الوقت اللازم لإتمام الوصفة لجميع الوصفات الثماني، بما في ذلك حالات إعادة التشغيل: ١٨ ساعة. (خمس وصفات استغرقت ١٤ ساعة، وثلاث وصفات استغرقت ٢٥ ساعة. الوسيط لجميع الوصفات الثماني لا يزال ١٤ ساعة، مما قد يخفي حالات إعادة التشغيل. لذلك، يُعتبر المتوسط ​​هو الأساس هنا.)

• تم تسجيل ارتفاع درجة الحرارة في 7 من أصل 8 محاولات. متوسط ​​الوقت عند انخفاض سرعة المعالج: 3 ساعات في محاولة استمرت 14 ساعة

• كتابة نقطة التفتيش: متوسط ​​22 دقيقة

• لم يكن القتل العشوائي اختبارًا يمكنهم اجتيازه. لم يكن لديهم خطة عمل. وكانت حالتا الوفاة العرضية هما النتيجة

• بلغ الحمل الأقصى لتكنولوجيا المعلومات على الرفين أثناء التدريب حوالي 18 كيلوواط. كان الصف مزودًا بالواط. لكنه لم يكن مزودًا بنظام تبريد أو قماش

بعد تركيب مبادلات حرارية خلفية على هذين الرفين، وشبكة مخصصة بين العقد الأربعة، ومجموعة صغيرة من وحدات تخزين NVMe لنقاط التحقق، ونقاط تحقق كل 30 دقيقة، ودفتر تشغيل لإعادة التشغيل:

• تم إنجاز 8 من أصل 8 من المحاولة الأولى. متوسط ​​الوقت المستغرق: 9 ساعات

• الخنق الحراري: 0 من 8

• كتابة نقطة التفتيش: متوسط ​​90 ثانية. أسوأ زمن في المجموعة: 3 دقائق

• استؤنفت عمليتا القتل المتعمدتان من نقطة التفتيش الأخيرة بعد 30 دقيقة. استغرقت كلتا العمليتين حوالي 40 دقيقة إضافية، بما في ذلك وقت التشخيص، ليصل إجمالي الوقت فيهما إلى حوالي 9 ساعات و40 دقيقة. وبحساب المتوسط، يصبح الوقت الإجمالي 9 ساعات

• لا يزال الحمل الأقصى لتكنولوجيا المعلومات حوالي 18 كيلوواط. نفس الرقائق. سلوك المبنى مختلف

في هذه العينة، انخفض متوسط ​​وقت إنجاز الوصفة من 18 ساعة إلى 9 ساعات، أي 9 ساعات لكل وصفة، على مدار 72 ساعة موزعة على ثماني تجارب. وتحسنت نسبة إنجاز الوصفة من المحاولة الأولى من 5 إلى 8. وانخفضت نسبة استخدام دواسة الوقود من 7 إلى 0. هذا الرقم الأخير هو الذي يحدد ما إذا كانت النتائج إيجابية أم سلبية. لن يعتبروا هذا التغيير في الوقت توفيرًا بنسبة 50% في الإنتاج. ثماني تجارب هي مجموعة صغيرة وسهلة.

هذه الأرقام مجرد تقدير تقريبي مبني على الاختبار المذكور، وعينة صغيرة، ونموذج واحد، وقاعة واحدة مختلطة. وهي لا تمثل مؤشر فعالية استخدام الطاقة (PUE)، ولا تمثل استهلاك الطاقة في الحرم الجامعي بالميغاواط، ولا تُثبت أن شركة كيستريل يجب أن تُنشئ موقع تدريب في منطقة مفتوحة. وقد أظهرت مراجعة السجلات أن الاستهلاك كان ضمن التسع ساعات؛ ولم يتم إخفاؤه. أما رقم 18 كيلوواط فهو قراءة تقريبية لوحدة توزيع الطاقة (PDU)، وليس فاتورة مرافق. ولم يتم تحويل الـ 72 ساعة إلى تكلفة، لأن سعر الكهرباء الموحد للمصنع كان سيُظهر دراسة جدوى غير واقعية.

كان فحص التقديم منفصلاً وأصغر حجماً: 200 صورة خطية للمربع المُسيّج، جميعها في الموقع. هذا استنتاج وليس تدريباً. كان دمج الاثنين خطأً فادحاً، تماماً كخطأ القاعة الهجينة.

ما الذي يمكن أن يحدث خطأً؟

• يستمر قسم المشتريات في تسمية أربعة خوادم بـ"مركز بيانات الذكاء الاصطناعي". يخفي هذا الاسم البنية التحتية، والخطوة التالية هي شراء المزيد من وحدات معالجة الرسومات لنفس القسم المريض

• يتم تركيب أجهزة التبديل من الباب الخلفي، ولا أحد يُشغّل جانب الماء. لا يزال المشجعون يصرخون. ولا تزال الساعات تهبط

• تتكون الشبكة من مفتاح واحد بدون مسار احتياطي. في حال تعطل رابط واحد، ستعود "المجموعة" إلى أربع محطات عمل فقط

• تبقى نقاط التحقق على شبكة التخزين (SAN) لأن مجموعة NVMe كانت في "المرحلة الثانية". لا تصل المرحلة الثانية قبل العقدة المعطلة التالية

• يُقدّمون تقديرًا لقيمة PUE لرفّين في قاعة مختلطة. المناخ، والحدود، وبقية صف ERP تجعل هذه النسبة غير واقعية

• التدريب والخدمة وجهان لعملة واحدة. يؤدي تدفق السيارات عند نقاط التفتيش إلى تأخير خط الإنتاج. يُعدّ زمن الاستجابة هو المنتج النهائي، وليس الكثافة

• تعطلت إحدى العقد، فتعامل أحدهم مع الأمر على أنه عطل في وقت التشغيل بدلاً من إعادة تشغيل نقطة التفتيش. تحدثت فرق عمليات المؤسسة وفرق عمليات الذكاء الاصطناعي دون جدوى طوال فترة ما بعد الظهر

• كان بإمكانهم استئجار قفص، لولا أن الصور لا يمكنها المغادرة. نسيان هذا القيد يدفعهم إلى محادثة عبر الإنترنت سيتعين عليهم حلها

الخلاصة العملية

إن مركز بيانات الذكاء الاصطناعي، بهذا الشكل، ليس مجرد مستودع، ولا هو فاتورة وحدة معالجة رسومية. إنه بمثابة الخلية التي تُمكّن المُسرّعات من إتمام المهمة: طاقة قادرة على استيعابها، وحرارة مُبرّدة، وبنية تحتية، ونقطة تفتيش، ومسؤول عن معالجة أي خلل. لم تكن شركة Kestrel بحاجة إلى مجمع، بل إلى رفّين فقط للتوقف عن التظاهر. ينبغي لمعظم الفرق استئجار هذا النوع من السلوك. أما الفرق القليلة، التي تمتلك مجموعة بيانات سرية وقاعة قادرة على تحمل الحرارة، فينبغي عليها بناء خلية خاصة بها ورفض الانزلاق.

التعليمات

ما هو مركز بيانات الذكاء الاصطناعي؟

موقع حوسبة عالي الكثافة، حيث تُوظَّف الطاقة والتبريد والشبكات والتخزين لخدمة التدريب المتوازي وتقديم النماذج، بدلاً من صفوف مرتبة من الخوادم العامة. صُمِّم هذا الموقع بحيث يمكن لعدد هائل من المعالجات المُسرِّعة تدريب النماذج وتقديمها دون أي تعطل أو توقف في الشبكة أو انتظار على القرص. قاعة المؤسسة العادية أشبه بحي مختلط، أما قاعة الذكاء الاصطناعي فهي بيئة أحادية، ووحدة قيمتها هي المعالج المُسرِّع، مثل وحدات معالجة الرسومات أو رقائق TPU. تبدو كمستودع، وتعمل كمحطة طاقة تُجري عمليات حسابية.

كيف يختلف مركز بيانات الذكاء الاصطناعي عن مركز البيانات العادي؟

تُحسّن مراكز البيانات التقليدية أداء أحمال العمل المختلطة ووقت التشغيل عبر العديد من الخدمات الصغيرة. أما مراكز الذكاء الاصطناعي، فتقلب هذه النسب رأسًا على عقب: تزداد الكثافة، وتصبح الشبكة بنية أساسية لا غنى عنها لعملية التدريب، ويجب أن تحافظ وحدات التخزين على استمرارية نقاط التحقق وإلا ستتوقف المعالجات عن العمل. يفكر فريق عمليات المؤسسات من خلال التذاكر وفترات التغيير، بينما يفكر فريق عمليات الذكاء الاصطناعي من خلال قوائم انتظار المهام والشعور بالإحباط عند تعطل عقدة ما في وقت متأخر من عملية طويلة. يمكنك تسمية كلا النوعين بمراكز البيانات، فالتسمية تخفي البنية التحتية.

لماذا تستهلك مراكز بيانات الذكاء الاصطناعي كل هذه الطاقة؟

ليس المعالج المركزي المتطور هو العنصر الأبرز في هذه الخوادم، بل وحدات المعالجة المركزية: وحدات معالجة الرسومات أو رقائق الذكاء الاصطناعي الأخرى، مُجمّعة في الخوادم، ثم في رفوف، ثم في صفوف تتشارك في بنية عالية النطاق الترددي. يكمن التحدي في كثافة الوحدات في كل رف: عدد أقل من الرفوف، كل منها بمثابة فرن صغير. تظهر أحمال تكنولوجيا المعلومات بالميغاواط بمجرد امتلاء القاعة، مع أن تحديد رقم نموذجي ليس بالأمر المجدي. غالباً ما يكون العامل المحدد هو محطة التحويل، وليس عدد وحدات معالجة الرسومات المطلوبة.

كيف يتم تبريد مراكز بيانات الذكاء الاصطناعي؟

تُفرّغ الخوادم عالية الكثافة الحرارة بطريقة لم يُطلب من الهواء التعامل معها من قبل. يُمكن زيادة تدفق الهواء باستخدام مبادلات حرارية خلفية، وممرات أكثر سخونة، وأنظمة احتواء ذكية. ثم يظهر دور السوائل: التبريد المباشر للرقاقة، وحلقات التبريد، والغمر في بعض التصاميم. المُسرّع الذي يُخفّض الأداء هو مُسرّع دفعت ثمنه مُسبقًا ولا يُمكنك استخدامه بالكامل. لا يزال مؤشر كفاءة استخدام الطاقة (PUE) مهمًا لأن كل واط يُنفق على المراوح والمضخات هو واط لم يذهب إلى وحدة معالجة الرسومات. للماء دورٌ في هذا أيضًا: بعض النباتات تمتص الحرارة، وبعضها يبتلعها.

لماذا تُعدّ الشبكات بنفس أهمية وحدات معالجة الرسومات؟

التدريب أشبه بحوار: آلاف المعالجات المسرّعة تتبادل التدرجات والمعلمات وأجزاء النموذج بتزامن دقيق. إذا اهتزت الشبكة، يتوقف العمل بالكامل على أبطأ نقطة اتصال. لهذا السبب، تُولي مراكز الذكاء الاصطناعي اهتمامًا بالغًا للشبكات عالية النطاق الترددي، وزمن الاستجابة المنخفض، وشبكات شبيهة بـ InfiniBand أو Ethernet، والبنى التي لا تنهار عند تعطل أحد الروابط. أما الاستدلال، فيُعنى بزمن الاستجابة المتأخر، والعديد من الطلبات الصغيرة، والعزل. في هذا السياق، تُعدّ البنية التحتية بمثابة المطعم.

ما هو الغرض من استخدام مركز بيانات الذكاء الاصطناعي: التدريب أم الاستدلال؟

التدريب أشبه بحملة: تجميع مجموعة من الحواسيب، وتزويدها بالبيانات، وإجراء عمليات التحقق بانتظام، وتشغيلها لساعات أو أسابيع. أما الاستدلال فهو أشبه بواجهة عرض: نماذج مُدرَّبة مسبقًا، تُجيب الآن، مع زمن استجابة مهم. تسعى مراكز التدريب إلى توفير الطاقة والمساحة والكثافة. بينما تسعى مراكز الاستدلال إلى تقليل زمن الاستجابة وزيادة الحضور. توجد قاعات هجينة لأن رأس المال ليس بلا حدود، وأحيانًا قاعة واحدة مزودة بحلقتين تبريد. قد يتفوق مُسرِّع أقدم قليلًا بالقرب من العميل على مُسرِّع متطور في قارة أخرى.

لماذا تُعدّ مساحة التخزين مهمة في مركز بيانات الذكاء الاصطناعي؟

يجب أن تصل بيانات التدريب بسرعة كافية لتجنب تعطل وحدات معالجة الرسومات. يجب أن تصل نقاط التحقق في الوقت المحدد حتى لا يؤدي أي عطل إلى ضياع أسبوع كامل من العمل. يجب تحميل أوزان النموذج قبل أن تصبح النسخة المُستخدَمة جاهزة للعمل. إن معدل نقل البيانات، وليس السعة فقط، هو العائق الخفي. يمكنك إنفاق مبالغ طائلة على مُسرّعات المعالجة ثم تقليص مواردها باستخدام مصفوفة مُصممة خصيصًا للأجهزة الافتراضية.

ماذا يحدث عندما تموت عقدة أثناء التشغيل؟

قد يؤدي تعطل معالج واحد في عملية تدريب مترابطة بإحكام إلى توقف العملية بأكملها. يتطلب التدريب نقاط تفتيش، لا مجرد تفاؤل. يستنزف الاستدلال موارد العقدة المعطلة، ويحافظ على استجابة نسخة احتياطية، ويضمن استمرارية العمل. لا تزال فترات التغيير تتعارض مع عمليات التدريب التي لا تتقيد بجدولك الزمني. لا تزال التكرارية مهمة للطاقة والتبريد والمسارات والتخزين، لكن نمط الفشل أقل وضوحًا من نموذج "تسعة من وقت التشغيل" القديم.

ما هو تأثير مركز بيانات الذكاء الاصطناعي على شبكة الكهرباء والمياه والجيران؟

غالبًا ما يكون ربط الشبكة هو العملية الحقيقية لاختيار الموقع. فالأرض أسهل من محطة فرعية وشركة مرافق لها عملاء آخرون. أما الماء للتبريد، إن استُخدم، فيُصبح مشكلة مع الجيران بمجرد هطول الأمطار الغزيرة، إلى جانب الضوضاء، والحجم الكبير، والحرارة عند السياج الحدودي. يمكن أن يختبئ التدريب في أسواق الطاقة الأرخص والمناخات الأكثر برودة. يُفضل الاستدلال أن يكون قريبًا من المستخدمين. لا يوجد موقع مثالي واحد. هناك حل وسط مع بيان صحفي.

هل أحتاج إلى امتلاك مركز بيانات للذكاء الاصطناعي، أم يجب عليّ استئجاره؟

لا يحتاج معظم الناس إلى امتلاك إحدى هذه القاعات. تبني شركات الحوسبة السحابية العملاقة هذه القاعات لأن المنتج هو أسطولها. أما المختبرات فتبنيها عندما يكون وقت الانتظار هو العائق الرئيسي أو عندما يتعذر نقل البيانات. يمكن لبنك أو مستشفى أو جهة حكومية أو مصنع يمتلك مجموعة بيانات سرية أن يبرر استخدام مركز بيانات محلي أو مركز بيانات خاص. أما البقية، فينبغي عليهم الاستئجار: مركز بيانات جاهز للذكاء الاصطناعي، أو حجز خدمة سحابية، أو مجموعة خوادم مُدارة. ستحصل على مُسرّعات الأداء دون أن تُصبح مُشغل محطة طاقة.

مراجع

1. الرابطة الدولية للطاقة - www.iea.org

2. مختبر لورانس بيركلي الوطني - datacenters.lbl.gov

3. الشبكة الخضراء - www.thegreengrid.org

4. مختبر لورانس بيركلي الوطني - datacenters.lbl.gov

5. مختبر لورانس بيركلي الوطني - datacenters.lbl.gov

6. معهد وقت التشغيل - journal.uptimeinstitute.com

7. إنفيديا - developer.nvidia.com

8. إنفيديا - docs.nvidia.com

9. إنفيديا - docs.nvidia.com

10. إنفيديا - docs.nvidia.com

11. جوجل كلاود - docs.cloud.google.com

اكتشف أحدث تقنيات الذكاء الاصطناعي في متجر مساعدي الذكاء الاصطناعي الرسمي

معلومات عنا