6.6 البنية التحتية وعمليات الذكاء الاصطناعي

نظرة عامة والدافع

البنية التحتية وعمليات الذكاء الاصطناعي هي تخصص تهيئة، وجدولة، وتشغيل أنظمة الحوسبة، والتخزين، والتقديم المتخصصة التي تتطلبها أحمال عمل الذكاء الاصطناعي، فعل ذلك بفعالية تكلفة، وموثوقية، وقابلية مراقبة. الذكاء الاصطناعي الحديث مكلف التشغيل. يتطلب تدريب وتقديم النماذج الكبيرة مسرّعات نادرة (وحدات معالجة رسومية ووحدات معالجة موتَّرة)، شبكات عالية النطاق الترددي، تخزين متجهات واسع النطاق للاسترجاع (فهرسة البيانات كمتجهات عددية بحيث يمكن إيجاد عناصر مشابهة بسرعة)، وطبقات تقديم مضبوطة لزمن الاستجابة والإنتاجية. إصابة هذه البنية التحتية بشكل صحيح هي الفرق بين ذكاء اصطناعي يتوسع باستدامة وآخر يستهلك ميزانية بهدوء بينما يسلّم أقل من الكافي.

للفرق الكبيرة، المشكلات الأساسية هي النطاق، والندرة، والتكلفة. المسرّعات محدودة وباهظة، فالجدولة والاستخدام يهمان بشكل هائل. وحدات معالجة رسومية خاملة مال محروق، واستدلال سيء التجميع يضاعف التكلفة لكل طلب. تحتاج التطبيقات كثيفة الاسترجاع قواعد بيانات متجهات تبقى سريعة مع نموها. تحتاج تطبيقات الذكاء الاصطناعي التوليدي ترقيم أوامر بإصدار، وخطوط أنابيب تقييم، ومراقبة (تُسمَّى أحيانًا LLMOps) للتشغيل بأمان والتحسن مع الزمن. بلا بنية تحتية مشتركة وانضباط تشغيلي، يقاتل كل فريق المعارك نفسها وتتصاعد التكاليف.

تضيف الحكومة والمؤسسات المنظَّمة متطلبات حول سيادة البيانات، والأمان، والإنفاق القابل للتنبؤ. قد تحتاج نشرًا محليًا أو سحابة سيادية بحيث لا تغادر البيانات والنماذج الحساسة أبدًا حدودًا محكومة. يجب أن تتنبأ وتبرر إنفاق البنية التحتية، وتفي بمعايير الأمان والتوفر. تحمل قرارات البنية التحتية للذكاء الاصطناعي في هذه الإعدادات عواقب متعددة السنوات، فاتخذها بالشراء، والأمان، والخروج في الاعتبار.

المبادئ الأساسية

عامل حوسبة المسرّع كمورد نادر ومكلف يُجدوَل ويُستخدَم، لا يُكدَّس.
حسّن التكلفة لكل وحدة عمل مفيدة، لا القدرة الخام.
حجّم النماذج والعتاد بحجم مناسب للمهمة؛ الخيار الأكبر نادرًا ما يكون الأكثر فعالية للتكلفة.
صمم التقديم لزمن الاستجابة والإنتاجية بالتجميع والتخزين المؤقت كتقنيات من الدرجة الأولى.
اجعل أنظمة الذكاء الاصطناعي قابلة للمراقبة: تتبّع التكلفة، وزمن الاستجابة، والجودة، والأخطاء باستمرار.
رقّم بإصدار وقيّم الأوامر والنماذج بالصرامة نفسها للشيفرة.
خطط لقابلية النقل وتجنب القفل في اختيارات البنية التحتية والتقديم.

التوصيات

خطط وتحكم بحوسبة المسرّع

تنبأ بالطلب على التدريب والاستدلال منفصلين، لأن لهما أشكالًا مختلفة. التدريب متقطع وقابل للجدولة؛ الاستدلال مستمر وحساس لزمن الاستجابة. استخدم جدولات وحصصًا لمشاركة وحدات معالجة رسومية وموتَّرة نادرة عبر الفرق، رتّب أولوية أحمال العمل، وارفع الاستخدام. قِس الاستخدام وعامل الخمول المزمن كمشكلة تُصلَح. امزج سعة محجوزة للحمل الأساسي بسعة عند الطلب أو فورية للاندفاعات للتحكم بالتكلفة. فكّر هل ستكفي مسرّعات أرخص أو أصغر، أو استدلال وحدة معالجة مركزية للنماذج الخفيفة. اختر بين السحابة، والمحلي، والهجين استنادًا إلى التكلفة على نطاقك، احتياجات سيادة البيانات، وأنماط الاندفاع، وأبقِ مسار خروج.

ابنِ بنية تحتية استرجاع: تضمينات وقواعد بيانات متجهات

للتطبيقات المعزَّزة بالاسترجاع، أسس بنية تحتية لتوليد تضمينات (تمثيلات متجه عددية تضع عناصر مشابهة قريبة من بعضها) وخزّنها في قاعدة بيانات متجهات تدعم بحث أقرب جار تقريبي سريعًا (إيجاد المتجهات الأكثر تشابهًا بلا مقارنة كل واحد استقصائيًا) على نطاقك. خطط لثلاثة أشياء: تكلفة وزمن استجابة توليد التضمين، نضارة الفهرس مع تغير المستندات، وعبء التشغيل لإبقاء الفهارس متسقة. قيّم هل قاعدة بيانات متجهات مخصصة، أو امتداد قادر على المتجهات لقاعدة بيانات موجودة، أو خدمة مُدارة تناسب نطاقك وتحملك للقفل. راقب زمن استجابة الاسترجاع والاستدعاء، لأن جودة الاسترجاع تحدد مباشرة جودة التطبيق.

حسّن تقديم النموذج: التجميع، والتخزين المؤقت، وزمن الاستجابة

التقديم حيث تُقرَّر تكلفة الاستدلال وتجربة المستخدم. استخدم التجميع لمعالجة طلبات متعددة معًا ورفع إنتاجية المسرّع، موازنًا حجم التجميع مقابل زمن الاستجابة. استخدم التخزين المؤقت بعدوانية: خزّن مؤقتًا طلبات متطابقة أو متشابهة دلاليًا، خزّن مؤقتًا التضمينات، واستغل التخزين المؤقت للأمر أو البادئة حيث تدعمه المنصة لتجنب إعادة حساب سياق مشترك. ضع أهداف زمن استجابة واضحة، وقِس زمن الاستجابة الذيلي، لا المتوسطات فقط. وجّه الطلبات لنماذج بحجم مناسب: نموذج صغير للحالات السهلة، أكبر فقط عند الحاجة. وسّع تقديمك آليًا مع الطلب، واختبر الحمل قبل الإطلاق بحيث تعرف سعتك ومنحنى تكلفتك.

مارس LLMOps: ترقيم الأوامر بإصدار، وخطوط أنابيب تقييم، ومراقبة

عامل الأوامر كمصنوعات مُرقَّمة بإصدار في التحكم بالمصدر، بمراجعة وقدرة على التراجع. ابنِ خطوط أنابيب تقييم تشغّل مجموعات اختبار دون اتصال آليًا كلما تغيّرت الأوامر أو النماذج، بحيث تلتقط التراجعات قبل الإصدار. أدرج الإنتاج شموليًا: سجّل المدخلات، والمخرجات، وزمن الاستجابة، واستخدام الرموز، والتكلفة، والأخطاء، بمعاينة وضمانات خصوصية. تتبّع إشارات الجودة وتغذية راجعة المستخدم على الاتصال. تتيح لك هذه المراقبة التقاط التدهور، والتحكم بالتكلفة، وتصحيح الإخفاقات، وتحسين الأنظمة بأمان: العمود الفقري التشغيلي للذكاء الاصطناعي التوليدي في الإنتاج.

أدر التكلفة بلا هوادة وبقابلية مراقبة

انسب إنفاق الذكاء الاصطناعي للفرق وحالات الاستخدام بحيث تكون التكلفة مرئية ومملوكة. ضع ميزانيات وإنذارات، راقب التكلفة لكل طلب ولكل نتيجة، وراجع أكبر دوافع التكلفة بانتظام. اسحب الروافع التي تملكها: تحجيم النموذج المناسب، والتخزين المؤقت، والتجميع، وتقليم الأمر والسياق، واختيار أرخص نشر يفي بالمتطلبات. يمكن أن تتوسع تكاليف الذكاء الاصطناعي مع الاستخدام بطرق مفاجئة، فمراقبة تكلفة مستمرة أساسية لتجنب مفاجآت غير سارة.

المفاضلات: الإيجابيات والسلبيات

القرار	الخيار أ	الخيار ب	المفاضلة
موقع الحوسبة	السحابة	محلي	مرونة وتكلفة مسبقة منخفضة مقابل تحكم، وسيادة، واقتصاديات حالة ثابتة
السعة	محجوزة	عند الطلب/فورية	تكلفة قابلة للتنبؤ مقابل مرونة ومخاطرة انقطاع
حجم التجميع	تجميعات كبيرة	تجميعات صغيرة	الإنتاجية والتكلفة مقابل زمن الاستجابة
حجم النموذج	نموذج كبير	نموذج صغير	الجودة مقابل التكلفة والسرعة
مخزن المتجهات	قاعدة بيانات مخصصة	امتداد قاعدة بيانات موجودة	الأداء على النطاق مقابل البساطة وأنظمة أقل
التخزين المؤقت	عدواني	أدنى	تكلفة وزمن استجابة أقل مقابل النضارة والتعقيد

المفاضلة السائدة هي التكلفة مقابل زمن الاستجابة والجودة. تقطع التجميع، والتخزين المؤقت، والنماذج الأصغر التكلفة لكن يمكن أن تضيف زمن استجابة أو تخفض الجودة. التوازن الصحيح يعتمد على تحمل تطبيقك. يتاجر المحلي مقابل السحابة التحكم واقتصاديات الحالة الثابتة مقابل المرونة والالتزام المنخفض، قرار تشكّله بشدة احتياجات سيادة البيانات والنطاق.

أسئلة للنقاش مع فريقك

ما تكلفتنا لكل نتيجة مفيدة اليوم، وأي رافعة ستحركها أكثر؟ تخفي القدرة الخام ومتوسطات كل طلب الرقم الذي يهم: كم يكلف تسليم وحدة قيمة حقيقية واحدة، وكيف يتوسع ذلك مع الاستخدام. لفريق كبير، الفجوة بين نشر مُحسَّن وغير مُحسَّن غالبًا عدة أضعاف في الإنفاق، فهذا السؤال يحوّل قلقًا غامضًا حول الفاتورة إلى قائمة إصلاحات مرتَّبة. أحضر نسبة تكلفة حالية حسب الفريق وحالة الاستخدام، واتجاهات لكل طلب ولكل نتيجة، وأكبر دوافع التكلفة. ناقش الروافع بترتيب العائد: تحجيم النموذج المناسب، والتخزين المؤقت (بما فيه التخزين المؤقت للبادئة والدلالي)، والتجميع، وتقليم الأمر أو السياق. في الحكومة، أضف ضغط التنبؤ وتبرير إنفاق متعدد السنوات. ينبغي أن تعيّن الإجابة لكل دافع تكلفة رئيسي مالكًا ورافعة، لا هزّة كتف.
لو ضاعف مزود استدلالنا الحالي سعره أو انقطع غدًا، كم بسرعة نستطيع التبديل؟ القفل الصامت سهل البناء ومؤلم الهروب منه، ومكدسات التقديم حيث يختبئ أعمق. للمؤسسات وخصوصًا الحكومة، قابلية النقل متطلب شراء واستمرارية، لا مجاملة. أحضر عمارتك: هل تجلس النماذج خلف واجهة داخلية، هل الأوامر ومجموعات التقييم قابلة للنقل، وكم تعتمد على سلوك تقديم خاص بالمزود. الإشارة التي تراقبها هل شغّل أحد مجموعة تقييمك ضد مزود ثانٍ أو هدف نشر ثانٍ أبدًا. إن كان التبديل سيستغرق أشهرًا ويعيد كتابة مسارات أساسية، عامل ذلك كعيب تصميم يجب معالجته الآن، لأن الخيارات السيادية والمحلية قد تصبح إلزامية بإشعار قليل.
ما استخدام مسرّعنا الآن، وكم تحرق وحدات معالجة رسومية خاملة واستدلال غير مجمَّع؟ المسرّعات نادرة ومكلفة، فالخمول المزمن والتقديم لكل طلب يستنزفان بهدوء ميزانيات كان يمكن أن تموّل قدرة أكثر. لمؤسسة كبيرة تتشارك وحدات معالجة رسومية عبر الفرق، يكشف هذا السؤال هل تبقي الجدولة، والحصص، والأولويات الاستخدام مرتفعًا فعليًا أو هل عتاد مكدَّس وناقص الاستخدام هو المعيار. أحضر أرقام استخدام حقيقية، وضعية تجميعك وتخزينك المؤقت، وقياساتك لزمن الاستجابة الذيلي، لا المتوسطات فقط، لأن المستخدمين يشعرون بالذيل البطيء. ناقش هل يُتنبَّأ بطلب التدريب والاستدلال منفصلين، نظرًا لأشكالهما المختلفة، وهل سيكفي نموذج أصغر أو استدلال وحدة معالجة مركزية للحالات الخفيفة. ينبغي أن تشير الإجابة إلى سعة خاملة محددة لاستعادتها وطلبات محددة للتجميع أو التوجيه لنموذج بحجم مناسب.
عندما يُشحَن تغيير أمر أو نموذج، ماذا يوقف تراجع جودة أو تكلفة صامتًا من الوصول للمستخدمين؟ يمكن أن يبدو مكدس تقديم صحيًا على زمن الاستجابة والوقت التشغيلي بينما تسوء الإجابات التي يعيدها بهدوء أو يضاعف أمر جديد استخدام الرموز لكل طلب. لفريق كبير حيث تحرر مجموعات كثيرة الأوامر وتبدّل النماذج مستقلة، تغيير غير محجوب حادثة إنتاج تنتظر الحدوث، ويكبر نطاق الانفجار مع كل فريق على المنصة المشتركة. أحضر تغطية تقييمك: أي الأوامر والنماذج تملك مجموعات اختبار دون اتصال، هل تعمل تلك المجموعات آليًا على كل تغيير، أي عتبات جودة وتكلفة تحجب إصدارًا، وكم بسرعة تستطيع التراجع. ناقش هل تعيش الأوامر في التحكم بالمصدر بمراجعة، أو هل لا يزال يستطيع أحدهم تحرير أمر نظام حي يدويًا. في إعدادات المؤسسات والحكومة، اربط كل تغيير بمسار تدقيق وموافق مسمى، لأن منظمًا يسأل “من غيّر هذا وماذا اختبرت” يحتاج إجابة مسجَّلة، لا مُتذكَّرة.
كيف نقرر بين السحابة، والمحلي، والنشر السيادي، وهل سعّرنا اقتصاديات الحالة الثابتة الحقيقية بدل التجربة؟ يضع اختيار موقع الحوسبة منحنى تكلفتك، ووضعية سيادة بياناتك، وخيارات خروجك لسنوات، ومع ذلك يُتخذ غالبًا على فاتورة سحابة تجربة لا تشبه الإنتاج على النطاق أصلًا. لمؤسسة كبيرة، سعة سحابية مرنة رخيصة للبدء ويمكن أن تصبح أكبر بند واحد بمجرد أن يعمل الاستدلال باستمرار، بينما يتاجر المحلي التزامًا منخفضًا مقابل تحكم واقتصاديات حالة ثابتة. أحضر أحجام تدريب واستدلال متنبَّأة، نقطة التعادل حيث يتفوق عتاد محجوز أو مملوك على عند الطلب، قيود إقامة بياناتك وأمانك، وأنماط الاندفاع التي تحاجج للهجين. في إعدادات الحكومة والمنظَّم، زِن متطلبات سحابة سيادية أو محلية قد تصبح إلزامية بإشعار قليل، وأكّد أن العمارة تبقي النماذج خلف واجهة داخلية بحيث لا تعيد حركة قسرية كتابة مسارات أساسية.
هل نملك فعليًا إنفاق ذكائنا الاصطناعي، وهل يستطيع كل فريق رؤية والإجابة عن التكلفة التي يقودها؟ تتوسع تكلفة الذكاء الاصطناعي مع الاستخدام بطرق تفاجئ الناس، وبلا نسبة تهبط الفاتورة كرقم غامض واحد لا يشعر أي فريق بمسؤولية عن تقليصه. في مؤسسة كبيرة، تكلفة لا يملكها أحد تكلفة لا يحسّنها أحد، فالسؤال هل الإنفاق موسوم للفرق وحالات الاستخدام بميزانيات، وإنذارات، واتجاهات لكل نتيجة، أو هل يُكتشَف فقط عندما تصعّد الشؤون المالية. أحضر نموذج نسبة تكلفتك، أكبر الدوافع حسب الفريق، والروافع التي يتحكم بها كل مالك: التحجيم المناسب، والتخزين المؤقت، والتجميع، وتقليم السياق. لميزانيات المؤسسات والحكومة، أضف انضباط التنبؤ وتبرير إنفاق بنية تحتية متعدد السنوات، لأن هيئة عامة لا تستطيع شرح فاتورة حوسبتها سطرًا بسطر ستكافح للدفاع عنها في المراجعة.

المنظور القطاعي

الشركة الناشئة. لا تملك بنية تحتية تستطيع تجنبها. استدعِ واجهة برمجة تطبيقات استدلال مستضافة، وجّه الطلبات السهلة لنموذج صغير رخيص واحجز أكبر للحالات الصعبة، وخزّن مؤقتًا بعدوانية بحيث لا تكلف الأوامر المتكررة شيئًا. استخدم قاعدة بيانات متجهات مُدارة بدل تشغيل خاصتك، أبقِ الأوامر في git بسكربت تقييم قصير قبل كل تغيير، وسجّل التكلفة لكل طلب بحيث تظهر فاتورة جامحة قبل أن تؤذي. موردك الأندر انتباه الهندسة، فاشترِ قابلية التشغيل وأبقِ التبديل رخيصًا.

الشركة الصغيرة. بلا فريق منصة، عامل التقديم، والاسترجاع، والمراقبة كأشياء تشتريها داخل أدوات تستخدمها بالفعل، لا أنظمة توظّف لها. فضّل استدلالًا مُدارًا وبحث متجهات مُدارًا بتسعير شفاف وقابل للتنبؤ، وضع سقف إنفاق صارمًا وإنذار فوترة منذ اليوم الأول. أطّر القرار كشراء مقابل بناء بصدق: تشغيل وحدات معالجة رسومية أو فهرس متجهات نادرًا ما يعوّض على حجمك، وعادة يفي نموذج صغير خلف واجهة برمجة تطبيقات مستضافة بالحاجة بجزء من الجهد.

المؤسسة الكبرى. المشكلة هي منصة طريق ممهَّد مشتركة عبر فرق كثيرة: مسرّعات مجمَّعة بجدولات، وحصص، وأولويات لرفع الاستخدام، تجميع وتخزين مؤقت قياسيان، موجّهات تحجيم مناسب، وتكلفة منسوبة لكل فريق وحالة استخدام. احجب تغييرات الأوامر والنماذج بمجموعات تقييم آلية، وحّد طبقة الواجهة بحيث يبقى الموردون وأهداف النشر قابلة للاستبدال، وأدر التكلفة لكل نتيجة كمقياس من الدرجة الأولى بدل كل مجموعة تعيد اختراع بنية تحتية مكلفة وناقصة الاستخدام.

الحكومة. تشكّل سيادة البيانات، والأمان، والإنفاق القابل للتنبؤ كل خيار. فضّل نشرًا محليًا أو سحابة سيادية بحيث تبقى البيانات والنماذج الحساسة داخل حدود محكومة، جدوِل وحدات معالجة رسومية نادرة عبر الإدارات بحصص تستطيع تبريرها في الشراء، وتنبأ بالسعة للدفاع عن الإنفاق متعدد السنوات سطرًا بسطر. رقّم بإصدار وقيّم الأوامر والنماذج بمسار تدقيق مسجَّل، أبقِ مراقبة شاملة للتكلفة والجودة، واحجز النماذج خلف واجهة داخلية بحيث لا تحبسك حركة قسرية لمزود جديد أو منصة سيادية.

أمثلة

الشركة الناشئة. أبقت شركة ناشئة صغيرة تشغّل ميزة كتابة بالذكاء الاصطناعي فاتورتها عاقلة بلا امتلاك أي وحدات معالجة رسومية. استدعت واجهة برمجة تطبيقات استدلال مستضافة، وجّهت الطلبات السهلة لنموذج صغير أرخص واحتفظت بالأكبر للحالات الصعبة، وخزّنت مؤقتًا إجابات الأوامر المتكررة. خزّنت أوامرها في git بسكربت تقييم قصير عمل قبل كل تغيير، استخدمت قاعدة بيانات متجهات مُدارة للاسترجاع بحيث لم تضطر لتشغيل واحدة، وسجّلت التكلفة لكل طلب بحيث استطاع المؤسسون رؤية الإنفاق يتصاعد قبل أن يصبح مفاجأة.

المؤسسة الكبرى. قطعت شركة إعلام تشغّل ميزة نموذج لغة كبير عالية الحركة تكاليف استدلالها بشكل كبير. وجّهت الطلبات السهلة لنموذج صغير واحتفظت بنموذج أكبر للصعبة. خزّنت مؤقتًا استجابات الاستعلامات المتكررة وفعّلت تخزين البادئة المؤقت لأمر نظامها المشترك. شغّلت وحدات معالجة رسومية عبر جدولة مشتركة لإبقاء الاستخدام مرتفعًا، رقّمت كل الأوامر بإصدار في git بمجموعة تقييم آلية تحجب التغييرات، وأدرجت التكلفة لكل طلب بحيث ملك كل فريق منتج إنفاقه.

الحكومة. نشرت وكالة وطنية بقواعد سيادة بيانات صارمة أنظمة ذكائها الاصطناعي محليًا بحيث لم تغادر البيانات والنماذج الحساسة بيئتها المحكومة أبدًا. جدولت وحدات معالجة رسومية نادرة عبر الإدارات بحصص وأولويات، تنبأت بالسعة لتبرير الشراء متعدد السنوات، وبنت منصة بحث متجهات للاسترجاع عبر مستندات رسمية. رُقِّمت الأوامر والنماذج بإصدار وقُيِّمت قبل الإصدار. تتبعت مراقبة شاملة التكلفة والجودة، وأبقت العمارة النماذج خلف واجهة داخلية للحفاظ على مسار خروج وتجنب القفل.

حالة العمل: الدوافع والعائد على الاستثمار وتكلفة الملكية الإجمالية

الدافع لبنية تحتية ذكاء اصطناعي منضبطة مباشر. الذكاء الاصطناعي على النطاق مكلف، والفجوة بين نشر مُحسَّن وغير مُحسَّن غالبًا عدة أضعاف في الإنفاق. يأتي العائد على الاستثمار من استخدام مسرّع أعلى، تكلفة أقل لكل طلب عبر التجميع والتخزين المؤقت، نماذج بحجم مناسب، وتجنب التوفير المفرط. تؤتي خطوط أنابيب المراقبة والتقييم ثمارها بمنع حوادث مكلفة وتمكين تكرار آمن.

تمتد تكلفة الملكية الإجمالية عبر حوسبة المسرّع (أكبر بند لأحمال عمل كثيرة)، وتخزين المتجهات، وبنية التقديم التحتية، والشبكات، وموظفي المنصة والعمليات لتشغيلها. زِن ذلك مقابل تكلفة عدم الاستثمار: فواتير استدلال جامحة، زمن استجابة سيء يقوّض التبني، وعدم القدرة على التوسع. للحكومة، أضف تكلفة الفشل في متطلبات السيادة أو الأمان. اعرض القضية على القيادة بإظهار اتجاهات التكلفة لكل نتيجة ومنصة طريق ممهَّد تتيح لفرق كثيرة نشر ذكاء اصطناعي بكفاءة، بدل بناء كل واحد بنية تحتية مكلفة وناقصة الاستخدام.

الأنماط المضادة والمزالق

مسرّعات خاملة. تخصيص وحدات معالجة رسومية نادرة لفرق تتركها ناقصة الاستخدام.
لا تجميع أو تخزين مؤقت. تقديم كل طلب فرديًا وإعادة حساب سياق مشترك.
أكبر نموذج افتراضيًا. استخدام نموذج مكلف حيث يفي واحد صغير بالغرض.
عمى التكلفة. لا نسبة، أو ميزانيات، أو رؤية تكلفة لكل طلب حتى تصل الفاتورة.
أوامر غير مُرقَّمة بإصدار. تغيير الأوامر في الإنتاج بلا ترقيم أو بوابة تقييم.
إهمال زمن الاستجابة الذيلي. تحسين زمن الاستجابة المتوسط بينما يعاني المستخدمون ذيولًا بطيئة.
قفل صامت. البناء بعمق على مكدس تقديم مورّد واحد بلا قابلية نقل.

نموذج النضج

الشروع. تخصيص وحدة معالجة رسومية ارتجالي يستجيب لمن يسأل بصوت أعلى، لا تجميع أو تخزين مؤقت، لا رؤية تكلفة حتى تصل الفاتورة، أوامر مُحرَّرة حية وغير مُرقَّمة بإصدار، مراقبة ضئيلة.
التطوير. تتبنى بعض الفرق جدولة، وتخزينًا مؤقتًا، وأوامر متحكَّم بها بإصدار مشتركة، لكن الممارسة غير متسقة عبر المؤسسة: تجمّع مجموعة وتقيّم بينما لا تزال أخرى تقدّم كل طلب فرديًا وتغيّر الأوامر يدويًا.
التوحيد القياسي. منصة طريق ممهَّد موثقة مفروضة عبر المؤسسة: جدولة مشتركة بحصص وأولويات، تجميع وتخزين مؤقت وتحجيم مناسب قياسيان، بنية تحتية متجهات للاسترجاع، خطوط أنابيب تقييم آلية تحجب كل تغيير أمر أو نموذج، ونسبة تكلفة للفرق وحالات الاستخدام.
الإدارة. المنصة مقاسة ومتحكَّم بها مقابل خطوط أساس: يُتتبَّع استخدام المسرّع، والتكلفة لكل نتيجة مفيدة، وزمن الاستجابة الذيلي، واستدعاء الاسترجاع، وتراجعات الجودة لكل تغيير بإنذارات وعتبات، تملك كل فريق تكلفته، ويُقرَّر الشحن أو الحجب لتغيير على الدليل لا الحدس.
التنسيق الشامل. تتحسن البنية التحتية باستمرار وتتكيف: يضبط التوجيه، والتجميع، والتوسع نفسه لإشارات تكلفة وجودة حية، تُعاد موازنة السعة عبر الفرق وبين أهداف السحابة، والمحلي، والسيادي مع تحول الطلب والقيود، تُمارَس قابلية النقل، وتُدمَج تخطيط البنية التحتية مع المنتج، والأمان، والشراء.

أفكار للنقاش

كيف ترفع استخدام المسرّع بلا تجويع أحمال عمل ذات أولوية؟
أين توازن التجميع والتخزين المؤقت الصحيح لمتطلبات زمن استجابتك؟
متى يبرر النشر المحلي أو السيادي تكلفته على السحابة؟
كيف تنسب وتتحكم بإنفاق الذكاء الاصطناعي عبر فرق كثيرة؟
ماذا ينبغي أن يحجب تغيير أمر أو نموذج من الوصول للإنتاج؟
كيف تبقي بنية التقديم التحتية قابلة للنقل بما يكفي لتبديل الموردين؟

النقاط الرئيسية

المسرّعات نادرة ومكلفة؛ جدوِل، شارك، واستخدمها عمدًا.
التجميع، والتخزين المؤقت، والتحجيم المناسب للنموذج هي الروافع الأساسية للتكلفة وزمن الاستجابة.
تحتاج تطبيقات الاسترجاع بنية تحتية تضمين وبحث متجهات مُشغَّلة جيدًا.
LLMOps (ترقيم الأوامر بإصدار، وخطوط أنابيب تقييم، ومراقبة) هو العمود الفقري التشغيلي للذكاء الاصطناعي التوليدي.
أدر التكلفة بقابلية مراقبة واحفظ قابلية النقل لتجنب القفل.

المراجع والقراءات الإضافية

Chip Huyen, Designing Machine Learning Systems.
Google, Site Reliability Engineering (Beyer, Jones, Petoff, Murphy, editors).
Jared Kaplan et al., Scaling Laws for Neural Language Models.
Reza Yazdani Aminabadi et al., DeepSpeed Inference: Enabling Efficient Inference of Transformer Models at Unprecedented Scale.
Woosuk Kwon et al., Efficient Memory Management for Large Language Model Serving with PagedAttention (vLLM).
Andriy Burkov, Machine Learning Engineering.