«التوكنات لكل واط» معركة إنفيديا القادمة في الذكاء الاصطناعي
رغم هيمنة إنفيديا على سوق رقائق الذكاء الاصطناعي، فإن معركتها المقبلة لن تكون مجرد تطوير معالجات أسرع أو أكثر قوة. فمع تزايد استهلاك الطاقة وارتفاع تكلفة تشغيل مراكز البيانات، أصبح التحدي الحقيقي هو تحقيق أكبر عدد ممكن من التوكنات لكل واط من الكهرباء. ولهذا السبب، تعيد إنفيديا تصميم بنيتها التحتية وتقنياتها لتجاوز قيود الطاقة والذاكرة، في خطوة قد تحدد مستقبل المنافسة في سوق الذكاء الاصطناعي.
مع احتدام المنافسة في مجال الذكاء الاصطناعي، لم تعد الشركات تتنافس فقط على امتلاك أقوى وحدات معالجة الرسوميات (GPU)، بل أصبح التركيز ينصب على معيار جديد هو : عدد التوكنات التي يمكن توليدها لكل واط من الطاقة (Tokens per Watt).
بالنسبة لشركات الحوسبة السحابية العملاقة مثل Microsoft وAmazon وGoogle وMeta، تمثل التوكنات المقياس الحقيقي للإنتاجية، لأنها تعني عددًا أكبر من طلبات الذكاء الاصطناعي التي يمكن معالجتها، وبالتالي إيرادات أعلى.
الطاقة أصبحت أكبر عقبة أمام توسع الذكاء الاصطناعي
كل جيل جديد من معالجات الذكاء الاصطناعي يستهلك طاقة أكبر من سابقه. ومع استمرار هذا الاتجاه، تواجه الشركات تحديًا يتمثل في زيادة الإنتاجية دون زيادة استهلاك الكهرباء.
ولهذا السبب، لم يعد السؤال هو: كم عدد وحدات GPU التي تمتلكها الشركة؟ بل أصبح: كم عدد التوكنات التي تستطيع إنتاجها من كل ميجاواط من الطاقة؟
كل تحسن في هذا المؤشر يعني تحقيق إيرادات أعلى دون الحاجة إلى بناء مراكز بيانات جديدة أو توفير مصادر طاقة إضافية.
المشكلة ليست في قوة المعالج… بل في الذاكرة
رغم التطور الكبير في أداء وحدات GPU، فإن العديد منها لا يعمل بكامل طاقته بسبب بطء وصول البيانات إليه.
ومع ازدياد حجم نماذج الذكاء الاصطناعي وظهور تطبيقات تعتمد على التفكير متعدد الخطوات والوكلاء الذكيين (AI Agents)، أصبحت ذاكرة KV Cache تستهلك كميات ضخمة من الذاكرة عالية السرعة (HBM).
وهنا تظهر المشكلة؛ فزيادة قدرة المعالجة وحدها لا تكفي إذا لم تتمكن الذاكرة من تزويد المعالج بالبيانات بالسرعة المطلوبة.
كيف تحاول إنفيديا حل هذه المشكلة؟
بدلاً من الاعتماد فقط على زيادة سعة ذاكرة HBM مرتفعة التكلفة، تعمل إنفيديا على تطوير حلول لنقل بيانات KV Cache إلى طبقات ذاكرة أقل تكلفة وأكثر قابلية للتوسع باستخدام تقنيات مثل CMX وSmartNIC وDPU، إضافة إلى الاستفادة من معيار CXL.
الفكرة بسيطة: إبقاء وحدات GPU مشغولة طوال الوقت، وتقليل فترات الانتظار الناتجة عن اختناقات الذاكرة.
وهذا يؤدي إلى:
- زيادة إنتاجية المعالجات.
- تحسين كفاءة استهلاك الطاقة.
- خفض تكلفة تشغيل نماذج الذكاء الاصطناعي.