بيرنشتاين يعلق على سبع تقنيات ذاكرة: بعد HBM، تتنافس DRAM وNAND على سوق التريليون دولار القادمة
Blockbeatsخلال العامين الماضيين، كانت سردية سوق ذاكرة الذكاء الاصطناعي تدور بالكامل تقريبًا حول HBM. ولكن مع تحول النماذج الكبيرة من التدريب إلى الاستدلال واسع النطاق، لم يعد مجرد زيادة HBM كافيًا لحل جميع المشكلات.
أشار بيرنشتاين في أحدث تقرير عالمي عن الذاكرة إلى أن متطلبات الذاكرة تختلف بشكل كبير باختلاف أحمال عمل الذكاء الاصطناعي: فالتدريب يركز على القدرة الحاسوبية وعرض النطاق الترددي، بينما تعتمد مرحلة فك التشفير في الاستدلال بشكل أكبر على السعة، ويتطلب التوليد المعزز بالاسترجاع (RAG) قواعد بيانات واسعة النطاق، كما تزيد سير عمل العميل الذكي (Agent) من العبء على الخوادم التقليدية وخوادم الذكاء الاصطناعي في آن واحد.
وهذا يعني أن التغييرات التي يجلبها الذكاء الاصطناعي تنتقل من HBM إلى الأسفل نحو ذاكرة DRAM النظامية، وأقراص SSD، وأقراص HDD، وحتى التخزين على الأشرطة المغناطيسية. وحول "جدار الذاكرة"، بدأت سلسلة الصناعة في إدخال منتجات جديدة بين المستويات القائمة، سعيًا لإيجاد توازن جديد بين الأداء والسعة والتكلفة.
قد يعتمد الحد الأقصى لحجم الاستدلال على ذاكرة التخزين المؤقت KV
في مرحلة تدريب النماذج الكبيرة، تظل وحدات معالجة الرسومات (GPU) وذاكرة HBM في موقع مركزي.
يتطلب التدريب قراءة متكررة لمعلمات النموذج والبيانات الوسيطة، مما يفرض متطلبات عالية على القدرة الحاسوبية وعرض النطاق الترددي للذاكرة. لكن تدريب نموذج كبير لا يعتمد فقط على HBM: إذ يجب حفظ مجموعات البيانات الخام في وسائط تخزين أقل تكلفة؛ وقبل دخول البيانات إلى وحدة معالجة الرسومات، عادةً ما يتم التخزين المؤقت والمعالجة المسبقة بواسطة ذاكرة DRAM النظامية وأقراص SSD المحلية؛ كما يتطلب التدريب الذي يستمر لأسابيع أو حتى أشهر حفظ نقاط تفتيش بشكل دوري لتجنب بدء المهمة من الصفر في حال حدوث عطل في الأجهزة أو البرامج.
لذلك، فإن عملية تدريب كبيرة واحدة تستدعي في الواقع نظامًا متكاملًا يشمل HBM وذاكرة DRAM النظامية وأقراص SSD المحلية والتخزين الشبكي.
عند الانتقال إلى مرحلة الاستدلال، تتباين متطلبات الذاكرة بشكل أكبر.
يمكن عادةً تقسيم الاستدلال إلى مرحلتين: التعبئة المسبقة (Prefill) وفك التشفير (Decode). تتولى التعبئة المسبقة معالجة مدخلات المستخدم وتوليد أول وحدة (Token)، وتنفذ بشكل أساسي عمليات مصفوفات واسعة النطاق، وتكون أكثر تقيدًا بالقدرة الحاسوبية. في هذه المرحلة، يكون استخدام وحدة معالجة الرسومات وعرض النطاق الترددي لذاكرة HBM أكثر أهمية، والمؤشر الشائع هو زمن انتقال أول وحدة.
أما مرحلة فك التشفير فمختلفة. يحتاج النموذج إلى توليد الوحدات واحدة تلو الأخرى، وعند توليد وحدة جديدة يستدعي المعلومات التي تم إنتاجها سابقًا. ولتجنب إعادة الحساب، عادةً ما يحفظ النظام هذه البيانات في ذاكرة التخزين المؤقت KV.
تتميز ذاكرة التخزين المؤقت KV بخاصيتين مهمتين: سعتها تزداد بشكل خطي مع طول السياق، ويحتاج كل مستخدم إلى ذاكرة تخزين مؤقت مستقلة. لذلك، عندما يطول السياق ويزداد عدد المستخدمين المتزامنين، يتضافر العاملان لرفع استهلاك الذاكرة.
يعتقد بيرنشتاين أنه في عمليات نشر الذكاء الاصطناعي واسعة النطاق، قد تتجاوز الذاكرة التي تشغلها ذاكرة التخزين المؤقت KV معاملات النموذج، لتصبح العامل الرئيسي الذي يحد من عدد المستخدمين المتزامنين ونافذة السياق. فعدد المستخدمين الذين يمكن للنموذج خدمتهم وطول السياق الذي يمكنه الحفاظ عليه سيؤثران في النهاية بشكل مباشر على حجم الإيرادات.
من هذا المنطلق، فإن المنافسة في عصر الاستدلال لا تقتصر على مقدار الحسابات التي يمكن للرقاقة إنجازها، بل تشمل أيضًا التكلفة التي يحفظ بها النظام السياق المتزايد ويقرؤه.
RAG والعميل الذكي يدفعان الطلب نحو الذاكرة التقليدية
أدى انتشار RAG والعميل الذكي إلى توسع طلب تخزين الذكاء الاصطناعي إلى ما هو أبعد من HBM.
يتضمن RAG بشكل أساسي مرحلتين: بناء قاعدة البيانات والاسترجاع منها. عند بناء قاعدة البيانات، يحتاج النظام إلى معالجة كميات كبيرة من البيانات غير المهيكلة مثل ملفات PDF وصفحات الويب والأكواد البرمجية، ثم تحويلها إلى متجهات وفهارس قابلة للبحث. تعتمد هذه العملية بشكل أكبر على أقراص SSD عالية السعة وذاكرة DRAM النظامية، بينما يكون دور HBM محدودًا نسبيًا.
بعد إنشاء قاعدة البيانات، يتم أولاً تحويل استعلام المستخدم إلى متجه، ثم مطابقته مع محتويات قاعدة البيانات. يمكن توليد المتجهات بسرعة في وحدة معالجة الرسومات وذاكرة HBM، لكن البحث الفعلي يعتمد عادةً بشكل أكبر على ذاكرة DRAM النظامية. ثم تُدمج نتائج الاسترجاع مع سؤال المستخدم وتدخل في عملية التعبئة المسبقة وفك التشفير العادية.
العبء الذي تفرضه سير عمل العميل الذكي أكبر.
المحادثة التقليدية عادةً ما تكون استدعاءً واحدًا من نوع "إدخال – نموذج – إخراج"، أما العميل الذكي فيحتاج إلى تقسيم الهدف إلى خطوات متعددة، واستدعاء نماذج أخرى أو أدوات خارجية، وحفظ النتائج الوسيطة، وإعادة التخطيط بناءً على التغذية الراجعة. وكل نتيجة ينتجها استدعاء قد تصبح مدخلاً لاستدعاء النموذج التالي.
وهذا يزيد من نوعين من الطلب في آن واحد: من ناحية، تتطلب استدعاءات الأدوات والمهام غير المتعلقة بالذكاء الاصطناعي مزيدًا من قدرة المعالجة المركزية وذاكرة النظام؛ ومن ناحية أخرى، يؤدي التمرير المستمر للسياق بين نماذج متعددة إلى توسيع عبء التعبئة المسبقة وفك التشفير وذاكرة التخزين المؤقت KV بسرعة.
لذلك، فإن تطور تطبيقات العميل الذكي لا يفيد فقط وحدات معالجة الرسومات وذاكرة HBM، بل قد يرفع أيضًا الطلب على ذاكرة DRAM للخوادم وأقراص SSD المؤسسية ووسائط التخزين الأقل تكلفة.
بين HBM وأقراص SSD، تظهر مستويات ذاكرة جديدة
يمكن تقسيم نظام الذاكرة في الخوادم التقليدية تقريبًا إلى ذاكرة التخزين المؤقت داخل المعالج، وذاكرة DRAM النظامية، وأقراص SSD المحلية، والتخزين المشترك. وقد أضافت خوادم الذكاء الاصطناعي HBM إلى هذه البنية، لكن سعة HBM محدودة وتكلفتها مرتفعة، مما يجعل من الصعب عليها تحمل جميع البيانات.
الحل الحالي الذي تتبعه سلسلة الصناعة هو إدخال منتجات جديدة بين المستويات المختلفة.
يحاول CXL دمج الذاكرات الموزعة فيزيائيًا في مجموعة موارد مشتركة، مما يتيح لوحدات المعالجة المركزية ووحدات معالجة الرسومات والأجهزة الموسعة استدعاء ذاكرة DRAM بشكل أكثر مرونة. كما تجمع بعض المنتجات بين DRAM أو SRAM كذاكرة تخزين مؤقت مع NAND، لتقليل التكلفة مع تقصير زمن الوصول.
أما "Storage Next" الذي تروج له NVIDIA، فيحاول نقل جزء من إدارة التخزين من وحدة المعالجة المركزية إلى وحدة معالجة الرسومات، وجعل NAND يحقق زمن وصول وIOPS ودقة وصول للبيانات أقرب إلى DRAM. أطلقت Kioxia سلسلة أقراص SSD من فئة GP بناءً على XL-FLASH. وتعد هذه السلسلة ممثلة لهذا الاتجاه.
يستهدف CMX بشكل أساسي ذاكرة التخزين المؤقت KV. فهو ينشر أقراص SSD في عقد بيانات مستقلة، ويربطها بعقد الحوسبة عبر وحدات DPU وشبكات الإيثرنت ورقائق التبديل. والهدف هو مشاركة سياق الاستدلال بين وحدات معالجة الرسومات المختلفة، وتقليل التخزين المكرر، وفي الوقت نفسه تجاوز حدود سعة الذاكرة في الخادم الواحد.
تشير هذه الحلول مجتمعة إلى اتجاه واحد: لا يمكن لأنظمة الذكاء الاصطناعي الاحتفاظ بجميع البيانات النشطة في HBM لفترات طويلة، بل يجب توزيعها على مستويات مختلفة وفقًا لتكرار الوصول ومتطلبات زمن الانتقال.
تبقى البيانات الساخنة في HBM، وينتقل جزء من السياق إلى ذاكرة DRAM النظامية أو أقراص SSD عالية الأداء. أما البيانات الأكثر برودة فتنزل إلى أقراص SSD العادية وأقراص HDD وحتى الأشرطة المغناطيسية. وكلما كانت مستويات الذاكرة أدق، زادت قدرة النظام على تحقيق التوازن بين الأداء والتكلفة.
تقنيات جديدة تظهر بكثافة، لكن التسويق لا يزال غير مؤكد
حول "جدار الذاكرة"، طرحت سلسلة الصناعة عدة مسارات جديدة.
تخطط سامسونج لتقنية zHBM التي تكدس HBM فوق المعالج، مما يقلل مسافة نقل البيانات. غير أن هذا التصميم يتطلب التعامل مع الحرارة الناتجة عن وحدة معالجة الرسومات، ويفرض متطلبات أعلى على إنتاجية وتكلفة الربط الهجين على مستوى الرقاقة.
أما NVHBM التي تروج لها NVIDIA فتُسند تصميم الشريحة الأساسية إلى NVIDIA، وقد تصنعها TSMC. ومن المتوقع أن يقلل هذا الحل من استهلاك الطاقة ويزيد عرض النطاق الترددي، لكنه قد يضعف قيمة التصميم والتصنيع لشركات الذاكرة في الشريحة الأساسية لـ HBM. ومع توحيد معايير المنتج، قد ينتقل جزء من القيمة المضافة من شركات الذاكرة إلى NVIDIA ومصانع الرقاقات.
أما HBF التي تروج لها SanDisk وSK Hynix فتأمل في استخدام NAND لتوفير عرض نطاق ترددي قريب من HBM، مع الحصول على سعة أكبر وتكلفة وحدة أقل. غير أن الفجوة بين NAND وDRAM في زمن الوصول والأداء لا تزال كبيرة، ويحتاج HBF إلى تجاوز عدة مستويات تقنية، لذا فإن صعوبة التنفيذ ليست منخفضة.
تحاول Intel من خلال ZAM لف رقاقة DRAM بزاوية 90 درجة لتحسين التبريد، وتستهدف تحقيق التطبيق العملي بحلول السنة المالية 2029؛ بينما تستخدم Qualcomm في HBC ذاكرة LPDDR والتغليف التقليدي، متجاوزة تكلفة CoWoS على حساب التضحية بجزء من الأداء.
بالإضافة إلى ذلك، تحاول PIM إضافة قدرة معالجة مباشرة داخل رقاقة الذاكرة لتقليل نقل البيانات بين المعالج والذاكرة. لكن هذا سيغير بنية الحوسبة القائمة، ويتطلب تكيفًا مشتركًا من المعالجات والبرمجيات والشبكات، كما سيؤثر على نظام تقسيم العمل الناضج جدًا بين رقاقات المنطق ورقاقات الذاكرة. ويعتقد بيرنشتاين أن اعتماد الصناعة لها لا يزال محدودًا.
من هذا المنطلق، فإن الزيادة السريعة في عدد الحلول الجديدة لا تعني أن جميع المسارات ستشكل أسواقًا واسعة النطاق. فالتوافق مع منظومة البرمجيات والأجهزة القائمة، وامتلاك ميزة التكلفة، وقدرة أطراف سلسلة التوريد على تحقيق توازن المصالح، كلها عوامل ستحدد النتيجة التجارية النهائية.
المستفيدون من تخزين الذكاء الاصطناعي لن يكونوا شركات HBM فقط
من منظور استثماري، فإن حكم بيرنشتاين واضح نسبيًا: إن تأثير الذكاء الاصطناعي على صناعة الذاكرة ينتشر من عدد قليل من المنتجات الراقية إلى مستويات أكثر.
لا تزال HBM جوهر التدريب والاستدلال عالي الأداء، وستواصل Samsung Electronics وSK Hynix وMicron الاستفادة من الطلب على الذاكرة عالية النطاق الترددي. ولكن مع توسع نطاق الاستدلال، سترتفع أهمية ذاكرة DRAM النظامية وNAND. كما أن تجاوز سعة ذاكرة التخزين المؤقت KV وقواعد بيانات RAG والكميات الكبيرة من البيانات الوسيطة التي ينتجها العميل الذكي ستزيد الطلب على أقراص SSD والتخزين المشترك.
وستستمر البيانات الأكثر برودة في النزول إلى الأسفل. ويقول بيرنشتاين إن نمو البيانات الناتج عن الذكاء الاصطناعي بدأ يزيد الطلب على أقراص HDD؛ وفي بعض السيناريوهات، وبسبب عدم كفاية سعة NAND وHDD، يتزايد الطلب على الأشرطة المغناطيسية التي كانت تستخدم تقليديًا بشكل رئيسي للأرشفة.
يواصل التقرير منح تصنيف "أداء يفوق السوق" لكل من Samsung Electronics وSK Hynix وMicron وSanDisk وSeagate وWestern Digital. حيث تقابل Samsung Electronics وSK Hynix وMicron ذاكرة DRAM وHBM، وتستفيد SanDisk من NAND وHBF، بينما تقابل Seagate وWestern Digital التخزين عالي السعة الأقل تكلفة. أما Kioxia فقد حصلت على تصنيف "أداء دون السوق".
غير أن القيمة الجوهرية لهذا التقرير لا تكمن في سرد مجموعة من اختصارات التقنيات الجديدة، بل في إعادة تعريف حدود سوق تخزين الذكاء الاصطناعي.
كانت الاختناقات في عصر التدريب تتركز بشكل رئيسي في وحدات معالجة الرسومات وذاكرة HBM؛ أما في عصر الاستدلال والعميل الذكي، فبدأت الاختناقات تنتشر على طول نظام الذاكرة بأكمله. إن المنافسة المستقبلية في البنية التحتية للذكاء الاصطناعي تعتمد على عاملين: مدى سرعة الرقاقات في الحساب، وقدرة البيانات على التدفق بكفاءة بين HBM وDRAM وNAND والتخزين المشترك بتكلفة منخفضة بما يكفي.
هذا المحتوى لأغراض معلوماتية وتعليمية فقط، ولا يمثل نصيحة استثمارية تتعلق بـ BTCC. تبذل BTCC قصارى جهدها ولكنها لا تضمن صحة أو دقة أو أصالة المحتوى المذكور أعلاه.