#databottleneck

DrHuzam's profile picture

ساتحدث اليوم عن مشكلة تقنية حرجة تواجه #مراكز_البيانات للذكاء الاصطناعي حالياً، وتُعرف باسم "عنق زجاجة نقل البيانات" #DataBottleneck. وهي المشكلة الأكبر والأكثر إلحاحاً اليوم. وهي ان الشركات تدفع مبالغ طائلة لشراء رقائق #اشباه_الموصلات "إنفيديا" (Nvidia)، لكنها لا تستفيد إلا بـ 5% إلى 15% فقط من قوتها الحقيقية. يعني مثلا: تخيل أنك تملك 1000 من أسرع الطباخين في العالم (وحدات معالجة الرسوميات)، ووضعتهم في مطبخ واحد لإعداد وجبة كبيرة (نموذج الذكاء الاصطناعي). الطبابيخ خارقون وسريعون جداً، لكن الممرات بين الطاولات ضيقة جداً، ونظام توزيع المقادير بطيء (البرمجيات وشبكة نقل البيانات). النتيجة؟ يقضي هؤلاء الطبابيخ معظم وقتهم واقفين دون عمل، بانتظار وصول المكونات إليهم. 💥هذا يعني ان الشرائح قوية ولكنها "تنتظر"، فالمشكلة ليست في قدرة الشريحة نفسها، بل في الوقت الضائع وهي تنتظر وصول البيانات لتشغيلها. ان هذه الشرائح صُممت في الأصل لمعالجة رسوميات الألعاب والكمبيوتر. ولكنها لم تُبْنَ في الأساس لتنسيق العمل الفوري والضخم بين آلاف الشرائح في نفس اللحظة. فنماذج الذكاء الاصطناعي الحديثة (مثل GPT) ضخمة جداً ولا يمكن لشريحة واحدة استيعابها، لذلك يتم ربط عشرات الآلاف من المعالجات (مثل Nvidia Blackwell أو Ultra-Ethernet clusters) لتعمل كحاسب عملاق واحد. هنا تتحول مراكز البيانات من "مراكز حوسبة" إلى "شبكات اتصالات عملاقة". وتظهر الاختناقات أثناء عملية معالجة طلبات المستخدمين (Inference)، حيث تحتاج الشرائح لتبادل "الأرقام والأوزان البرمجية" فيما بينها بسرعة فائقة. ونظراً لأن شبكات نقل البيانات والبرمجيات المسؤولة عن التوجيه أبطأ بكثير من سرعة الحساب داخل الشريحة، يحدث "ازدحام مروري" للبيانات، فتبقى الشرائح الخارقة في حالة خمول دون استفادة. وهناك اسباب كثيره لهذه الاختناقات منها: 📍أسباب فيزيائية (نحاس وذاكرة). 📍أسباب هندسية (تبريد وشبكات شرق-غرب). 📍أسباب برمجية ولوجستية (التخزين وتزامن الشرائح). 💥💥ماذا يفعل المهندسين لتفادي هذا الهدر الكبير؟ 💥💥 ماهي فرصة الشركات الناشئة في مجال أشباه الموصلات خاصة في الصين .. لبناء شرائح وبرمجيات جديدة ركيزتها الأساسية ليست سرعة الحساب فقط، بل سرعة نقل البيانات بين الشرائح وتفادي هذا الخمول. 💥💥إذا تمكنت من تحديد "عنق الزجاجة" القادم، فبإمكانك تحديد فرصة الاستثمار الكبرى التالية. 1️⃣

د. حزام بن سعود السبيعي

14,104 views • 24 days ago

No more content to load