كيف تتعامل الشركات مع تكاليف التدريب المرتفعة في عصر النماذج الكبيرة في ظل نقص قوة الحوسبة

robot
إنشاء الملخص قيد التقدم

قوة الحوسبة الخدمات: نموذج أعمال جديد في عصر النماذج الكبيرة

مع ازدهار النماذج الكبيرة في مجال الذكاء الاصطناعي، أصبحت قوة الحوسبة نموذجًا تجاريًا ناشئًا. على الرغم من أن حماس "تكرير الأدوية" للنماذج الكبيرة سوف يتلاشى في نهاية المطاف، إلا أن مقدمي خدمات قوة الحوسبة بحاجة إلى الاستعداد مسبقًا وتعديل اتجاهاتهم الاستراتيجية في الوقت المناسب.

في الآونة الأخيرة، قام شاب تخرج من جامعة تسينغهوا قبل ثلاث سنوات بتدريب نموذج بانغو الضخم للمناخ الذي يحتوي على عدد كبير من المعلمات يصل إلى مليارات. استخدم هذا النموذج بيانات الطقس العالمية على مدى 40 عامًا، واستغرق التدريب المسبق حوالي شهرين باستخدام 200 بطاقة GPU. وفقًا للأسعار الحالية في السوق، قد تتجاوز تكلفة تدريب هذا المشروع 2 مليون يوان. وإذا كان الأمر يتعلق بتدريب نموذج كبير عام، فقد تزيد التكلفة بمئة ضعف.

حاليًا، لدى الصين أكثر من مئة نموذج كبير يحتوي على 10 مليارات معلمة. ومع ذلك، يواجه القطاع عمومًا أزمة نقص في وحدات معالجة الرسوميات عالية الأداء. تظل تكلفة قوة الحوسبة مرتفعة، ونقص قوة الحوسبة والتمويل أصبح مشكلة واقعية تواجه العديد من الشركات.

تعتبر نقص قوة الحوسبة لوحدات معالجة الرسوميات عالية الجودة مشكلة معترف بها في الصناعة. في ذروته، تم رفع سعر وحدة معالجة الرسوميات من نوع إنفيديا A100 إلى عشرين أو ثلاثين ألف يوان، وارتفعت الإيجارات الشهرية لخادم A100 إلى 5-7 آلاف يوان. ومع ذلك، لا تزال بعض الشركات تواجه صعوبة في الحصول على الشرائح المطلوبة. وقال أحد المسؤولين التنفيذيين في صناعة الحوسبة السحابية إن العملاء يطلبون موارد GPU عالية الجودة بشكل كبير، لكن العرض الحالي لا يمكنه تلبية الطلب الواسع في السوق بشكل كامل.

في مواجهة هذا الوضع، يعتقد الكثيرون في الصناعة أنه مع تزايد المنافسة في سوق النماذج الكبيرة، سيعود السوق تدريجياً إلى العقلانية، وسيتعين على الشركات تعديل استراتيجياتها والسيطرة على التكاليف بناءً على التغيرات في التوقعات.

لمواجهة نقص قوة الحوسبة، اتخذت الشركات مجموعة متنوعة من التدابير. بعض الشركات حسنت من كفاءة التدريب من خلال استخدام بيانات ذات جودة أعلى. بينما ركزت بعض الشركات على تعزيز قدرات البنية التحتية لتحقيق تشغيل مستقر لأكثر من ألف كيلو كالوري. وهناك شركات اختارت الانتقال من بنية الحوسبة السحابية إلى بنية الحوسبة الفائقة، أو استخدام منصات محلية لتدريب النماذج الكبيرة واستنتاجها.

قوة الحوسبة已经成为一种新的服务模式。قوة الحوسبة服务是以多样性قوة الحوسبة为基础,通过قوة الحوسبة网络链接,旨在提供有效قوة الحوسبة的新兴产业领域。它不仅包括قوة الحوسبة,还涵盖存储、网络等资源的统一封装,以API等形式完成قوة الحوسبة交付。

في سلسلة صناعة قوة الحوسبة، تقدم الشركات العليا بشكل أساسي موارد قوة الحوسبة الأساسية، بينما تتحمل الشركات المتوسطة مسؤولية إنتاج وتوفير قوة الحوسبة، في حين تستخدم الشركات السفلى خدمات قوة الحوسبة لتقديم خدمات ذات قيمة مضافة. في الوقت الحالي، تعتبر نماذج الفوترة الرئيسية لخدمات قوة الحوسبة هي الفوترة حسب الكمية والاشتراك السنوي أو الشهري.

مع الاعتياد على الطلب المتزايد على الحوسبة عالية الأداء للنماذج الكبيرة، فإن خدمات قوة الحوسبة تتشكل بسرعة في سلسلة صناعية ونموذج تجاري فريد. على الرغم من النقص الحالي في وحدات معالجة الرسوميات عالية الأداء وارتفاع تكاليف قوة الحوسبة، إلا أن هذه الحالة مؤقتة. على المدى الطويل، يحتاج مقدمو خدمات قوة الحوسبة إلى الاستعداد دائمًا للتكيف مع تغيرات السوق، وضبط استراتيجياتهم في الوقت المناسب عندما يعود حماس النماذج الكبيرة إلى العقلانية.

شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • 6
  • مشاركة
تعليق
0/400
Token_Sherpavip
· 07-10 00:38
هههه التعدين بالـ GPU مرة أخرى... نحن لا نتعلم أليس كذلك
شاهد النسخة الأصليةرد0
ZenZKPlayervip
· 07-09 11:31
يُستغل بغباء. أم أنه من الأرخص الانتقال إلى السحابة؟
شاهد النسخة الأصليةرد0
GameFiCriticvip
· 07-07 02:38
كم من الأرباح ستأكلها تكاليف التدريب، رؤية ذلك تجعلني أشعر بالقلق.
شاهد النسخة الأصليةرد0
GweiTooHighvip
· 07-07 02:34
بناء بطاقة قوة الحوسبة المعدّن في الطريق~
شاهد النسخة الأصليةرد0
ShibaOnTheRunvip
· 07-07 02:31
لا يمكن أن تفتقر إلى قوة الحوسبة.
شاهد النسخة الأصليةرد0
SquidTeachervip
· 07-07 02:19
مرة أخرى، هو رفع أسعار بطاقات الرسوميات
شاهد النسخة الأصليةرد0
  • تثبيت