大模型熱潮下的算力爭奪戰:服務商如何應對新商業模式

robot
摘要生成中

算力爭奪戰背後的新商業模式

大模型"煉丹"的熱潮會過去,但算力正在成爲一種新的商業模式。算力服務商需要未雨綢繆,及時轉向。

近期,有研究者使用全球40年的天氣數據,用200張GPU卡進行預訓練,在2個月左右的時間內,訓練出了參數量達億級的氣象大模型。按照一張GPU 7.8元/小時計算,這個模型的訓練成本可能超過200萬元。而如果是訓練通用大模型,成本可能要翻百倍。

目前中國10億參數規模的大模型已超過100個。然而,行業蜂擁而上的大模型"煉丹"卻面臨着高端GPU一卡難求的難題。算力成本高企,缺算力、缺資金成爲了擺在行業面前最直觀的問題。

高端GPU的短缺在全行業都無解。頂峯時期一張A100的價格已被炒到二三十萬元,單臺A100服務器的月租價格也飆到了5-7萬元/月。即便如此,高昂的價格依然可能拿不到芯片。

大模型市場的競爭激烈,沒有數十億資金投入,很難持續開發大模型。一些創業者表示,如果沒有百億千億資金支持,這條路很難走通。隨着市場從狂熱到理性,企業也會隨着預期變化來控制成本、調整策略。

面對算力短缺,企業採取了多種應對措施:

  1. 使用更高質量的數據提升訓練效率
  2. 提升基礎架構能力,實現千卡以上穩定運行
  3. 優化算力卡資源調度
  4. 從雲計算架構過渡到超算架構
  5. 使用國產平台替代英偉達GPU

這些方法每一種都是一個相對較大的工程,一般企業很難通過自建數據中心來滿足需求。許多算法團隊選擇專業的算力廠商來提供支持。

算力已經成爲一種新的服務模式。算力服務以多樣性算力爲基礎,以算力網路爲連結,以供給有效算力爲目標。它不僅包括算力,還包括存儲、網路等資源的統一封裝,以服務形式(如API)完成算力交付。

從產業鏈結構來看,上遊企業主要供給算力基礎資源,中遊企業負責算力生產和供給,下遊企業則是算力的使用方。目前按量計費和包年包月是主流的計費模式。

隨着大模型高性能計算需求的常態化,脫胎於雲服務的算力服務快速進入大衆視野,形成了獨特的產業鏈和商業模式。在這個算力產業爆發的初期,高端GPU短缺、算力成本高企、搶"芯"成爲了這個時代的獨特風景。

長期來看,算力成爲一種服務是確定性趨勢。算力服務商需要做好準備,在大模型回歸理性、市場風向快速轉變時及時調整戰略。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 5
  • 分享
留言
0/400
StakeOrRegretvip
· 07-14 02:28
钱没到位啥都别说
回復0
偏执之王vip
· 07-14 02:27
缺卡缺疯了 啥时候矿难复刻一下
回復0
MEV猎手阿福vip
· 07-14 02:24
新矿难开始咯
回復0
DeFiCaffeinatorvip
· 07-14 02:23
囤显卡的路上了解一下~
回復0
metaverse_hermitvip
· 07-14 02:02
抢张卡都难现在
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)