AI大模型時代:Transformer的崛起與百模大戰
上個月,AI界掀起了一場"動物大戰"。一方是Meta的Llama(美洲駝),另一方是名爲Falcon(獵鷹)的大模型。這兩個模型在開源LLM排行榜上你追我趕,輪番登頂。
有趣的是,Falcon的開發者並非科技巨頭,而是阿聯酋的一家研究所。該國官員表示,他們參與AI競賽是爲了"顛覆核心玩家"。如今,只要有足夠財力,幾乎所有國家和企業都在打造自己的大語言模型。
這場"百模大戰"的背後,是2017年谷歌發布的Transformer算法。它解決了機器理解長文本的難題,使大模型從理論研究變成了工程問題。如今,無論是GPT還是其他模型,都建立