螞蟻集團(tuán)有關(guān)人士告訴《每日經(jīng)濟(jì)新聞》記者，在模型訓(xùn)練過程中，他們既使用了國產(chǎn)芯片，也采用了英偉達(dá)芯片。

但百靈系列混合專家模型的橫空出世，讓市場(chǎng)再次質(zhì)疑英偉達(dá)的“算力信仰”。HuggingFace工程師Tiezhen Wang在社交媒體上表示，“做空英偉達(dá)的又一理由？”

Tom's Hardware發(fā)表評(píng)論稱，螞蟻集團(tuán)此次的技術(shù)突破清晰展現(xiàn)出中國正堅(jiān)定地朝著技術(shù)獨(dú)立方向邁進(jìn)。

針對(duì)此事，3月24日螞蟻集團(tuán)回應(yīng)媒體稱，螞蟻針對(duì)不同芯片持續(xù)調(diào)優(yōu)，以降低AI應(yīng)用成本，目前取得了一定的進(jìn)展，也會(huì)逐步通過開源分享。

圖片來源：螞蟻集團(tuán)Ling團(tuán)隊(duì)最新論文

螞蟻重大突破：不使用高端GPU的情況下將計(jì)算成本降低20%

目前，螞蟻集團(tuán)Ling團(tuán)隊(duì)的技術(shù)成果論文《每一個(gè)FLOP都至關(guān)重要：無需高級(jí)GPU即可擴(kuò)展3000億參數(shù)混合專家LING大模型》已發(fā)表在預(yù)印本平臺(tái)arXiv上。

螞蟻Ling團(tuán)隊(duì)認(rèn)為，正如DeepSeek開源發(fā)布中分析的“晝夜推理負(fù)載不均”問題，在推理服務(wù)高峰期，高性能資源同樣面臨短缺。在長期科研實(shí)踐中，許多機(jī)構(gòu)都持續(xù)面臨著高端AI加速卡供應(yīng)不足的問題。相比之下，性能較低的加速器更易獲得，且單價(jià)更低。因此，模型需要能在異構(gòu)計(jì)算單元和分布式集群間切換的技術(shù)框架，同時(shí)在AI Infra部分，在跨集群、跨設(shè)備的兼容和可靠層面進(jìn)行性能優(yōu)化。

該團(tuán)隊(duì)的實(shí)驗(yàn)結(jié)果表明，參數(shù)規(guī)模為300B左右的混合專家模型可以在性能較低的設(shè)備上有效訓(xùn)練，并在性能上達(dá)到與同規(guī)模的其他模型相當(dāng)?shù)乃健?/span>

以Ling-Plus模型為例，在實(shí)驗(yàn)中，該模型在五種不同硬件配置下完成9萬億Token的預(yù)訓(xùn)練任務(wù)。經(jīng)測(cè)算，使用高性能硬件設(shè)備訓(xùn)練1萬億Token，預(yù)計(jì)成本高達(dá)635萬元人民幣，而使用低規(guī)格硬件系統(tǒng)，成本則可控制在約508萬元，節(jié)省近20%。

圖片來源：螞蟻集團(tuán)Ling團(tuán)隊(duì)最新論文

在英語理解能力上，Ling-Lite模型在一項(xiàng)關(guān)鍵基準(zhǔn)測(cè)試中的表現(xiàn)與Qwen2.5-7B相當(dāng)，優(yōu)于Llama3.1-8B和Mistral-7B-v0.3。

在中文理解能力上，Ling-Lite和Ling-Plus模型表現(xiàn)明顯優(yōu)于海外模型Llama3.1-8B和Mistral-7B-v0.3。在部分基準(zhǔn)測(cè)試中，Ling-Plus表現(xiàn)略優(yōu)于DeepSeek-V2.5，與Qwen2.5-7B相當(dāng)。

在數(shù)學(xué)和代碼基準(zhǔn)測(cè)試方面，Ling-Lite的表現(xiàn)與Qwen2.5-7B-Instruct相當(dāng)，優(yōu)于Llama3.1-8B和Mistral-7B-v0.3。Ling-Plus的表現(xiàn)優(yōu)于DeepSeek-V2.5，接近Qwen2.5-72B的水平。

圖片來源：螞蟻集團(tuán)Ling團(tuán)隊(duì)最新論文

在工具使用方面，大多數(shù)情況下，Ling-Plus和Ling-Lite在基準(zhǔn)測(cè)試中均取得了最佳成績。而工具使用對(duì)于大語言模型來說是一項(xiàng)重要且具有挑戰(zhàn)性的任務(wù)。工具使用能力使模型能夠作為AI代理工作、控制機(jī)器人系統(tǒng)并與眾多軟件工具集成。

此外，在安全性方面，Ling-Plus和Qwen2.5-7B表現(xiàn)突出，而Ling-Plus在錯(cuò)誤拒絕方面表現(xiàn)更佳。

提高大模型的無害性（harmlessness）通常會(huì)導(dǎo)致其有用性（helpfulness）的降低。測(cè)試結(jié)果表明，Ling-Plus在安全性和錯(cuò)誤拒絕之間整體平衡性上表現(xiàn)最佳。

據(jù)悉，螞蟻百靈大模型Ling-Plus和Ling-Lite將計(jì)劃開源，并應(yīng)用于醫(yī)療、金融等行業(yè)領(lǐng)域。

打破英偉達(dá)“算力霸權(quán)”？

有分析稱，百靈系列混合專家模型的推出標(biāo)志著螞蟻集團(tuán)加入AI領(lǐng)域的競賽。自DeepSeek展示出能夠以遠(yuǎn)低于OpenAI和谷歌投入的數(shù)十億美元成本訓(xùn)練出強(qiáng)大模型以來，這一競爭加速升級(jí)。 

此前，DeepSeek在技術(shù)論文中表示，DeepSeek-V3模型（總參數(shù)671B，激活參數(shù)37B）總訓(xùn)練成本為557.6萬美元，完整訓(xùn)練消耗了278.8萬個(gè)GPU小時(shí)，幾乎是同等性能水平模型訓(xùn)練所需的十分之一，堪稱“榨干”GPU，也因此引發(fā)了資本市場(chǎng)的恐慌。

對(duì)此，英偉達(dá)CEO黃仁勛在公開場(chǎng)合多次贊美DeepSeek，但其認(rèn)為，DeepSeek-R1等更高效的模型出現(xiàn)，反而會(huì)刺激計(jì)算需求增長。

然而，螞蟻集團(tuán)正在探索一條新的路徑——在無高端GPU的情況下擴(kuò)展模型訓(xùn)練能力。 

百靈系列混合專家模型的橫空出世，讓市場(chǎng)再次質(zhì)疑英偉達(dá)的“算力信仰”。HuggingFace工程師Tiezhen Wang在社交媒體上表示，“做空英偉達(dá)的又一理由？”

圖片來源：X

著名硬件媒體Tom's Hardware指出，如果螞蟻集團(tuán)此次技術(shù)突破意味著實(shí)現(xiàn)了（與DeepSeek）類似的AI訓(xùn)練效率飛躍，這極有可能成為（中國）降低對(duì)西方技術(shù)依賴進(jìn)程中的又一重要里程碑。

螞蟻集團(tuán)有關(guān)人士告訴《每日經(jīng)濟(jì)新聞》記者，在模型訓(xùn)練過程中，他們既使用了國產(chǎn)芯片，也采用了英偉達(dá)芯片。 

Tom's Hardware發(fā)表評(píng)論稱，螞蟻集團(tuán)此次技術(shù)突破清晰展現(xiàn)出中國正堅(jiān)定地朝著技術(shù)獨(dú)立方向邁進(jìn)。

彭博資深商業(yè)智能分析師羅伯特·李（Robert Lea）同樣指出，螞蟻集團(tuán)的研究展示了中國在AI創(chuàng)新方面的快速進(jìn)步，也顯示出本土企業(yè)正朝著AI自給自足的方向邁進(jìn)。