存儲,這個一直被談?wù)摰腎T“舊話題”,正在重新站在聚光燈下。
作者|吳銘
出品|產(chǎn)業(yè)家
DeepSeek再次成為破圈話題。
這兩天,DeepSeek開源3FS并行文件系統(tǒng)的消息,猶如向AI基礎(chǔ)設(shè)施領(lǐng)域投下一枚深水炸彈。3FS每秒能搬運(yùn)6.6TB數(shù)據(jù),相當(dāng)于1秒鐘傳輸完700部4K高清電影。還能自動調(diào)資源,國產(chǎn)芯片用了它,跟國際大牌的差距直接縮到15%。
這并非簡單的技術(shù)迭代——當(dāng)Llama3 70B模型單次訓(xùn)練需吞掉15PB數(shù)據(jù)(相當(dāng)于連續(xù)播放250萬小時4K視頻)時,全球AI實驗室突然意識到:決定大模型訓(xùn)練效率的不僅是GPU算力,存儲系統(tǒng)正成為影響AI進(jìn)度的一大瓶頸。
存儲,這個一直被談?wù)摰腎T“舊話題”,正在重新站在聚光燈下。
一、當(dāng)AI算力狂飆時
存儲正在成為隱形戰(zhàn)場
2024年,某頭部AI公司曾因存儲帶寬不足,導(dǎo)致2000張A100顯卡的算力利用率長期低于40%,單日經(jīng)濟(jì)損失超百萬美元。這暴露了AI時代的"木桶效應(yīng)"——當(dāng)GPU計算速度進(jìn)入微秒級時,一次突發(fā)的存儲抖動就可能導(dǎo)致整個訓(xùn)練任務(wù)崩潰,讓數(shù)周的計算成果瞬間蒸發(fā)。這或許也是DeepSeek自研存儲的原因。
數(shù)據(jù)顯示,存儲優(yōu)化可直接將175B參數(shù)模型的訓(xùn)練周期壓縮30%,對應(yīng)百萬美元級的成本被填平。而在推理端,當(dāng)10%的異常請求遭遇存儲延遲波動時,P99響應(yīng)時間會瞬間突破SLA紅線,這正是某自動駕駛公司在線服務(wù)突發(fā)降級的根本誘因。
從DeepSeek的角度來看,其之所以選擇自研3FS的本質(zhì),也正是發(fā)現(xiàn)了存儲架構(gòu)在AI應(yīng)用中的重要性。《金融行業(yè)先進(jìn)AI存力報告》》報告中提到,在同樣的GPU算力規(guī)模下,存儲性能的高低可能造成模型訓(xùn)練周期3倍的差異。在算力軍備競賽的背后,一場關(guān)于存儲性能密度的暗戰(zhàn)悄然升級,自研存儲顯得尤為重要。
二、5家頭部廠商角逐AI存儲
國產(chǎn)能否拔得頭籌
相比于傳統(tǒng)AI的需求,大模型對存力需求場景具有數(shù)據(jù)量大、參數(shù)規(guī)模大、訓(xùn)練周期長等特點(diǎn)。
為了提升大模型訓(xùn)練速度,需要對大規(guī)模數(shù)據(jù)集進(jìn)行快速加載,且一般采用數(shù)百甚至上萬張GPU構(gòu)成計算集群進(jìn)行高效的并行計算,需要高并發(fā)輸入/輸出(I/O)處理,而訓(xùn)練數(shù)據(jù)集呈現(xiàn)海量小文件的特點(diǎn),文件量在幾億到幾十億量級,對應(yīng)的帶寬需求可能每秒要達(dá)到上TB,這就要求存儲系統(tǒng)具備強(qiáng)大的數(shù)據(jù)管理能力,業(yè)界能達(dá)到該能力的僅寥寥幾家。
小編搜集了國內(nèi)外優(yōu)秀的并行存儲產(chǎn)品做了對比,發(fā)現(xiàn)除了國外主要做并行文件的幾家公司,國內(nèi)真正并行文件自主研發(fā)的產(chǎn)品并不多,帶著好奇心我們也看了一下華為存儲、京東云云海,行業(yè)目前有四家優(yōu)秀的并行存儲產(chǎn)品。
IBM作為老牌存儲品牌,其產(chǎn)品從HPC場景成功向AI場景演進(jìn),但受制于其在國內(nèi)市場的萎縮,在產(chǎn)品研發(fā)上的投入也有所收縮。在全球AI場景得到廣泛應(yīng)用的DDN,多個讀、寫帶寬等關(guān)鍵性能指標(biāo)上表現(xiàn)突出,但DDN由于技術(shù)封閉性、專有化硬件等原因,導(dǎo)致用戶建設(shè)成本過高。
國產(chǎn)廠商DeepSeek 3FS雖然是開源的新產(chǎn)品,但相對老牌存儲也有不錯的表現(xiàn),在讀帶寬能力上表現(xiàn)優(yōu)異。我們還驚喜發(fā)現(xiàn),另一家國產(chǎn)廠商京東云云海,在這個專業(yè)領(lǐng)域表現(xiàn)出色,以單節(jié)點(diǎn)95GB/s的讀帶寬、60GB/s的寫帶寬,進(jìn)一步拉低了國產(chǎn)存儲與國際老牌廠商的差距。相較于DeepSeek的3FS,京東云云海在提供高性能的同時適用性更廣,可以同時滿足DeepSeek、ChatGPT、LLaMA等20余種主流大模型的存力需求。
綜上來看,隨著大模型快速向縱深場景演進(jìn),對存儲的要求也越來越高,DeepSeek、京東云云海等國產(chǎn)存儲,顯示出在處理大規(guī)模數(shù)據(jù)集時的優(yōu)越性能,未來國產(chǎn)存儲能否拔得頭籌,我們拭目以待。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.