本文系網易新聞?網易號特色內容激勵計劃簽約賬號【智東西】原創內容,未經賬號授權,禁止隨意轉載。
作者 | ZeR0
編輯 | 漠影
智東西圣何塞3月18日報道,在擴展AI基礎設施版圖這件事上,英偉達已經是Next Level了。
一年一度的“AI界春晚”英偉達GTC大會本周盛大開幕,今日,面向AI時代的新型基礎設施,英偉達發布兩款新品,一款聚焦網絡,推光電一體化封裝網絡交換機,為更大規模的AI工廠鋪路,一款聚焦企業存儲,構建AI數據平臺,旨在提高AI智能體工作流程的性能和準確性。
英偉達將超大規模新型數據中心定義為AI工廠。隨著AI工廠規模持續擴大,AI網絡基礎設施也需要迭代升級,而將硅光直接集成到交換機中是一項行之有效的策略。
數據是AI時代的原材料。英偉達通過與全球領先的存儲企業合作,打造在混合數據中心部署和擴展AI智能體所需的新型企業基礎設施,來更高效地挖掘存儲在企業系統中的數據價值。
一、光交換機最快今年上市,將AI工廠擴展至數百萬GPU
英偉達今日宣布推出光電一體化封裝網絡交換機NVIDIA Spectrum-X Photonics和Quantum-X,使AI工廠能夠跨區域連接數百萬GPU級別,同時大幅降低能耗和運營成本。
每端口1.6Tb/s的英偉達硅光交換機,創新地集成了光器件,激光器數量減少至1/4,與傳統方法相比,能源效率提高到3.5倍,信號完整性提高到63倍,大規模組網可靠性提高到10倍,部署速度提高到1.3倍。
NVIDIA Quantum-X Photonics InfiniBand交換機預計將在今年晚些時候上市,領先的基礎設施和系統供應商將在2026年推出Spectrum-X Photonics以太網交換機。
與傳統以太網相比,Spectrum-X以太網網絡平臺可為多租戶、超大規模AI工廠提供卓越的性能和1.6倍的帶寬密度。
Spectrum-X光交換機具有多種配置,包括128個800Gb/s端口或512個200Gb/s端口,總帶寬可達到100Tb/s,以及512個800Gb/s或2048個200Gb/s 端口,總吞吐量可達400Tb/s。
NVIDIA Quantum-X光交換機提供144個基于200Gb/s SerDes的800Gb/s InfiniBand端口,并采用液冷設計對板載硅光器件進行高效散熱。其AI計算網的速度是上一代產品的2倍,擴展性是上一代產品的5倍。
在英偉達創始人兼CEO黃仁勛GTC主題演講期間播放的視頻中,Quantum-X光交換機的帶寬達到115.2Tb/s。
內置有交換機管理模塊,采用液冷散熱。
Quantum-X光學封裝里有Quantum-X800 ASIC芯片、6個光學子組件和18個硅光引擎。
Quantum-X800 ASIC的總吞吐量達到28.8Tb/s,采用臺積電4N工藝,擁有1070億顆晶體管,網絡內自帶3.6 TFLOPS FP8 SHARP算力。
324個光學連接器串聯起這一系統,總計有36個激光輸入和288個數據連接,內置光纖管理功能。
其中,光子組件是可拆卸的,每個組件擁有3個硅光引擎,總吞吐量為4.8Tb/s。
每個硅光芯片引擎擁有200GB/s的微光調制器,總吞吐量為1.6Tb/s,可實現3.5倍節能。
硅光引擎采用臺積電N6工藝,擁有2.2億顆晶體管、1000個集成的光學器件。
這一系統還擁有多平面數據連接器,擁有1152個單模光纖。
外置光源有8個集成激光系統,具備自動溫度檢測和波長、能耗穩定功能。
上述部件的總和,便是下圖這一擁有4460億顆晶體管的龐大系統,吞吐量達到115Tb/s。
英偉達的硅光生態系統伙伴包括臺積電、富士康、Browave、Coherent、Corning Incorporated、Fabrinet、Lumentum、SENKO、SPIL、Sumitomo Electric Industries、TFC Communication,共同發明與合作,打造集成硅、光工藝和供應鏈。
臺積電董事長兼CEO魏哲家分享說,臺積電的硅光解決方案結合了其先進的芯片工藝和臺積電SoIC 3D芯片封裝的優勢,幫助英偉達充分發揮AI工廠的能力,助力AI工廠擴展到100萬塊GPU甚至更多。
英偉達光技術將推動新一代先進AI工廠的大規模增長,并和Coherent、Eoptolink、Fabrinet、Innolight等業界領先企業的可插拔光模塊技術共同推動這一發展。
二、助建存儲基礎設施,讓AI智能體提供更準響應
英偉達今日還推出了NVIDIA AI數據平臺,這是一項可自定義的參考設計,可被存儲提供商用于構建搭載專用AI查詢智能體的全新AI基礎設施,滿足AI推理工作負載的嚴苛要求。
這些AI智能體利用英偉達加速計算、網絡、軟件,針對復雜查詢進行推理并快速生成準確響應,可助力企業應用NVIDIA AI Enterprise軟件平臺(包括全新英偉達Llama Nemotron推理模型的NVIDIA NIM微服務)以及全新的NVIDIA AI-Q藍圖,近乎實時地生成數據洞察。
AI數據平臺存儲基礎設施利用英偉達AI-Q藍圖開發,可進行推理并連接企業數據的AI智能體系統,能夠將專有企業知識(包括內部文檔、客戶記錄、特定領域的信息)無縫集成到AI工作流中,提供更準確、更貼合情景的響應。
它可以快速訪問海量數據并處理各類數據,包括有多個來源的結構化、半結構化和非結構化數據,包括文本、PDF、圖像、視頻。
AI-Q藍圖利用NVIDIA NeMo Retriever微服務,可將英偉達GPU上的數據提取和檢索速度加快高達15倍。
AI數據平臺的核心功能是相當于一個智能AI路由器,通過高速、低延遲網絡進行負載平衡和交換提示和鍵值(KV)緩存,以提高推理速度和準確性。
存儲提供商可借助英偉達Blackwell GPU、BlueField DPU、Spectrum-X網絡、 NVIDIA Dynamo開源推理庫,來優化基礎設施,為AI查詢智能體提供強勁支持。
AI數據平臺優化了GPU、節點和大語言模型內存管理之間的AI工作負載分配,利用智能路由、負載平衡、高級緩存來加速數據處理,并實現可擴展的復雜AI工作流程,因此AI智能體可以更高效、更低延遲地分析和處理大量業務知識。
英偉達Blackwell GPU、BlueField DPU、Spectrum-X網絡組合在一起提供了一款加速引擎,可加快AI查詢智能體訪問存儲在企業系統中的數據。
BlueField DPU的性能比基于CPU的存儲性能提升最高可達1.6倍,而功耗又比其降低可達 50%,每瓦性能提高3倍以上。與傳統以太網相比,Spectrum-X通過采用動態路由和優化的擁塞控制,可將AI存儲流量提速最高達48%。
DDN、戴爾、HPE、日立、IBM、NetApp、Nutanix、Pure Storage、VAST Data、WEKA等領先數據平臺和存儲提供商均選擇與英偉達合作,打造可定制化的AI數據平臺,充分運用企業數據進行推理并響應復雜查詢。
英偉達認證的存儲合作伙伴正與英偉達共同打造定制化AI數據平臺。經英偉達認證的存儲提供商計劃從本月開始提供使用NVIDIA AI數據平臺構建的解決方案。
結語:AI基礎設施多點布局,英偉達正不斷擴大優勢
從面向網絡和存儲的兩項發布,可以看出英偉達對AI基礎設施趨勢的多點布局和精準卡位。英偉達多年打磨的豐富網絡產品組合,使其在加速AI智能體連接數據的生態中占據中心位。
對共封裝光學技術的布局則更是意在長遠,理論上大規模實現硅光通信的融合在節省能耗和成本方面的優勢顯著,不過這項前沿技術在實際落地中的成熟度還有待驗證,業界也仍在探索如何以更低成本和更高可靠性制造相應的光學器件。
如今提升AI性能和效率的關鍵因素已遠遠超出算力范疇。英偉達的前瞻布局正使之不斷擴大在AI基礎設施的領先優勢,與垂直行業龍頭企業的合作又進一步加深了其護城河。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.