99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網易首頁 > 網易號 > 正文 申請入駐

英偉達猛攻AI基建:新光交換機劍指數百萬GPU

0
分享至

本文系網易新聞?網易號特色內容激勵計劃簽約賬號【智東西】原創內容,未經賬號授權,禁止隨意轉載。



作者 | ZeR0
編輯 | 漠影

智東西圣何塞3月18日報道,在擴展AI基礎設施版圖這件事上,英偉達已經是Next Level了。

一年一度的“AI界春晚”英偉達GTC大會本周盛大開幕,今日,面向AI時代的新型基礎設施,英偉達發布兩款新品,一款聚焦網絡,推光電一體化封裝網絡交換機,為更大規模的AI工廠鋪路,一款聚焦企業存儲,構建AI數據平臺,旨在提高AI智能體工作流程的性能和準確性。

英偉達將超大規模新型數據中心定義為AI工廠。隨著AI工廠規模持續擴大,AI網絡基礎設施也需要迭代升級,而將硅光直接集成到交換機中是一項行之有效的策略。

數據是AI時代的原材料。英偉達通過與全球領先的存儲企業合作,打造在混合數據中心部署和擴展AI智能體所需的新型企業基礎設施,來更高效地挖掘存儲在企業系統中的數據價值。

一、光交換機最快今年上市,將AI工廠擴展至數百萬GPU

英偉達今日宣布推出光電一體化封裝網絡交換機NVIDIA Spectrum-X Photonics和Quantum-X,使AI工廠能夠跨區域連接數百萬GPU級別,同時大幅降低能耗和運營成本。


每端口1.6Tb/s的英偉達硅光交換機,創新地集成了光器件,激光器數量減少至1/4,與傳統方法相比,能源效率提高到3.5倍,信號完整性提高到63倍,大規模組網可靠性提高到10倍,部署速度提高到1.3倍。

NVIDIA Quantum-X Photonics InfiniBand交換機預計將在今年晚些時候上市,領先的基礎設施和系統供應商將在2026年推出Spectrum-X Photonics以太網交換機。


與傳統以太網相比,Spectrum-X以太網網絡平臺可為多租戶、超大規模AI工廠提供卓越的性能和1.6倍的帶寬密度。

Spectrum-X光交換機具有多種配置,包括128個800Gb/s端口或512個200Gb/s端口,總帶寬可達到100Tb/s,以及512個800Gb/s或2048個200Gb/s 端口,總吞吐量可達400Tb/s。


NVIDIA Quantum-X光交換機提供144個基于200Gb/s SerDes的800Gb/s InfiniBand端口,并采用液冷設計對板載硅光器件進行高效散熱。其AI計算網的速度是上一代產品的2倍,擴展性是上一代產品的5倍。

在英偉達創始人兼CEO黃仁勛GTC主題演講期間播放的視頻中,Quantum-X光交換機的帶寬達到115.2Tb/s。



內置有交換機管理模塊,采用液冷散熱。



Quantum-X光學封裝里有Quantum-X800 ASIC芯片、6個光學子組件和18個硅光引擎。



Quantum-X800 ASIC的總吞吐量達到28.8Tb/s,采用臺積電4N工藝,擁有1070億顆晶體管,網絡內自帶3.6 TFLOPS FP8 SHARP算力。



324個光學連接器串聯起這一系統,總計有36個激光輸入和288個數據連接,內置光纖管理功能。



其中,光子組件是可拆卸的,每個組件擁有3個硅光引擎,總吞吐量為4.8Tb/s。



每個硅光芯片引擎擁有200GB/s的微光調制器,總吞吐量為1.6Tb/s,可實現3.5倍節能。



硅光引擎采用臺積電N6工藝,擁有2.2億顆晶體管、1000個集成的光學器件。



這一系統還擁有多平面數據連接器,擁有1152個單模光纖。



外置光源有8個集成激光系統,具備自動溫度檢測和波長、能耗穩定功能。



上述部件的總和,便是下圖這一擁有4460億顆晶體管的龐大系統,吞吐量達到115Tb/s。



英偉達的硅光生態系統伙伴包括臺積電、富士康、Browave、Coherent、Corning Incorporated、Fabrinet、Lumentum、SENKO、SPIL、Sumitomo Electric Industries、TFC Communication,共同發明與合作,打造集成硅、光工藝和供應鏈。

臺積電董事長兼CEO魏哲家分享說,臺積電的硅光解決方案結合了其先進的芯片工藝和臺積電SoIC 3D芯片封裝的優勢,幫助英偉達充分發揮AI工廠的能力,助力AI工廠擴展到100萬塊GPU甚至更多。

英偉達光技術將推動新一代先進AI工廠的大規模增長,并和Coherent、Eoptolink、Fabrinet、Innolight等業界領先企業的可插拔光模塊技術共同推動這一發展。

二、助建存儲基礎設施,讓AI智能體提供更準響應

英偉達今日還推出了NVIDIA AI數據平臺,這是一項可自定義的參考設計,可被存儲提供商用于構建搭載專用AI查詢智能體的全新AI基礎設施,滿足AI推理工作負載的嚴苛要求。

這些AI智能體利用英偉達加速計算、網絡、軟件,針對復雜查詢進行推理并快速生成準確響應,可助力企業應用NVIDIA AI Enterprise軟件平臺(包括全新英偉達Llama Nemotron推理模型的NVIDIA NIM微服務)以及全新的NVIDIA AI-Q藍圖,近乎實時地生成數據洞察。

AI數據平臺存儲基礎設施利用英偉達AI-Q藍圖開發,可進行推理并連接企業數據的AI智能體系統,能夠將專有企業知識(包括內部文檔、客戶記錄、特定領域的信息)無縫集成到AI工作流中,提供更準確、更貼合情景的響應。

它可以快速訪問海量數據并處理各類數據,包括有多個來源的結構化、半結構化和非結構化數據,包括文本、PDF、圖像、視頻。

AI-Q藍圖利用NVIDIA NeMo Retriever微服務,可將英偉達GPU上的數據提取和檢索速度加快高達15倍。


AI數據平臺的核心功能是相當于一個智能AI路由器,通過高速、低延遲網絡進行負載平衡和交換提示和鍵值(KV)緩存,以提高推理速度和準確性。

存儲提供商可借助英偉達Blackwell GPU、BlueField DPU、Spectrum-X網絡、 NVIDIA Dynamo開源推理庫,來優化基礎設施,為AI查詢智能體提供強勁支持。

AI數據平臺優化了GPU、節點和大語言模型內存管理之間的AI工作負載分配,利用智能路由、負載平衡、高級緩存來加速數據處理,并實現可擴展的復雜AI工作流程,因此AI智能體可以更高效、更低延遲地分析和處理大量業務知識。

英偉達Blackwell GPU、BlueField DPU、Spectrum-X網絡組合在一起提供了一款加速引擎,可加快AI查詢智能體訪問存儲在企業系統中的數據。

BlueField DPU的性能比基于CPU的存儲性能提升最高可達1.6倍,而功耗又比其降低可達 50%,每瓦性能提高3倍以上。與傳統以太網相比,Spectrum-X通過采用動態路由和優化的擁塞控制,可將AI存儲流量提速最高達48%。


DDN、戴爾、HPE、日立、IBM、NetApp、Nutanix、Pure Storage、VAST Data、WEKA等領先數據平臺和存儲提供商均選擇與英偉達合作,打造可定制化的AI數據平臺,充分運用企業數據進行推理并響應復雜查詢。

英偉達認證的存儲合作伙伴正與英偉達共同打造定制化AI數據平臺。經英偉達認證的存儲提供商計劃從本月開始提供使用NVIDIA AI數據平臺構建的解決方案。

結語:AI基礎設施多點布局,英偉達正不斷擴大優勢

從面向網絡和存儲的兩項發布,可以看出英偉達對AI基礎設施趨勢的多點布局和精準卡位。英偉達多年打磨的豐富網絡產品組合,使其在加速AI智能體連接數據的生態中占據中心位。

對共封裝光學技術的布局則更是意在長遠,理論上大規模實現硅光通信的融合在節省能耗和成本方面的優勢顯著,不過這項前沿技術在實際落地中的成熟度還有待驗證,業界也仍在探索如何以更低成本和更高可靠性制造相應的光學器件。

如今提升AI性能和效率的關鍵因素已遠遠超出算力范疇。英偉達的前瞻布局正使之不斷擴大在AI基礎設施的領先優勢,與垂直行業龍頭企業的合作又進一步加深了其護城河。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
中方徹底否決俄羅斯方案,中俄的能源命脈,必須抓在中國手里

中方徹底否決俄羅斯方案,中俄的能源命脈,必須抓在中國手里

主筆唐駁虎
2025-04-16 18:43:30
直擊南方人痛點!廣東中學生發明“滅蟑螂裝置”,街坊:求量產

直擊南方人痛點!廣東中學生發明“滅蟑螂裝置”,街坊:求量產

環球網資訊
2025-04-16 18:39:12
解說員:浙江隊布彭扎沒了,這么大事還踢呢?不可思議

解說員:浙江隊布彭扎沒了,這么大事還踢呢?不可思議

直播吧
2025-04-16 19:48:49
美國、伊朗,突傳重磅!

美國、伊朗,突傳重磅!

第一財經資訊
2025-04-15 11:24:29
穆帥:2010年歐冠半決賽次回合0-1巴薩是我生涯最激動人心的比賽

穆帥:2010年歐冠半決賽次回合0-1巴薩是我生涯最激動人心的比賽

直播吧
2025-04-16 14:05:11
國乒第一人!世界杯陳幸同勝韓國一姐進八強,結怨球迷仍少有加油

國乒第一人!世界杯陳幸同勝韓國一姐進八強,結怨球迷仍少有加油

曾蠃愛旅行
2025-04-17 11:49:06
程序員用AI模仿杰倫寫出爆款歌曲,版權賣出5位數遭音樂人舉報

程序員用AI模仿杰倫寫出爆款歌曲,版權賣出5位數遭音樂人舉報

智淵覽界
2025-04-16 14:23:25
這張照片拍攝于延安時期,畫面中的女同志相當干練,她是誰?

這張照片拍攝于延安時期,畫面中的女同志相當干練,她是誰?

冰點歷史
2025-04-16 09:36:15
上海女校長遭丈夫電鋸分尸,鄰居:慘叫聲持續了15分鐘

上海女校長遭丈夫電鋸分尸,鄰居:慘叫聲持續了15分鐘

懸案解密檔案
2025-04-02 11:38:05
澤連斯基這下跳進黃河也洗不清!暗殺特朗普兇手,與烏克蘭有牽連

澤連斯基這下跳進黃河也洗不清!暗殺特朗普兇手,與烏克蘭有牽連

田柳
2025-04-15 11:40:28
這一次,豪擲千萬的陳慧琳,撕開了“李湘楊冪”之流的“假面目”

這一次,豪擲千萬的陳慧琳,撕開了“李湘楊冪”之流的“假面目”

老吳教育課堂
2025-04-17 11:33:37
我國博士后已超40萬人

我國博士后已超40萬人

新京報
2025-04-16 12:13:07
短評:別整天嚷嚷拋美債了!丟人!

短評:別整天嚷嚷拋美債了!丟人!

財經飛說不可
2025-04-14 18:18:09
志愿軍共7位副司令員,回國后唯獨他不受重用,難道是得罪了人?

志愿軍共7位副司令員,回國后唯獨他不受重用,難道是得罪了人?

南書房
2025-03-19 12:11:47
澳門世界杯海報:孫穎莎是衛冕冠軍,為何被王曼昱取代?真相來了

澳門世界杯海報:孫穎莎是衛冕冠軍,為何被王曼昱取代?真相來了

光輝記
2025-04-05 19:48:08
剛剛 | 天津預警!大風又來了!雨也要來!

剛剛 | 天津預警!大風又來了!雨也要來!

天津廣播
2025-04-17 08:10:29
澤連斯基向美國求購10套愛國者,特朗普拒絕后諷刺稱,你已經輸了

澤連斯基向美國求購10套愛國者,特朗普拒絕后諷刺稱,你已經輸了

碳基生物關懷組織
2025-04-15 17:51:01
不允許起火和爆炸!工信部公布新國標,1年后鋰電池車將被淘汰?

不允許起火和爆炸!工信部公布新國標,1年后鋰電池車將被淘汰?

一個有靈魂的作者
2025-04-15 23:17:30
真的是讀秒絕平!侯永永補時最后時刻破門,打入玉昆生涯首球

真的是讀秒絕平!侯永永補時最后時刻破門,打入玉昆生涯首球

直播吧
2025-04-16 21:43:03
港媒:解放軍一口氣發射16枚彈道導彈,不久后,全部被雷達鎖定

港媒:解放軍一口氣發射16枚彈道導彈,不久后,全部被雷達鎖定

慎獨贏
2025-04-15 13:23:05
2025-04-17 13:28:49
智東西 incentive-icons
智東西
聚焦智能變革,服務產業升級。
9719文章數 116741關注度
往期回顧 全部

科技要聞

余承東大講安全,絕口不提智駕"替你開車"

頭條要聞

媒體:特朗普隔天一種說辭一番新威脅 我們有些看膩了

頭條要聞

媒體:特朗普隔天一種說辭一番新威脅 我們有些看膩了

體育要聞

楊瀚森參加NBA選秀 與詹姆斯同一家經紀公司

娛樂要聞

丁真官宣“新身份”謝霆鋒眼光有多絕

財經要聞

特朗普吹牛 美國海關“打臉”

汽車要聞

炸出蘑菇云、冰封24小時 啟辰這波玩大了

態度原創

房產
本地
時尚
公開課
軍事航空

房產要聞

最后一波!15萬起上車海口超級大盤,還是準現房!

本地新聞

云游湖北 | 七仙女都愛的山水,雙峰米酒一口上頭

闊腿褲+德訓鞋=王炸CP,掌握這些技巧,解鎖初夏時尚密碼

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

朝鮮譴責美國派遣戰略轟炸機至朝鮮半島

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 洮南市| 安陆市| 东乡县| 锦屏县| 罗田县| 大余县| 桐乡市| 于田县| 洮南市| 大兴区| 三江| 罗甸县| 河北区| 崇左市| 十堰市| 临安市| 汉沽区| 云龙县| 中西区| 西昌市| 都昌县| 营口市| 南陵县| 行唐县| 儋州市| 元氏县| 顺昌县| 通道| 淄博市| 汉沽区| 阜南县| 南丹县| 长泰县| 岗巴县| 安仁县| 克什克腾旗| 灌云县| 伊春市| 西昌市| 荃湾区| 嘉兴市|