99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網易首頁 > 網易號 > 正文 申請入駐

推理性能提升13倍!百度智能云發布昆侖芯超節點

0
分享至

4月25日,以“模型的世界,應用的天下”為主題的Create 2025 百度AI開發者大會在湖北武漢召開。會上,百度集團執行副總裁、百度智能云事業群總裁沈抖分享了百度智能云在智能基礎設施建設方面的最新成果,并在算力、模型及應用等方面發布一系列全新產品。



?大模型的高效落地亟需從底層算力到應用的全棧、系統級支撐——既需高性能硬件與集群優化,也需靈活的開發工具鏈與場景化解決方案。基于多年在大模型研發與產業落地的深厚積累,百度智能云構建了新一代系統級智能基礎設施,為企業大模型應用落地提供最佳解決方案。

相關數據顯示,2024全年百度智能云在大模型相關中標項目數、行業覆蓋數、央國企中標項目數三個維度均為第一,在能源、政務、金融三個行業的中標項目數位于所有廠商第一。截止目前,千帆平臺企業用戶數量超40萬,千帆平臺組件數量超1000個,企業在千帆平臺上已開發出了超100萬個應用。

?沈抖表示,系統的價值,不僅是解決某一個問題,而是讓企業擁有創造“創造的能力”。企業可以結合自己的數據、流程、邏輯,利用百度智能云的系統級能力打造企業專屬AI基礎設施。

百舸+昆侖芯超節點:推理性能提升13倍、成本降低95%

?算力是AI時代的“新電力”。百度智能云通過自研昆侖芯P800芯片及百舸大規模推理加速能力,實現算力性能與成本的雙重突破。



本次大會,百度正式點亮了昆侖芯P800的三萬卡集群。在金融行業,招商銀行與百度智能云基于昆侖芯P800展開算力合作,能穩定支持各類開源大模型,性能表現卓越,在智能客服、多模態數據分析等場景實現了顯著效能提升。目前,除了招商銀行這類金融機構,昆侖芯P800算力已在國家電網、中國鋼研等央企,同濟大學、北京大學等高校及一批互聯網企業進行規?;渴?。

?為了進一步降低算力使用成本,百度智能云正式發布昆侖芯超節點。

?昆侖芯超節點支持把64張昆侖芯AI加速卡放到同一個機柜,實現單節點的超強性能,一個機柜就能頂過去100臺機器。與以往的方案相比,昆侖芯超節點用更快的機內通信替代機間通信,可以有效降低帶寬成本,最終實現卡間互聯帶寬提升8倍,單機訓練性能提升10倍,單卡推理性能提升13倍。

?僅僅擁有高性能芯片和大規模集群是遠遠不夠的,如何穩定、高效地釋放算力的真正價值才是關鍵所在。沈抖認為,未來三年,推理降本,一定是企業最重要的工作。



百度智能云全面升級百舸推理加速能力。通過大規模分布式推理的PD分離,百舸支持客戶根據不同場景的業務特點,自適應地設置PD配比,并做到token級別的PD負載均衡。針對MOE模型,百舸做到了大規模多機專家并行的極致優化,可以大幅降低MOE模型推理的通信開銷。最后,百舸對核心鏈路上的每一個細節做了系統級的工程優化,大幅提升GPU的有效利用率。

從百度內部實踐來看,百舸推理加速的能力正在作為千帆的算力底座,為40萬客戶提供服務。上線以來,千帆的推理吞吐提升20倍,推理速度提升50%以上。在外部,百舸不止支持著像招商銀行、中國石化、長安汽車等企業的超大規模算力需求,也很好地支撐著創企客戶、伙伴的模型訓練、推理需求。

?以北京人形機器人創新中心為例,百度百舸為創新中心構建了穩定的超大算力集群,確保具身模型的訓練和推理得以高效進行,支持了人形機器人的快速迭代。在近日全球首個人形機器人半程馬拉松中,北京人形機器人創新中心旗下純電驅全尺寸人形機器人“天工”,以2小時40分42秒的成績率先沖線一舉奪冠。?

為企業應用開發提效!千帆發布智能體Pro及MCP服務

?企業部署大模型,不僅需要高性價比的模型服務,更需要全面的模型工具。在模型服務層面,目前千帆平臺上有超過100多個模型,不僅包括文心4.5Turbo、文心X1 Turbo等百度自研模型,還包括DeepSeek、Ilama、Vidu等第三方模型,服務穩定、可靠。在模型開發層面,千帆平臺可以提供全面的模型開發工具鏈,支持深度思考模型、多模態模型的定制、精調。

?以模型蒸餾為例,智聯招聘在人崗匹配場景使用了千帆平臺的模型蒸餾工具鏈,用千億參數的DeepSeek R1作為“教師模型”,用百億參數的ERNIE Speed作為“學生模型”,經過調優后的小參數模型,不僅可以媲美“教師模型”的效果,成本也降低至3成。

?在應用開發上,本次大會千帆平臺全面升級了企業級Agent開發工具鏈,發布了全新推理式智能體——智能體Pro,從快問快答升級到深思熟慮,并且支持每個企業定制自己的專屬智能體。以污水寶為例,基于千帆Agentic RAG能力,讓Agent結合企業自己的私域數據和企業知識庫,可以基于對任務的理解去制定檢索策略,大幅降低模型幻覺。同時,智能體Pro也支持Deep Research深度研究模式,能讓Agent自主完成復雜任務的步驟規劃、信息篩選和整理,支持像人一樣操控電腦瀏覽網頁(computer use)進行探索式知識收集,也支持像人一樣使用多種工具繪制圖標、撰寫,生成結構清晰、內容豐富的專業報告。

?基于DeepResearch能力,榮耀正在利用千帆平臺,面向高校學生、職場白領等群體,打造一款科研場景深度研究的應用,將很快會在榮耀筆記本上上線。

MCP的出現,幫助開發者和企業在開發Agent時,能夠更好地利用行業數據和工具。本次大會,百度智能云正式發布國內首個企業級MCP服務,第一批已經有超過1000個MCP Servers供企業及開發者靈活選擇。另外,開發者也可以在千帆上開發自己的MCP Server,并發布到MCP廣場,支持免費托管,而且百度搜索也會索引這些MCP Server,讓它們被更多的開發者引用。

?從模型服務到應用開發,企業客戶已經在千帆平臺上做出了很多行業創新。民生銀行與百度智能云合作,探索大模型在商業銀行的落地,完成了金融領域第一個端到端涵蓋算力、平臺、模型、應用四層架構的項目落地。

自研AI應用重磅升級:實現營銷全旅程服務,視覺AI應用成本大幅下降

?百度智能云打造的智能基礎設施也支撐著百度自己的應用創新。本次大會,百度智能云面向智能營銷、視覺AI兩大領域,升級了兩大自研AI應用產品。

?金融營銷場景需要高精準獲客、“高情商”客服及高效的流失預警,百度智能云本次升級發布客悅·ONE,在上述核心場景進行了全面優化,為客戶提供全生命周期智能營銷服務,助力企業實現營銷效能全面提升。

?以理財撤單場景為例,傳統模式下,用戶需經歷復雜的說明閱讀和多層級菜單操作,效率低下??蛺偼ㄟ^AI驅動的智能交互,極大簡化了這一流程。AI不僅能識別并安撫用戶焦慮,更能在對話中直接引導解決問題,還能自動提煉關鍵信息并回流數據,持續優化服務體驗。

?目前客悅已經服務銀行、證券、保險等不同細分領域的金融企業50余家,落地金融行業10余個場景。

為了解決視覺AI模型訓練周期長、門檻高,需要大量人工干預的問題。百度智能云升級發布一見5.0,在標準化高、規則清晰的任務中,僅需一句自然語言,即可秒級生成專業級視覺AI應用,一線業務人員也能輕松上手,借助云邊協同,應用成本大幅降低,加速了視覺智能規模化的落地。

?目前,百度智能云從算力、平臺到應用的系統級能力,已經在多個企業場景中穩定運行。中國鋼研與百度智能云聯合打造全棧智能基礎設施,基于昆侖芯和百舸,搭建了專屬的智算平臺;在千帆上做模型精調,使用大、小模型結合的方式獲得最佳效果;結合一見視覺平臺,快速完成了表面缺陷檢測、金相分析等核心場景的應用開發

聲明:取材網絡,謹慎辨別

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
曾凡博重傷事件發酵,名記點名籃協驅逐希臘裁判:現在立刻讓他走

曾凡博重傷事件發酵,名記點名籃協驅逐希臘裁判:現在立刻讓他走

二哥聊球
2025-04-29 23:24:53
天天打掃,為什么家里還有那么多毛絮?學會這么做,家會很干凈的

天天打掃,為什么家里還有那么多毛絮?學會這么做,家會很干凈的

室內設計師有料兒
2025-04-29 10:46:20
破案了!趙繼偉為何十分低迷場均5分?付政浩說出原因,一針見血

破案了!趙繼偉為何十分低迷場均5分?付政浩說出原因,一針見血

南海浪花
2025-04-29 09:19:47
浙江官宣:五一假期,沒電、沒氣、沒油車輛全部免費拖離高速

浙江官宣:五一假期,沒電、沒氣、沒油車輛全部免費拖離高速

澎湃新聞
2025-04-29 18:32:27
值夜班的護士醫生膽子有多大?網友:進了腫瘤科沒有幾個活著出去

值夜班的護士醫生膽子有多大?網友:進了腫瘤科沒有幾個活著出去

娛樂圈人物大賞
2025-04-25 00:55:04
4.29:王楚欽無懼非議,莎莎挽著邱貽可撒嬌,王曼昱半點不敢歇腳

4.29:王楚欽無懼非議,莎莎挽著邱貽可撒嬌,王曼昱半點不敢歇腳

二月侃事
2025-04-29 08:28:45
男女工地同居5年,工程款結算完后,她卻攔住男人:該算我的賬了

男女工地同居5年,工程款結算完后,她卻攔住男人:該算我的賬了

白云故事
2025-04-29 03:15:07
我娶了36歲大齡剩女,新婚當晚我后悔了,她剩下是有原因的

我娶了36歲大齡剩女,新婚當晚我后悔了,她剩下是有原因的

青青會講故事
2025-04-28 12:38:06
遇雙重難題?王勵勤前景被看衰,劉國梁搭檔或離隊,馬琳職位變動

遇雙重難題?王勵勤前景被看衰,劉國梁搭檔或離隊,馬琳職位變動

忠橙家族
2025-04-29 12:00:17
肖飛前途盡毀,一些患者得知后安慰他,他回答不需要

肖飛前途盡毀,一些患者得知后安慰他,他回答不需要

辣條小劇場
2025-04-29 03:19:21
有網友挖掘出了董襲瑩的背景了

有網友挖掘出了董襲瑩的背景了

老頭和你隨便聊聊
2025-04-29 08:28:14
董襲瑩,這名字有點意思,高知父母起這名字,含意很深

董襲瑩,這名字有點意思,高知父母起這名字,含意很深

魔都姐姐雜談
2025-04-29 12:43:05
亞馬爾回應“不尊重國王”質疑:我始終是懂禮貌的球員

亞馬爾回應“不尊重國王”質疑:我始終是懂禮貌的球員

雷速體育
2025-04-30 03:37:06
成龍第二個私生子曝光!她與林青霞齊名,帶子嫁人,過往生活被扒

成龍第二個私生子曝光!她與林青霞齊名,帶子嫁人,過往生活被扒

阿鳧愛吐槽
2025-04-28 22:30:37
張譯拿完影帝后!僅過了3分鐘,就做了重大決定,息影,原因在這

張譯拿完影帝后!僅過了3分鐘,就做了重大決定,息影,原因在這

說說史事
2025-04-28 08:08:17
網友爆料董襲瑩本科相當于國內三本,不符合協和4+4要求

網友爆料董襲瑩本科相當于國內三本,不符合協和4+4要求

大象新聞
2025-04-29 12:27:03
38架殲10CE即將發貨,中方力挺巴,印急購26架陣風,大戰一觸即發

38架殲10CE即將發貨,中方力挺巴,印急購26架陣風,大戰一觸即發

肆時說
2025-04-29 20:49:39
特朗普最終等來的,不是北京的妥協,而是中方給美送上的“戰書”

特朗普最終等來的,不是北京的妥協,而是中方給美送上的“戰書”

生活魔術專家
2025-04-29 17:11:30
美國財長:若中方不主動讓步,美國將升級局勢,可能對華實施禁運

美國財長:若中方不主動讓步,美國將升級局勢,可能對華實施禁運

肖茲探秘說
2025-04-29 19:59:25
圍堵女孩不讓擺攤后續:官方通報,攤位鄰居發聲,爆出更多細節!

圍堵女孩不讓擺攤后續:官方通報,攤位鄰居發聲,爆出更多細節!

鋭娛之樂
2025-04-29 13:58:55
2025-04-30 05:40:49
山上 incentive-icons
山上
時間寶貴,讀點有意思的。關注科技與商業變革。
139文章數 5關注度
往期回顧 全部

科技要聞

賽力斯港股二次上市 市值僅次于比亞迪小米

頭條要聞

神十九飛船已撤離空間站 計劃今日中午返回東風著陸場

頭條要聞

神十九飛船已撤離空間站 計劃今日中午返回東風著陸場

體育要聞

勇士火箭雷霆太陽,你們是怎么失去他的?

娛樂要聞

帶著兒子嫁給張譯 如今才知到底有多值

財經要聞

沃爾瑪恢復中國供應商出貨 客戶承擔關稅

汽車要聞

為全球造最好小車 firefly的故事才剛剛開始

態度原創

房產
手機
藝術
教育
軍事航空

房產要聞

1.6w+起!國興核心驚現改善神盤,??诜績r徹底殺瘋!

手機要聞

Beats全新數據線開箱:1.5米編織材質,售價145元起

藝術要聞

故宮珍藏的墨跡《十七帖》,比拓本更精良,這才是地道的魏晉寫法

教育要聞

兒子無奈的看著爸爸,然后說道:也不知道你的大學是怎么考上的

軍事要聞

澤連斯基承認烏情報部門刺殺俄軍高官

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 阿鲁科尔沁旗| 论坛| 云浮市| 许昌市| 沽源县| 新郑市| 盐亭县| 桦南县| 巨鹿县| 长岭县| 桂东县| 纳雍县| 仁怀市| 蒙山县| 大方县| 义马市| 榆树市| 长春市| 绥中县| 闻喜县| 洪洞县| 越西县| 新丰县| 兴城市| 岚皋县| 乃东县| 蕲春县| 吉安市| 醴陵市| 舟山市| 彰化县| 竹山县| 柳河县| 沧源| 揭东县| 闵行区| 囊谦县| 黑河市| 夹江县| 海林市| 乐都县|