百度智能云又一次殺瘋了!
4月25日,2025百度AI開發(fā)者大會(huì)在武漢舉行,本次大會(huì)以“模型的世界,應(yīng)用的天下”為主題,聚焦AI技術(shù)革新與產(chǎn)業(yè)應(yīng)用。
百度創(chuàng)始人李彥宏在演講中表示,只要選對(duì)場(chǎng)景,選對(duì)基礎(chǔ)模型,有時(shí)候還要學(xué)一點(diǎn)調(diào)模型的方法,在此基礎(chǔ)上做出來的應(yīng)用是不會(huì)過時(shí)的。
他還強(qiáng)調(diào),沒有應(yīng)用,芯片、模型都沒有價(jià)值。模型會(huì)有很多,但未來真正統(tǒng)治這個(gè)世界的是應(yīng)用,應(yīng)用才是王者。
大模型的高效落地亟需從底層算力到應(yīng)用的全棧、系統(tǒng)級(jí)支撐——既需高性能硬件與集群優(yōu)化,也需靈活的開發(fā)工具鏈與場(chǎng)景化解決方案。
基于多年在大模型研發(fā)與產(chǎn)業(yè)落地的深厚積累,百度智能云構(gòu)建了新一代系統(tǒng)級(jí)智能基礎(chǔ)設(shè)施,為企業(yè)大模型應(yīng)用落地提供最佳解決方案。
當(dāng)其他大模型企業(yè)還在苦惱商業(yè)化難題、沒有應(yīng)用場(chǎng)景時(shí),百度智能云已經(jīng)坐穩(wěn)“大模型標(biāo)王”的位置。
相關(guān)數(shù)據(jù)顯示,2024全年百度智能云在大模型相關(guān)中標(biāo)項(xiàng)目數(shù)、行業(yè)覆蓋數(shù)、央國(guó)企中標(biāo)項(xiàng)目數(shù)三個(gè)維度均為第一,在能源、政務(wù)、金融三個(gè)行業(yè)的中標(biāo)項(xiàng)目數(shù)位于所有廠商第一。
今年第一季度,百度智能云拿下19個(gè)大模型招標(biāo)項(xiàng)目,中標(biāo)金額超過4.5億元,排名第一。
來源:智能超參數(shù)
據(jù)百度披露的2024年第四季度財(cái)報(bào),百度智能云營(yíng)收同比增長(zhǎng)26%,不僅領(lǐng)跑行業(yè)平均水平,也顯著高于百度核心業(yè)務(wù)整體1%的同比增速,成為百度核心業(yè)務(wù)增長(zhǎng)的核心引擎。
在今年百度AI開發(fā)者大會(huì)上,百度智能云旗下的AI算力平臺(tái)百舸、大模型開發(fā)平臺(tái)千帆以及AI原生應(yīng)用一見視覺大模型平臺(tái)、客悅·ONE都官宣了重磅升級(jí)。
10萬卡大規(guī)模集群
推理成本降低了95%
百舸作為企業(yè)級(jí)的一站式 AI工程平臺(tái),是當(dāng)之無愧的算力“巨擘”。
它支持10萬卡級(jí)別大規(guī)模集群建設(shè),為萬億參數(shù)模型訓(xùn)練提供穩(wěn)定環(huán)境,有效訓(xùn)練時(shí)長(zhǎng)高達(dá)99.5%,即便出現(xiàn)故障也能在分鐘級(jí)恢復(fù),讓企業(yè)無需擔(dān)憂算力中斷問題。
此次大會(huì)上,百度宣布點(diǎn)亮昆侖芯P800 3萬卡集群,可同時(shí)承載多個(gè)千億參數(shù)大模型的全量訓(xùn)練,支持1000個(gè)客戶同時(shí)做百億參數(shù)的大模型精調(diào)。
在昆侖芯P800的支持下,僅需32臺(tái)設(shè)備就可完成DeepSeek滿血版部署,性能遠(yuǎn)超其他國(guó)產(chǎn)芯片。
百舸新發(fā)布了昆侖芯超節(jié)點(diǎn)(高密整機(jī)柜),將64張昆侖芯AI加速卡集成在一個(gè)機(jī)柜內(nèi),機(jī)柜內(nèi)直連,延遲低、卡間互聯(lián)帶寬可以提升到原來的8倍,推理性能提升13倍。
以往傳統(tǒng)部署下,64張GPU卡需分散在8個(gè)機(jī)柜,單個(gè)機(jī)柜8張卡,跨機(jī)柜通信需要依賴網(wǎng)絡(luò)交換機(jī),延遲高、帶寬受限,GPU的協(xié)作效率低。
現(xiàn)在,1個(gè)機(jī)柜就能頂過去100臺(tái)機(jī)器。
同時(shí),百舸升級(jí)了大規(guī)模分布式PD分離推理系統(tǒng),讓P層集中存儲(chǔ)模型參數(shù),多臺(tái)D層GPU共享調(diào)用,減少冗余儲(chǔ)存;D層則專注實(shí)時(shí)計(jì)算,按需求量彈性分配資源,隨取隨用,避免算力閑置。
通過資源共享與負(fù)載均衡,推理成本降低了95%,推理吞吐提升20倍,單個(gè)GPU可同時(shí)處理更多請(qǐng)求,單個(gè)token的輸出時(shí)間降低40%,用戶請(qǐng)求響應(yīng)速度更快。
百度智能云事業(yè)群總裁沈抖認(rèn)為,未來三年,推理降本,一定是企業(yè)最重要的工作。百舸力爭(zhēng)讓每張卡都用到極致。
不久前,在北京人形機(jī)器人半馬中奪得冠軍的天工機(jī)器人,與百舸平臺(tái)合作,實(shí)現(xiàn)了算力資源的動(dòng)態(tài)分配,將天工機(jī)器人的集群有效訓(xùn)練時(shí)長(zhǎng)提升至98.8%。
配套的加速套件使大模型訓(xùn)練效率提升30%-60%,推理速度提升20倍,顯著優(yōu)化了“大腦”(任務(wù)決策)與“小腦”(運(yùn)動(dòng)控制)的協(xié)同效率。
中鋼研與百度智能云聯(lián)合打造的系統(tǒng)級(jí)智能基礎(chǔ)設(shè)施,并快速進(jìn)行多場(chǎng)景應(yīng)用開發(fā),最終實(shí)現(xiàn)秒級(jí)數(shù)據(jù)標(biāo)注時(shí)間,檢測(cè)準(zhǔn)確率95%+的關(guān)鍵指標(biāo),達(dá)成產(chǎn)線提效50%+,質(zhì)檢人力節(jié)省40%+的運(yùn)營(yíng)效益。
支持100+主流大模型
多模態(tài)能力再提升
李彥宏在現(xiàn)場(chǎng)表示,在DeepSeek橫空出世后,千帆大模型也在第一時(shí)間接入,但DeepSeek僅限于文本,且存在在較高的幻覺。
而千帆作為多維、開放的大模型平臺(tái),可以提供100+個(gè)國(guó)內(nèi)外主流大模型,比如文心、Llama3、DeepSeek等,覆蓋了文本、圖像、深度推理等六大類能力,為企業(yè)提供一站式模型選擇。
其全面的模型開發(fā)工具鏈,支持深度思考模型的定制開發(fā)、多模態(tài)開發(fā)、模型蒸餾。
尤其是模型蒸餾技術(shù),通過大模型生成高質(zhì)量合成數(shù)據(jù),指導(dǎo)小模型訓(xùn)練,解決了企業(yè)冷啟動(dòng)數(shù)據(jù)不足的痛點(diǎn),降低了訓(xùn)練成本。
以智聯(lián)招聘為代表的招聘企業(yè),起初應(yīng)用深度思考模型,但用戶量起來后,成本高居不下。
借助模型蒸餾技術(shù),智聯(lián)招聘利用文心大模型生成海量標(biāo)注數(shù)據(jù),訓(xùn)練輕量化小模型,解析簡(jiǎn)歷準(zhǔn)確率提升15%+,訓(xùn)練成本降低70%。
用老師模型的效果、學(xué)生模型的成本,在效果不變的前提下,降低了成本。
同時(shí),千帆持續(xù)推高智能體能力天花板,邏輯推理、多模態(tài)、工具調(diào)用和多智能體協(xié)同等功能強(qiáng)大。
千帆支持為企業(yè)定制自己的智能體,保障其安全性和穩(wěn)定性。
此外,千帆還在國(guó)內(nèi)率先實(shí)現(xiàn)了MCP協(xié)議兼容,發(fā)布企業(yè)級(jí)MCP服務(wù),不僅提供大量第三方MCP,還支持開發(fā)者一鍵調(diào)用和定制開發(fā)。第一批已經(jīng)有超過1000個(gè)MCP組件接入。
民生銀行引入千帆大模型平臺(tái)后,完成了金融領(lǐng)域第一個(gè)端到端涵蓋算力、平臺(tái)、模型、應(yīng)用四層架構(gòu)的項(xiàng)目落地,覆蓋82個(gè)細(xì)分場(chǎng)景,綜合運(yùn)營(yíng)成本降低20%。
目前,民生銀行已經(jīng)有3.6萬名員工使用千帆大模型,員工對(duì)知識(shí)獲取的滿意度有了很大提高。
考試寶借助千帆平臺(tái),大模型調(diào)用量和產(chǎn)品付費(fèi)率增長(zhǎng)均突破 100%,原本人工制作解析一道題成本平均1.5元,現(xiàn)在降低至3厘。
一句話生成
專業(yè)級(jí)視覺AI應(yīng)用
百度智能云一見視覺大模型平臺(tái)和客悅?ONE,是百度智能云的兩大AI原生應(yīng)用。
一見視覺大模型平臺(tái)基于文心4.5原生多模態(tài)大模型等升級(jí),提供全棧視覺AI能力,廣泛應(yīng)用于連鎖、制造、能源等多個(gè)行業(yè)。
在連鎖行業(yè),一見已服務(wù)50%的頭部連鎖品牌。
某餐飲連鎖企業(yè)基于一見平臺(tái)打造了鍋底上桌、上菜檢測(cè)、顧客離座、收臺(tái)合規(guī)等6類場(chǎng)景算法,對(duì)全國(guó)1000+家門店員工服務(wù)質(zhì)量的量化管理,訂單覆蓋率從抽檢5%提升到95%,AI識(shí)別準(zhǔn)確率達(dá)到99%,大幅提升門店智能化管理水平。
比如廚師沒按照客戶要求,誤放了酸黃瓜,手上戴著的連接一見平臺(tái)的手環(huán)會(huì)發(fā)出提醒。
在水務(wù)行業(yè),一見助力某地水務(wù)局建設(shè)防溺水AI系統(tǒng),對(duì)城市河道安全隱患、異常事件進(jìn)行分析預(yù)警。
針對(duì)戶外、夜間等場(chǎng)景下小模型誤報(bào)多的問題,通過百度智能云一見視覺大模型對(duì)小模型識(shí)別結(jié)果進(jìn)行復(fù)判,并自動(dòng)關(guān)聯(lián)救援系統(tǒng),實(shí)現(xiàn)事件識(shí)別準(zhǔn)確率大于98%,10秒內(nèi)預(yù)警,10分鐘聯(lián)動(dòng)救援,已成功挽救多條生命。
新升級(jí)的5.0版本,實(shí)現(xiàn)了更低成本、更低門檻的自動(dòng)化升級(jí),零代碼技能,一句話生成專業(yè)級(jí)視覺AI應(yīng)用。
客悅?ONE則深度融合文心、DeepSeek等大模型,共包含智能客服、智能外呼、客戶洞察三大產(chǎn)品,形成數(shù)據(jù)洞察→智慧觸達(dá)→高效服務(wù)→營(yíng)銷策略優(yōu)化的閉環(huán)體系。
升級(jí)后,客悅·ONE支持從一鍵圈選高潛客群,到自動(dòng)生成營(yíng)銷策略并觸達(dá)目標(biāo)客群、再到高效應(yīng)對(duì)用戶簡(jiǎn)單或復(fù)雜問題咨詢,每個(gè)節(jié)點(diǎn)均由智能體自動(dòng)處理并推進(jìn),覆蓋全生命周期。
同時(shí),基于對(duì)話數(shù)據(jù)的長(zhǎng)期記憶挖掘與動(dòng)態(tài)優(yōu)化算法,系統(tǒng)可實(shí)時(shí)反哺營(yíng)銷策略迭代。
與用戶的對(duì)話過程,客悅·ONE能精準(zhǔn)識(shí)別用戶意圖與情緒波動(dòng),根據(jù)咨詢需求靈活切換人工,更通過端到端語音語言大模型,實(shí)現(xiàn)“無感延時(shí)”的流暢體驗(yàn)。
在客服場(chǎng)景,客悅·ONE智能客服為中信金控搭建了統(tǒng)一的智能服務(wù)入口,覆蓋了理財(cái)、基金、債券、活動(dòng)等多個(gè)場(chǎng)景,用戶意圖識(shí)別準(zhǔn)確率提升到90%以上,解決了傳統(tǒng)AI在多輪對(duì)話、邏輯推理、知識(shí)檢索上的表現(xiàn)不理想的問題。
另外,中信金控還通過客悅·ONE智能客服,減少了大量的標(biāo)注壓力,把知識(shí)庫的建設(shè)效率提升了一倍。
目前,客悅·ONE已經(jīng)深度服務(wù)金融、汽車、文旅、快消、政務(wù)等十余個(gè)行業(yè)的數(shù)千家企業(yè),幫助企業(yè)在營(yíng)銷轉(zhuǎn)化與服務(wù)效能上做到雙突破。
結(jié)語
從超大規(guī)模算力的百舸平臺(tái),到功能強(qiáng)大的千帆大模型平臺(tái),再到解決行業(yè)實(shí)際問題的一見視覺大模型和客悅?ONE,百度智能云全方位的升級(jí),構(gòu)建起了開放、系統(tǒng)級(jí)的智能基礎(chǔ)設(shè)施。
沈抖表示,百度智能云的價(jià)值,不僅是解決某一個(gè)問題,而是讓企業(yè)擁有“創(chuàng)造的能力”。企業(yè)可以結(jié)合自己的數(shù)據(jù)、流程、邏輯,利用百度智能云的系統(tǒng)級(jí)能力打造企業(yè)專屬AI基礎(chǔ)設(shè)施。
當(dāng)資源池化和動(dòng)態(tài)調(diào)度達(dá)到臨界點(diǎn)時(shí),企業(yè)得以用近乎免費(fèi)的計(jì)算資源構(gòu)建智能應(yīng)用,從而引發(fā)商業(yè)范式的根本性顛覆。
百度智能云,在做的,就是在幫企業(yè)全方位的優(yōu)化AI的算力成本。
這必將為企業(yè)帶來更多驚喜,助力企業(yè)在 AI 浪潮中脫穎而出,創(chuàng)造更大的價(jià)值。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.