春節期間,DeepSeek憑借其卓越的技術性能和創新性的功能,在市場中迅速崛起,實現了C端用戶數量的爆發式增長。然而,當考慮將其應用于企業業務時,除了模型本身強大的性能之外,穩定性和安全性也是關鍵因素。因此,如何將具有與DeepSeek官方對話服務一致體驗的應用,部署在安全的環境與平臺中,成為眾多企業關注的焦點。
如今,百度百舸基于昆侖芯P800,發布部署 “滿血版DeepSeek R1+聯網搜索” 服務,為解決這一問題提供了有效路徑。通過聯網搜索功能,將最新的互聯網數據融入答案生成,為企業提供更及時、準確的信息支持,讓企業業務不再等待,高效運轉成為常態。
昆侖芯:強大算力,卓越性能
目前,百度智能云已成功點亮昆侖芯P800萬卡集群,這也是國內首個正式點亮的自研萬卡集群。百度智能云將進一步點亮3萬卡集群。昆侖芯P800在性能上表現卓越。其顯存規格比同類主流GPU高出20%-50%,對MoE架構更為友好,并且率先支持8bit推理,單機8卡就能運行671B模型。這使得昆侖芯在部署上更加輕松,運行成本顯著降低,還能輕松完成DeepSeek-V3/R1全版本推理任務。不僅如此,昆侖芯P800在DeepSeek系列MoE模型大規模訓練任務中也表現出色,全面支持MLA、多專家并行等特性,僅需32臺即可支持模型全參訓練,高效助力模型的持續訓練和微調。
聯網搜索:多源聚合,智能協作
不僅如此,為了讓用戶具備與DeepSeek官方同樣的使用體驗,本次還創新性的集成了智能聯網搜索功能,采用「多源多引擎的聚合搜索+智能體協作」的方案,聚合來自各種搜索服務和數據庫的結果,相比單一搜索引擎,多源聚合能夠增加搜索結果的廣度和深度,不再受限于單一信息來源。同時,智能搜索也融入了智能體協作能力,實現用戶問題重寫、網頁解析、信息排序、信息源分類等功能,能夠為大模型提供與用戶問題更加相關好的高質量數據,同時方便用戶進一步查看高質量的內容。
?
百度百舸:創新架構,穩行高效
國產昆侖芯萬卡集群以及未來三萬卡集群的建設,從硬件到軟件,技術挑戰是全方位的。而24年9月升級的百度百舸AI異構計算平臺4.0,圍繞落地大模型全旅程的算力需求,在集群創建、開發實驗、模型訓練、模型推理四大方面,能為企業提供“多、快、穩、省”的AI基礎設施,在萬卡集群的建設中發揮了至關重要的作用。在DeepSeek最擅長的推理能力方面,百度百舸還提供了針對在線推理服務的全生命周期管理、彈性擴縮容、自研框架推理加速、完備的運維監控體系等優勢能力,結合昆侖芯P800的強大算力,為用戶提供服務穩定性的聯合保障,同時有效降低推理成本并提升推理性能。
現在,企業用戶及開發者朋友們可以通過訪問aihc.baidu.com申請體驗測試資格。如果對百度百舸相關服務有更多疑問或咨詢需求,可通過發郵件到AIHC-help@baidu.com尋求幫助。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.