簡陽市融媒體中心
DeepSeek憑借其卓越的性能表現與廣闊的應用前景,正崛起成為業內全新基準。隨著各領域爭相加入DeepSeek技術應用浪潮,針對具有高強度推理需求的用戶群體而言,部署高性能版本DeepSeek已成為必然的趨勢。
近日,立昂技術研發團隊基于先進的KTransformers框架,成功地驗證了單張GPU(24GB顯存)+ 512G內存環境下DeepSeek-R1 671B大模型的推理應用。測試結果顯示,該配置不僅能支持模型在處理推理任務時始終保持高效穩定,而且還精準可靠。驗證數據表明,在處理簡單短文本推理任務時,模型生成token的平均速度高達6 tokens/s,這能夠有效地滿足中小型用戶的部署應用需求。除了驚人的速度,在涉及科學常識、歷史事件、技術知識及邏輯推理等多個領域的問題集時,模型均能夠給出正確答案。
立昂領算云現已推出DeepSeek完整版大模型低成本部署云服務方案,不僅滿足廣大用戶對于高效率、低成本部署大模型的強烈需求,還將為人工智能大模型、智慧城市、金融等多個領域發展提供源源不斷的支持,為數字經濟發展注入蓬勃動力。
在國家“東數西算”工程的戰略布局下,我市作為成渝國家樞紐節點天府數據中心集群三大起步區之一,立足數字經濟發展的區位優勢、算力優勢,積極促進數字技術深度融入實體經濟,深入推動工業、服務業、應急領域等方面的轉型升級。預計到2025年底,我市算力規模將達到11000P,占成都市50%以上、成渝國家樞紐節點30%以上,規劃數據處理能力位列成都市首位。
立昂技術西南基地總部
立昂技術西南基地總部位于四川簡陽經開區,是我市招引的超大型算力中心,由立昂云數據建設運營,總投資50億元,占地74畝,分三期建設。園區規劃機架約12000架,PUE值低至1.25。該基地一期項目已投入運營,可提供3000+P算力,預計年內將擴容至8000P算力,已上線西南地區首個千卡推理資源池。
來源 | 立昂技術
編輯 | 羅玉蓉
責編 | 胡禹
審核 | 夏渝喜
如需轉載請注明出處
如有涉及版權、新聞線索等事宜請聯系028—27222000
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.