4月29日，第八屆數字中國建設峰會在福州舉行。會議期間，全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東接受了《每日經濟新聞》等媒體的采訪。

在齊向東看來，隨著人工智能，尤其是大模型在垂直領域落地應用的加速，數據安全面臨著新的三重挑戰：數據密度變高，失去珍貴“小數據”的企業將承擔巨大損失；大部分大模型還在“裸奔”上線，極有可能引發業務停擺的鏈式危機；用戶對AI（人工智能）過度依賴，一旦大模型決策失準會引發“蝴蝶效應”。

除了挑戰，齊向東還看到了人工智能時代下數據安全市場的重大機遇。根據他的預測，數據安全市場“引爆在即”，雖然增速尚難估計，但至少會高于其他行業。從細分領域和利好產業來看，數據基礎設施底座、算力網平臺、數據應用動態管控、數據流通利用安全等方面將成為企業在打造自身數據安全“護城河”時關注的重點；“車路云一體化”趨勢下的智能網聯車產業對數據安全的需求將大大增加，萬億級市場呼之欲出。

齊向東接受《每日經濟新聞》等媒體采訪 圖片來源：受訪者供圖

大模型“裸奔”上線極有可能引發業務停擺的鏈式危機

峰會現場，從人形機器人到智能眼鏡再到各類AI解決方案，2025年，大模型終于在垂直領域迎來了應用和落地的爆發。作為經歷過上一輪互聯網“狂歡”的老兵，齊向東在看到新生產力的同時，也看到了隨之而來的安全風險。

首先是“小數據”的重要性遠超從前，成為數字經濟時代的核心關切。至于這個“小”的范圍，齊向東解釋稱，“小數據”其實是指企業在多年競爭中積累下來的核心資產。“這個小指的是規模小，用硬盤就能拷走。在大模型垂直應用場景中，大數據經過標注、清洗、學習，就變成了‘小數據’，這些精華數據的價值更高，集中度也強。”

需要注意的是，據齊向東介紹，在相關產業，接觸上述數據的大模型開發工程師、訓練微調工程師、模型運維工程師、數據管理員、數據標注員等都擁有很高的數據訪問權限，因此權限濫用、身份盜取等情況更難防范，安全風險更為嚴峻。齊向東直言，對企業來說，一旦精華小數據被竊取、泄露、篡改，企業常年積累的核心競爭力會瞬間崩塌。

第二重挑戰是，在企業積極部署落地的同時，大部分大模型都在“裸奔”。據他介紹，大模型在深度融入智慧城市、工控系統、智慧政務等領域時會將風險串聯成網，一旦被攻擊就是“牽一發動全身”。然而，通過奇安信資產測繪鷹圖平臺的監測數據，在8971個Ollama大模型服務器中有6449個活躍服務器，其中近九成都在“裸奔”。

“這就導致任何人，不需要任何認證就可隨意調用，或是在未經授權的情況下訪問服務，甚至可以發送指令刪除所部署的DeepSeek、Qwen等大模型文件，進而導致與大模型關聯的應用業務中斷。”齊向東稱。

第三重挑戰是用戶對AI的過度依賴。“隨著人工智能在各行業深入應用，大模型的本領會越來越強，（用戶）會對人工智能的輔助決策和判斷（能力）過度依賴。從外部攻擊視角看，黑客可以通過利用漏洞、數據‘投毒’等方式干擾大模型的決策，披著大模型的外衣作惡。從內部運營視角看，一旦內部員工在更新知識庫時引入錯誤信息，就會污染模型學習環境，使其輸出錯誤結論。”齊向東稱。

不過，即便明知大模型有幻覺、長期使用會有依賴，大模型也已經勢不可當地進入了千行百業，用戶該如何應對這些風險，安全領域的玩家們又該如何“接招”？

《每日經濟新聞》記者注意到，與前一輪互聯網浪潮時的安全產品略有不同，此次不少公司選擇了加碼硬件來抵抗風險。以奇安信為例，據齊向東介紹，奇安信推出了大模型安全空間以及奇安天界大模型安全一體機等解決方案。其中，一體機產品可通過一體化交付、一體化運維和一體化管理來滿足大模型的安全和合規需求，已在超千家政企客戶中成功部署。

數據安全市場“引爆在即”

人工智能浪潮來襲已有一年多的時間，我國的數據資源增長情況究竟如何？

4月29日，《全國數據資源調查報告（2024年）》正式發布（下稱《報告》）在第八屆數字中國建設峰會期間正式發布。《報告》顯示，我國數據資源規模優勢持續擴大，數據資源開發利用活躍度穩步提升，2024年全國年度數據生產總量達41.06澤字節（ZB），同比增長25%；智能家居、智能網聯汽車、無人機等智能設備數據增速位居前列。

然而，與高速增長的數據池對應的卻是近年來增速并不理想的數據安全市場。齊向東告訴《每日經濟新聞》記者，在他看來，主要原因是此前數據都是以大數據形式存在，一個單位內會有成百上千，甚至上萬臺服務器用于存儲數據。加上彼時數據單位的體系和數據的價值密度并不高，因此哪怕有數據丟失，企業也并不太“痛”。

齊向東直言，眼下這一情況已經有了明顯改變，隨著DeepSeek降低大模型部署成本，垂直領域應用開始爆發，企業在數據安全上的“痛感”會越來越明顯。畢竟企業要部署大模型，就需要將質量稀疏的大數據變成密度極高的“小數據”，否則將會消耗大量的算力和顯卡，燒掉大量資金。在此模式下，密度極高的數據一旦丟失，帶來的影響將遠超從前。

“我預計數據安全市場‘引爆在即’，至于增速是多少很難估計，因為它和宏觀經濟環境有關聯性，至少會遠高于其他的行業，因為它（數據安全需求）處于‘爆炸增長’的狀態。”齊向東稱。

值得關注的是，除了預測總量的增長，齊向東還嗅到了更多機遇的“味道”。他告訴記者，其實過去幾年，網絡安全行業一直是在挑戰中創造“歷史”，如“脫鉤斷鏈”“小院高墻”等情況，其實客觀上加速了我國的信創替代進程，極大釋放了信創安全需求。

再看回這波AI浪潮，齊向東認為，隨著各類利好政策的密集發布，國家數據基礎設施建設將全面提速，全流程動態防護必將成重點。對企業來說，圍繞數據基礎設施底座、算力網平臺、數據應用動態管控、數據流通利用安全等四個方面開展的數據安全建設將成為主流趨勢。

此外，產業方面，齊向東重點談到了“車路云一體化”行業的潛在機遇。在他看來，“車路云一體化”是智能網聯車領域落實和發展新質生產力的重要實踐，也是未來新型的交通關鍵基礎設施。一旦遭受網絡攻擊或數據泄露，將造成嚴重的交通秩序問題及公共安全事件。因此，保障數據安全合規將是智能網聯車產業穩健發展的前提。齊向東預測，隨著相關政策的密集推出，國家將以超長期國債等方式支持地方投入車路云一體化項目，萬億級市場呼之欲出。