前沿
中國指揮與控制學會認知與行為專委會推薦人機環境系統智能時代的變革——AI戰爭。作為人類最頂尖的智能形式,軍事智能不是軍事+AI,也不是AI+軍事,而是其中既包括機器的計算也包含有人的算計,軍智如生物進化一樣不太講究多強大、多聰明,而更關注任務執行中的恰當變通,它不是包治百病的神藥,而是對癥下的準藥,最高境界是達到不戰而屈人的目的。當前軍事系統的自主化與弱通訊、無通訊條件下的高級自動化等價,而現代的軍事無人化側重于統計概率下的機械化+自動化。即使科技發展出的裝備再先進,其形成的產品或系統也只是機器計算,01的數理基礎仍然沒有變,就像5G、6G、…NG一樣,若沒有意向性和價值性出現,系統本質上還是機器。軍事智能的本質是暴力性對抗角逐,即要摧毀對方的博弈意志;人工智能的本質是服務性智力,滿足對象的需求。軍智以損人為本,民智以助人為樂。AI作為計算的邏輯實質上是一種“主體轉向”,“軍智的算計邏輯”是當仁不讓地以人類為主體,研究的對象是對手的認知、思維、智能種種,強調應是什么應干什么等問題,軍智不但涉及手段還包括意志和隨機偶然性;AI計算的邏輯則是將計算機作為信息處理的主體,側重是什么干什么問題,研究的是計算機的處理方式以及人與計算機的互動關系。未來的軍事智能不是功能性的工具(錘子)而是能力性的軟件+硬件+濕件,它不太講究事實和形式,多涉及價值和意義。它會不斷地超越軍種、行業、領域的格局和前瞻的戰略視野,是顛覆性技術創新的重要支撐。
人類文明歷經了近萬年的坎坎坷坷,幾度輾轉,幾經變革,直至今日,人工智能的興起才極大地觸發了人們對智能含義的深度思考,因為只有充分了解了智能的本質,才可能將人與機器、環境更好地融合,實現真正的軍事智能。本書闡述了對軍事智能的新理解、新認知。首先,根據軍事智能的研究動向與不足,提出軍事智能是一個復雜系統,其思想基礎和目的是如何把人的諸多主動能力浸入到機器的被動功能之中,其關鍵在于人、機、環境系統協同,機器的計算是基于事實的功能,而人類的算計是基于價值的能力。
嚴格地說,軍事智能從來就沒有海量的大數據、大樣本,若對手少給你假數據、假樣本就算很不錯的了!同樣,軍事智能的推理也不是簡單的數理+物理推理,而是物理、生理、心理、數理、管理、哲理、文理、機理、藝理、地理、倫理、宗理等等多事實、多價值、多責任的混合推理體系,所以軍事智能中的深度學習、強化學習也與民用的機器學習常常大相徑庭、截然不同。
當前的軍事智能(包括人工智能)研究存在兩個致命的缺點:(1)把數學等同于邏輯,把邏輯簡單等同于智能。數學不等同于邏輯,數學研究空間形式和數量關系結構,是一種基于公理的邏輯體系;而真正的智能及軍事智能不但包括數學--這種基于公理的邏輯,而且還涉及非公理邏輯、甚至現在還未形成邏輯的非邏輯或超邏輯。(2)把軍事智能簡化成了軍事+AI或者AI+軍事。實際上,軍事本身就是人類最高水平的智能,包含了各種各樣的智能形式以及反智能形式,所以更準確地說,軍事智能既包括科學技術,也涉及文史藝哲宗等方面,屬于復雜領域(如《孫子兵法》的英文名字就被翻譯成“The Art of War”),其核心是“詭”、“詐”、“算”、“膽”、“善”等,是人、物(機是人造物)、環境系統融合的計算+算計(簡稱“計算計”)體系(軍事智能的特點“詭、詐、算、膽、善”也展示了現代戰爭中策略與智慧的重要性,而其最高境界“善”則強調了通過智慧和非對抗手段實現目標的價值。未來,軍事智能將在這些特點的引導下,繼續推動戰爭形式和戰略思想的演變。)。
上述兩個缺點直接誘發了以下幾個很難解決的軍事智能領域問題:1、客觀數據與主觀信息、知識的如何彈性融合、靈活的表征?2、公理與非公理推理的怎樣有機混合、高效處理?3、責任性判斷與無風險性決策的能否無縫銜接、虛實互補?4、人類反思與機器反饋之間可否相互協同、適時調整?5、態勢感知與勢態知感有無雙向平衡、積極呼應?6、人機之間的透明信任機制、可解釋性如何建立?7、機器常識與人類常識的是否能夠對齊?8、機器終身學習的范圍/內容與人類學習怎樣達成一致?
不可否認的是,技術的進步也帶來了新的挑戰,如何確保人在智能系統中的主導地位,防止技術對決策的過度干預,將是未來軍事智能研究的重要方向。未來,軍事智能中人的角色將不斷深化,決策者將成為技術與戰術的橋梁。通過合理利用智能技術,提升決策的科學性與有效性,推動軍事行動的成功。
軍事領域的智能化不同于自動化,自動化(含人工智能)一般是確定性的輸入、可編程的處理、確定性的輸出、確定性的反饋;而軍事領域的智能化則是不確定性的輸入、部分確定+部分不確定的處理、不確定性的輸出、不確定性的反饋(但整個過程常常是利己的)。機器智能的基礎是邏輯映射關系,而軍事智能的基礎則是漫射、散射、影射,其中人類的想象力、創造力是軍事智能的重要組成成分。軍事智能化的瓶頸問題之一:不是單純的快、單純的準、而是對,例如單純機器計算的越精細、越準確、越快速,危險性越大,因為敵人可以隱真示假、造勢欺騙、以假亂真,所以有專家參與的人機融合/混合軍智相對顯得更重要、更迫切、更有效。一般而言,機器的“計算”往往解決可以數學建模的重“復”性工作,人類的算計常常處理不能數學建模的“雜”亂無章的事情,而任務環境就是把“復”、“雜”集成在一起的平臺。涉及人、機、環境三者的軍事智能如《易》一樣,其核心都在于:變,因時而變、因境而變、因法而變、因勢而變……費曼說:“物理學家們只是力圖解釋那些不依賴于偶然的事件,但在現實世界中,我們試圖去理解的事情大都取決于偶然”。軍事智能就是這種偶然+必然的復雜系統。
針對上述諸多問題,本書第一章“揭開迷霧——軍事智能是什么?“著重闡述了軍事智能的概念、軍事智能發展及美軍軍事智能的發展、未來智能化戰爭制勝的關鍵因素及挑戰;第二章“與民不同——軍事領域中的人工智能有啥不同?“討論了人工智能軍事應用的風險、人工智能工具在虛假信息中應用、機器學習如何消化分析戰場數據、軍事領域的機器學習不同于傳統的機器學習;第三章”虛實相映——兵棋推演與現代戰爭“介紹了兵棋推演的歷史、兵棋推演在現代戰爭中的重要性、兵棋推演與人機環境系統智能、兵棋推演的未來;第四章“限之有方——軍事智能能夠有可解釋性嗎?“論述了可解釋軍事智能破解智能黑盒謎團、可解釋性人工智能如何提高決策的透明度、可解釋性人工智能如何保障軍事決策的可靠性;第五章”判斷有據——智能決策是事實還是欺騙?“ 探討了事實和價值的分分合合、我們看到的是事實還是欺騙、人工智能懂價值性判斷嗎;第六章”算計思維—現代戰場計算與算計如何雙重博弈?“探尋了我們需要“計算”還是“算計”、AI能否算計人類、計算+算計,將如何實現;第七章”多樣輸出—元宇宙能否成為軍事作戰的模擬沙盒?“梳理了軍事智能的虛擬副本:數字孿生是模擬實戰的終極利器、元宇宙能否成為軍事作戰的模擬沙盒、虛擬現實與增強現實如虎添翼助力軍演;第八章”配合有道—人機融合是否智能戰場的終極合作?“推敲了人機協同組織起立體式反導網絡、人機融合:打好多域戰的關鍵、自主系統及其典型案例簡析;第九章”戰場生態——現代戰爭中的態勢感知和人機環系統如何配合合作?“斟酌了態勢感知如何輔助軍隊作戰、人機環1+1+1會大于3嗎、深度態勢感知與人機環系統;第十章”展望未來—未來戰爭中的人工智能是何景象?“憧憬了倫理算法決策能否代替人類、反人工智能、認知戰等。
總之,軍事智能革命才剛剛開始,它將如何進行——以及最終能否取得勝利--將取決于抓住這一機遇的緊迫性、組織的適應性。人類與機器智能的潛力都是無限的,但前提是要有理解它的遠見和迎接挑戰的毅力。意大利空中力量理論家朱利奧-杜赫特曾經說過的那樣:"勝利是屬于那些預見到戰爭性質變化的人,而不是屬于那些等待著在變化發生后才去適應的人"。杜赫特的這句話寫于一個多世紀前,今天仍能引起強烈反響。即將到來的軍事人工智能革命正處于大國之間更廣泛的地緣政治競爭之中。這場競爭事關重大,勝負難料。要想在這場大國競爭中取得勝利并阻止戰爭,就必須保持其技術優勢。要實現這一目標,就必須進行突破性創新。然而,技術本身并不是唯一的決定因素,國家的戰略眼光、政治意愿、以及國際合作的能力,同樣決定著軍事智能革命的走向。為了避免陷入一場不可控的沖突,國際社會需要在加強技術研發的同時,也要關注相關的倫理、法律和全球治理框架的建設,確保技術不僅服務于軍事戰略,也能推動全球和平與穩定的目標。
在這本書里,筆者將就未來人工智能和未來戰爭領域的一個重要發展方向——軍事智能中涉及的主要問題展開探討和思索,如東西方軍事思想差異、事實與價值、計算與算計、線性與非線性、態/ 勢/ 感/ 知之間的關系、感性與理性、自動化/ 智能化等。如果說筆者前幾本書《追問人工智能:從劍橋到北京》、《人機融合:超越人工智能》、《人機環境系統智能:超越人機融合》是筆者對人、AI、環境在民用智能領域的一段思想旅程,那么這本書則是一段對未來軍事領域中人、AI、環境的認知探索,也許世界就是由許許多多這些“思”與“想”、“認“與”知“的共同構成的吧。曾幾何時,筆者站在羅馬人修建的兵營城堡(camp castle )遺址望著千年康河(Cam River )緩緩流過那幾座著名的石橋、木橋、鐵橋(bridge),了解了劍橋(cam+bridge ,Cambridge )的由來。到如今,撫今追昔,驀然回首,那山、那水、那橋依然魂牽夢繞,只不過透過那些過去了的劍光橋影,依稀看到東方冉冉升起的一輪紅日,美麗的霞光給鐘聲里克萊爾學院后花園的孔子雕像與熙熙攘攘市中心古老集市旁的泰勒斯塑像披上了一層神奇和驚嘆!仔細想來,其實,撰寫這本小書的目的又何嘗不是延續了《孫子兵法》的意圖呢:在這顆藍色的星球上,和平永遠比戰爭更令人神往!
謹以此書獻給熱愛和平的人們,并獻給我的家人們和朋友們!
作者介紹
劉偉(1970.6-),北京航空航天大學工學博士,北京郵電大學人機交互與認知工程實驗室主任,博導,劍橋大學訪問學者,清華大學戰略與安全研究中心中美二軌AI對話專家,國務院發展研究中心國際技術經濟研究所特聘專家,媒體融合生產技術與系統國家重點實驗室特聘研究員,中國指控學會認知與行為專委會副主任委員、城市大腦專委會委員,國家自然科學基金評議專家、全國人類工效學標準化技術委員會委員。研究領域為人機融合智能、認知工程、人機環境系統工程、未來態勢感知模式行為分析/預測技術等多方面等。
大模型2.0讀書會啟動
o1模型代表大語言模型融合學習與推理的新范式。集智俱樂部聯合北京師范大學系統科學學院教授張江、Google DeepMind研究科學家馮熙棟、阿里巴巴強化學習研究員王維塤和中科院信工所張杰共同發起,本次讀書會將關注大模型推理范式的演進、基于搜索與蒙特卡洛樹的推理優化、基于強化學習的大模型優化、思維鏈方法與內化機制、自我改進與推理驗證。希望通過讀書會探索o1具體實現的技術路徑,幫助我們更好的理解機器推理和人工智能的本質。
從2024年11月30日開始,預計每周六進行一次,持續時間預計 6-8 周左右。歡迎感興趣的朋友報名參加,激發更多的思維火花!
詳情請見:
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.