導語：2024年4月，英國艾倫圖靈研究所的新興技術與安全中心（CETaS）發布報告《人工智能驅動戰略決策：情報領域的信任溝通機制與不確定性管理》（AI and Strategic Decision-Making：Commu-nicating trust and uncertainty in AI-enriched intelligence）。該報告是英國聯合情報組織（JIO）和英國皇家通信總部（GCHQ）共同資助項目的成果，以人工智能驅動戰略決策為主題，分析了應如何保障人工智能增強情報見解的嚴謹性、透明度和可靠性，旨在更好地利用人工智能增強情報支撐戰略決策。啟元洞見分享文章主要內容，為讀者提供參考。

一、背景

英國情報機構的一項關鍵職能是提供及時、準確的見解，以支撐戰略決策。情報分析師匯集各種信息來源，進行專業研判，形成全源情報評估，為政府各部門的戰略決策者（SDM）提供背景信息。這些決策可能會產生重大影響，如在國家出現緊急情況時，是否授權開展軍事行動、做出外交反應或采取公共安全措施等。因此，支撐決策的情報如果來源于不完整的信息，情報分析師需明確指出知識中的空白，并有效地傳遞不確定性，以幫助決策者準確的評估情報的可信度。

過去二十年來，可用于情報分析的數據量大幅增長，情報部門在識別、處理和分析這些信息源和信息量方面面臨巨大挑戰。人工智能技術在提高情報評估的嚴謹性和速度方面擁有巨大的潛力，該技術已被證明能夠提高情報分析評估的生產力和有效性。但同時，該技術可能存在放大當前已知的偏見和不確定性等風險，也可能因難以評估其局限性導致分析人員誤判而引發潛在風險。如何在充分發揮人工智能技術優勢的同時降低風險，是當前情報界面臨的主要挑戰之一。

報告充分將戰略決策定義為對國家安全有重大影響的關鍵決策制定過程。“人工智能增強的情報”（AI-enriched intelligence）是指部分或全部通過使用機器學習分析或生成式人工智能系統（如大語言模型）獲得的情報見解。報告探討了在數據激增和人工智能技術快速發展的背景下，人工智能增強的情報是否能確保嚴謹性、透明度和可靠性。報告研究了向戰略決策者傳遞人工智能增強情報局限性的時機和策略，確保在情報的可訪問性和技術細節之間取得平衡。此外，報告還探討了是否需要進一步強化人工智能增強情報的治理、指導和升級，使戰略決策者能夠基于人工智能增強的情報做出重大決策。

二、人工智能驅動戰略決策
的優勢和挑戰

人工智能是情報分析師的重要分析工具。人工智能系統能夠識別可能被忽視的趨勢和異常現象，其處理大規模數據的能力遠超人類分析師。因此，將人工智能用于情報工作，有利于實現情報評估標準中的全面覆蓋原則。此外，采用人工智能工具有助于發現信息間的關鍵聯系，提高情報產品支撐政府決策的有效性。

然而，人工智能的使用可能會放大情報分析和戰略決策過程中固有的不確定性。人工智能系統的輸出是概率計算的結果，在數據不完整或有偏差的情況下容易出現誤差。許多人工智能系統的不可解釋性也使人類難以理解其形成結論的原理和過程。有鑒于此，亟需對情報分析中使用的人工智能系統進行精心設計、持續監測和定期調整，以降低人工智能系統產生偏見和錯誤的風險。情報部門對其交付的情報產品的相關技術指標（如準確率和錯誤率）負有最終責任，情報分析師在作出結論和判斷時必須考慮到人工智能技術的局限性和不確定性。

三、人工智能驅動戰略決策
的溝通機制

決策者需要了解人工智能增強情報的局限性，同時又不被技術復雜性過度干擾。平衡上述可訪問性和技術細節的方法包括：一是通過制定指南明確人工智能增強情報的不確定性；二是利用分層方法（layered approach）向決策者傳達技術細節；三是通過培訓和指導使決策者了解技術專業知識。

（一）制定指南界定不確定性

制定新的指南，在全源情報分析中明確人工智能增強情報的局限性和不確定性。該指南應建立一個標準術語表，簡明扼要地評估人工智能模型整體性能的置信度，以及模型輸出中固有的不確定性。隨著人工智能技術的不斷發展，需要定期審查和更新該指南。

（二）利用分層方法傳達技術細節

一方面為人工智能增強的情報產品提供通俗易懂的評估信息，使非技術專業的決策者能評估情報產品的可信度；另一方面，提供有關系統性能和局限性的額外技術信息，以便擁有更多技術專業知識的決策者查閱。

（三）培訓技術專業知識

講習班、研討會和培訓可有效提高分析師和決策者對人工智能及其局限性的認識，這些課程還可以讓用戶直接與技術互動，提高他們的熟練度和信任度。隨著人工智能在情報分析領域的日益普及，情報分析師都應接受培訓，學習如何與模型互動，以及如何解讀、質疑和評估人工智能增強的情報。為建立對人工智能增強情報產品的信任，應向數據管理員、情報分析師和決策者介紹人工智能系統的基本原理和相應的保證程序。

四、結論與建議

本研究表明人工智能是支撐情報分析的有效工具，可以提高情報工作的生產力和效率，并產出人類分析師無法洞察的新見解。在評估人工智能可能會產生的風險時，需權衡以下兩方面的因素：一是所有情報分析工作的固有風險；二是人工智能技術的優勢。提高情報分析師和戰略決策者的人工智能素養將有助于深入理解人工智能模型及其局限性。最后，還需要為人工智能系統制定標準化的保證程序，以建立對人工智能增強情報的信任。研究認為，應當立即開展相關工作，確保情報分析師和戰略決策者做好充分準備，在未來將人工智能能力融入情報周期。報告提出以下建議，旨在采用最有效的方式向戰略決策者傳遞人工智能增強的情報產品。

1.情報評估專業負責人（PHIA）應制定指南，以便在情報分析中明確指出人工智能增強情報的不確定性。該指南應提出標準術語，通過標準術語向決策者闡明人工智能的局限性和注意事項，還應對決策者如何使用人工智能增強的情報提供指導。

2.在向戰略決策者提供相關技術信息時，負責評估情報產品的人員應考慮到不同決策者的技術背景差異，應采取分層方法，保證非技術專業人員也能夠理解人工智能增強情報產品的評估結果。此外，向掌握更多技術專業知識的決策者提供額外的技術細節信息，幫助其深入了解系統性能及局限性。

3.英國情報評估學院（UK Intelligence Assessment Academy）應進行培訓需求分析，根據分析結果開發適當的培訓課程。

4.應向戰略決策者（及相關工作人員）提供培訓，介紹人工智能的基本原理和相應的保證程序，以幫助其建立對人工智能增強情報產品的信任。

5.由于人工智能增強情報是重要決策的基礎，在舉行國家安全決策會議之前，應舉行簡短的專家簡報會，向決策者簡要介紹關鍵的技術細節和局限性，并確保決策者提前評估情報產品的信任程度。專家簡報會應由聯合情報組織和國家安全秘書處（National Security Secretariat）共同協調，并充分匯集首席科學顧問網絡和相關科學咨詢委員會的專業知識。

6.應為情報分析和評估中使用的人工智能系統制定正式的認證方案，以確保模型在穩健性、安全性、透明度以及偏見緩解等方面達到決策所需的最低要求。將人工智能系統應用于特定情報分析任務的技術保證應下放給相關組織，但要對其保證程序進行必要的認證。這需要協調和組織專門資源，將情報分析專業知識與技術知識相結合。PHIA應協助制定原則和要求，而認證和測試方面的技術知識則應來自情報界和政府內的有關技術部門。

免責聲明：本文轉自啟元洞見。文章內容系原作者個人觀點，本公眾號編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯系我們！

轉自丨啟元洞見

研究所簡介

國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展態勢，為中央和有關部委提供決策咨詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬號，致力于向公眾傳遞前沿技術資訊和科技創新洞見。

地址：北京市海淀區小南莊20號樓A座

電話：010-82635522

微信：iite_er