深度

當前，人工智能體愈加快速地融入人類日常生活，人們不僅面臨人工智能體本身，還需要處理人類自身與人工智能體構成的復雜關系，這些關系反映了未來的人工智能體不是離開人類自成一體，而是走向與人類認知深度交互的混合智能。

原文：《從人工智能體走向混合智能體》

作者 |上海交通大學科學史與科學文化研究院教授 柳海濤

圖片 |網絡

人工智能越來越廣泛地被運用到教育、醫療、交通、軍事等諸多領域。按照紐厄爾、西蒙、明斯基等早期經典人工智能學者的看法，人工智能是一套物理符號系統所表現的屬性。當把這組計算技術和具體的應用場景相結合時，就形成了人工智能體（intelligent agents）。人工智能體可以被看作把人的欲望、信念、意圖等心理狀態賦予人工智能，用以解釋人工智能實施行為的合理性。人工智能體至少應具備三個基本特征。第一，自主性。它能夠在沒有人類直接的干預下保持正常運行。第二，交互性。人工智能體和人類以及人工智能體之間能夠進行信息交流與協作互動。第三，適應性。人工智能體可以根據環境主動調整行為，做出恰當反應。隨著大語言模型和生成式人工智能的出現，人工智能體愈加快速地融入人類日常生活，人們不僅面臨人工智能體本身，還需要處理人類自身與人工智能體構成的復雜關系，而這些關系反映了未來的人工智能體將逐步向混合智能體的方向演變。混合智能體主要包括三種形式：人與人工智能構成的混合體；多人工智能體之間組成的混合體；人工智能、設計者和用戶三元關系形成的混合體。

人-人工智能構成的混合智能體

人工智能不是由生物體的生命證實的，而是計算系統的屬性，其之所以是“智能”，是因為在廣泛的環境中，它可以執行一定的行動，基于這樣的“智能”定義，我們把此類系統稱為人工智能。所以，人工智能通過算法程序完成的目標離不開人的目標，也就是說，人工智能在環境中自動完成的行動依賴于人類預期的目的。人工智能不具備脫離人類之外的獨立的價值體系，它的價值和倫理對齊標準是人的價值。人與人工智能構成的混合智能體揭示了人工智能體的自主性其實是技術上實現的特征，它不同于生命有機體的自主性。由于人工智能體自身不能單獨成為主體，這就需要考慮人工智能的可信度、可解釋性等因素。當我們在用地圖導航時，地圖自動推薦的最優路線是根據一定參數標準設定的，比如紅綠燈最少、高速路段最多、堵車時長最短等，駕駛員在根據導航行駛的過程中，也可以更換其他路線或終止導航，如果未能順利到達目的地，也就無從追究導航系統的責任。因此，不論人工智能具有何種程度的自動性，它始終要與人的指令、偏好、價值結合起來。人-人工智能構成的混合智能體一方面是數字智能時代人類與技術工具之間新型人機關系的表現，另一方面是人工智能未來可持續發展的內在要求。

多人工智能體組成的混合智能體

人工智能在不同領域的應用往往需要各種特殊的智能體系統互相協作，從而形成多人工智能體組成的混合智能體，以完成超出單智能體能力范圍的任務。隨著深度學習、自然語言處理技術的運用，多智能體之間的互動模式也在不斷改進。比如，一個家庭里的智能家電之間就是由不同智能體構成的混合網絡，燈、音響、電視、冰箱、攝像頭等相互連接，各個設備發揮的作用交互協調，形成家居網絡的整體性功能。這種混合智能體由若干個自治的、異構的智能體組成，每個智能體都有自己的特定任務和行為方式，通過它們的合作，既施展每個智能體的單項智能，又提升了單項智能融合后群體系統的性能與效率。多智能體系統是人工智能快速發展的重要分支，更深入的研究和應用在理論上需要對人類智能機制原理進一步理解，在實踐上需要提供更逼真的大模型多智能體框架，用以解決社會生活中的復雜問題。

人工智能-設計者-用戶構成的混合智能體

對人工智能系統來說，它的功能與人類想要解決的問題有關。人工智能體看起來是在根據一套規范自主行事，但這些規則和目標是相關的研究設計人員制定的。換句話說，人工智能體的“信念-欲望-意圖”是人類把自己的心理狀態賦予了系統，為智能體的行為附加上的心理合理性描述，使它們好像和人一樣遵循規則指向目標地行動，這也是我們把它們看作智能體的原因。然而，一方面，人工智能體的行為是程序邏輯推理的結果；另一方面，目標和規則并不屬于人工智能本身，而是制造它的人為它設定的。就如樹木的年輪只是樹的生物特點，通過年輪來判斷樹木的年齡是外部觀察者賦予年輪的功能。對人工智能的用戶來說，他們是欲望和意圖的發起者，人工智能體自身不具備生物性的欲望狀態，亦不能離開預先設定的模型架構去實施額外的任務。因此，智能體的行為實質上是人工智能-設計者-用戶三方構成的混合系統交互作用的結果。例如，使用大語言模型系統寫一個腳本，需要用戶給出提示詞和場景，程序生成的文本內容超越不了它的模型邊界，其輸出結果中也混雜著用戶的貢獻。在自動駕駛汽車剎車失靈導致撞車的事故里，司機的操控行為與自動駕駛系統的配合方式是設計者設置的，事故的原因是多環節的綜合，智能體系本身不成為自洽的行為主體。人工智能-設計者-用戶的三元混合智能體，不僅說明人工智能不是一個獨立領域，而且揭示人工智能體不能脫離人而單獨成為道德主體。

人工智能是涵蓋計算機、數學、心理學、哲學、神經科學等眾多學科的交叉領域，在本質上是人類賦予機器的性能。從應用角度看，它是一種工程技術；從理念上看，它是一種思想，甚至是一種世界觀。從人工智能體走向混合智能體是人工智能未來發展的重要趨勢，對混合智能體的探索應從兩個方面著手。

首先是智能體（agent）的界定和實現框架問題。第一，概念界定。agent這個詞具有行動者、能動、行為等多重含義，如何翻譯尚未達成共識。在這里，agent是用來指明一個系統具有感知環境并自主決策執行動作的能力。人工智能作為智能體是有條件的，我們認為最小的條件應當是：（1）存在一個與環境C不同的可區分的系統X；（2）X在C中實施特定的行動A；（3）C依據既定的規則和目標實施行動A。在這樣的情況下，我們把X當作智能體。第二，在對智能體的界定以及特征描述的基礎上，還需要考慮智能體的實現途徑。這些問題包括：（1）如何構建一個計算系統來滿足智能體的屬性或特征；（2）什么樣的軟件和硬件結構是合適的；（3）人工智能體的語言是一種編程語言，我們該如何對智能體進行編程并使其有效地編譯或執行程序。

其次是智能體之間的交互模式問題。混合智能體是多個智能體之間通過一定關系構成的整體智能，最關鍵的是它們之間的交互機制是什么。認知科學中的分布式認知理論主張，認知是分布在不同對象之上的，甚至包括了社會文化環境。從這個視角看，混合智能體也是一種分布式認知。然而，不同智能體之間是如何形成混合智能的呢？一種方式是借鑒個體與整體的關系來討論混合智能的組成，另一種方式是從博弈論的視角來分析單個智能體之間的互動以及如何實現均衡。運用生成式自然語言處理技術，構建多智能體的協作框架，可以讓不同智能體在共享的環境中進行合作和競爭的訓練。比如，大模型CAMEL能讓智能體之間進行自然語言的交流和協商，還有其他的多智能體協作系統如OpenAI Five、AlphaStar等。開拓多智能體的協作架構是人工智能亟需開拓的一個重要領域。

總之，當前的人工智能已進入發展的一個轉型期，就機器學習和深度學習的狀況來看，人們對智能的呈現手段實質上是對多層數據的參數化轉換，把通過計算機例示的自動行為稱為智能，并賦予其一定的能動性。這是對機器智能借助算法對人類認知進行的經驗性模仿，并不是對人類大腦如何產生智能的原理性實現。不過，即使我們不清楚智能與計算的關系究竟是什么，也不意味著人工智能走的道路是遠離人類智能的另一條道路，它必然是基于人類認知邏輯的產物。因此，人工智能的未來演進不是離開人類而自成一體，而是走向與人類認知深度交互的混合智能。

[本文系國家社科基金項目“數字化時代背景下身心問題研究”（22BZX022）階段性成果]

文章為社會科學報“思想工坊”融媒體原創出品，原載于社會科學報第1898期第5版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

本期責編：王立堯