文章來源丨麥肯錫公司：Lareina Yee、Michael Chui、Roger Roberts 和 Stephen Xu，慎思行采編翻譯

個人微信丨hello_SSX

在過去幾年里，生成式人工智能（Gen AI）所釋放出的能力和可能性令世人驚嘆不已。大型語言模型（LLMs）等基礎模型可以在文本、音頻、圖像和視頻等多種媒介中提取洞察并生成內容，工作表現令人印象深刻。但是，生成式人工智能的下一階段可能會更具變革性。

我們正從基于知識的生成式AI工具——例如回答問題和生成內容的聊天機器人——向生成式AI驅動的“智能體”演進，這些智能體利用基礎模型在數字世界中執行復雜的多步驟工作流程。簡而言之，技術正在從“思想”轉向“行動”。

廣義上講，"智能體"系統指的是能夠在動態世界中獨立互動的數字系統。雖然這些軟件系統的版本已經存在多年，但是生成式AI的自然語言能力展現了新的可能性，使系統能夠規劃行動、使用在線工具完成任務、與其他智能體和人類協作，并通過學習改善表現。生成式AI智能體最終可能成為熟練的虛擬同事，以無縫且自然的方式與人類合作。例如，虛擬助手可以規劃和預訂復雜的個性化旅游行程，處理多個跨平臺的物流。工程師可以使用日常語言向程序員智能體描述新的軟件功能，然后智能體會編寫代碼、測試、迭代并部署它幫助創建的工具。

傳統上，智能體系統很難實現，需要基于規則的繁瑣編程或機器學習模型經過高度疼的訓練來實現，Gen AI改變了這一點。

當智能體系統使用基礎模型（這些模型在極其龐大且多樣的非結構化數據集上進行了訓練）而不是預定義規則來構建時，它們就有可能以類似于LLMs的方式對未經明確訓練的提示做出智能回應，適應不同場景。此外，人類用戶可以使用自然語言而不是編程代碼，指揮Gen AI智能體系統完成復雜的工作流程。

然后，多智能體系統可以將這一工作流程解釋和組織為可執行的任務，將工作分配給專門的智能體，使用數字工具生態系統執行這些細化任務，并與其他智能體和人類合作，不斷改進其行動的質量。

在本文中，我們將探討使用Gen AI智能體所帶來的機遇。盡管該技術仍處于初級階段，在商業部署之前還需要進一步的技術開發，但它正在迅速吸引關注。僅在過去一年，谷歌、微軟、OpenAI 等公司就已投資于支持智能體功能的軟件庫和框架。由LLM驅動的應用程序，如微軟Copilot、亞馬遜Q和谷歌即將推出的Project Astra，正從知識型向行動型轉變。Adept、crewAI 和 Imbue 等公司和研究實驗室也在開發基于智能體的模型和多智能體系統。鑒于Gen AI的發展速度，智能體可能會像今天的聊天機器人一樣普及。

智能體能為企業帶來什么價值？

智能體所能釋放的價值，源于其自動化處理大量復雜用例的潛力——這些用例通常具有高度可變的輸入和輸出，并且長期以來一直難以通過減少成本或時間的方式解決。以看似簡單的商務旅行為例，它可能涉及涵蓋涉及不同航空公司和航班的多種可能行程，更不必說酒店會員獎勵計劃、餐廳預訂和休閑活動安排，所有這些都必須在不同的平臺進行處理。雖然部分流程已經實現了自動化，但大部分仍需手動完成。這在很大程度上是因為潛在的輸入和輸出差異很大，導致整個流程過于復雜、成本過高或時間過長，難以實現自動化。

Gen AI驅動的智能體可以通過以下三種重要方式簡化復雜和開放式用例的自動化：

1. 智能體可以處理多樣性管理

許多商業用例和流程都具有線性工作流程的特點——明確的起點、一系列導向特定解決方案或結果的步驟。這種相對簡單的特點使其很容易通過基于規則的系統編碼和自動化。但基于規則的系統往往表現出“脆弱性”，即當遇到規則設計者未明確考慮的情況時，系統就會崩潰。例如，許多工作流程的可預測性要低得多，充斥著意想不到的波折和多種潛在結果；這些工作流程需要特殊處理和細致判斷，這使得基于規則的自動化極具挑戰性。

但是，Gen AI智能體系統基于基礎模型構建，能夠針對特定用例應對各種低概率場景，實時動態調整，以執行完成流程所需的專項任務。

2.智能體系統可以通過自然語言指令驅動

目前，要實現一個用例的自動化，首先必須將其分解為一系列可編碼的規則和步驟。這些步驟通常要轉化為計算機代碼，并集成到軟件系統中——這一過程通常既費錢又費力，還需要大量的專業技術知識。由于智能體系統以自然語言作為指令形式，即使是復雜的工作流也能更快、更輕松地實現編碼。更重要的是，該流程可能由非技術人員（而不是軟件工程師）完成。這不僅便于整合領域專業知識，還拓寬了使用Gen AI和AI工具的普及范圍，同時簡化了技術與非技術團隊之間的協作。

3.智能體系統能夠與現有軟件工具和平臺協同工作

除了分析和生成知識，智能體系統還可以使用工具并在更廣泛的數字生態系統中進行交互。例如，可以指導智能體與軟件應用（如圖表繪制工具）協作、在互聯網上檢索信息、收集并整合人工反饋，甚至調用其他基礎模型。數字工具的使用既是智能體的核心特征（這是智能體在真實場景中產生實際行動的方式之一），也是Gen AI能夠得以發揮獨特作用的途徑。基礎模型能夠學習如何通過自然語言或其他接口與工具交互。如果沒有基礎模型，這些能力將需要大量的手動工作來集成系統，例如使用ETL（提取、轉換和加載）工具），或通過繁瑣的人工操作來整理不同軟件系統的輸出結果。

Gen AI智能體如何工作？

智能體系統能夠支持跨行業和業務職能部門的高復雜度用例，尤其適用于涉及耗時任務或需要多種專業定性和定量分析的工作流。其核心能力在于通過遞歸方式分解復雜流程，并基于專項指令和數據源執行子任務，以達成最終目標。這一流程通常遵循以下四個步驟：

1.用戶指令輸入

用戶通過自然語言指令與AI系統交互（類似對可信賴的員工下達任務）。系統識別目標用例，并在必要時要求用戶進一步說明需求。

2.智能體系統規劃、分配和執行工作

智能體系統將指令處理成工作流程，分解為任務和子任務，并由管理型子智能體分配給其他專業子智能體。這些子智能體依托領域知識、工具，先前 "經驗 "和已編碼化的專業知識，協同調用組織數據與系統來執行這些任務。

3.智能體系統不斷改進輸出

在整個過程中，智能體可能會要求用戶補充輸入，以確保準確性和相關性。最后，智能體系統會結合用戶反饋迭代優化，直至提供最終輸出結果。

4.智能體執行操作

智能體在實際操作中執行所以的必要行動，以徹底完成用戶請求的任務。

可能性探索：三大潛在應用場景

這類系統對企業意味著什么？以下三個假設性用例揭示了不遠的將來的可能圖景。

用例 1：貸款核銷

金融機構需通過撰寫信貸風險備忘錄來評估向借款方提供信貸或貸款的風險。這一過程涉及收集、分析和審核與借款方、貸款類型和其他因素相關的各種類信息。由于信貸風險評估場景多樣且需多維度分析，該流程往往耗時且高度依賴協作——客戶經理需與借款方、利益相關方和信貸分析師合作進行專項分析，然后提交給信貸經理進行審核并補充專業意見。

基于智能體的潛在解決方案：一套由多個智能體組成的系統（每個智能體都承擔特定任務角色），可設計用于處理廣泛的信用風險場景。用戶可通過自然語言輸入高層級的工作計劃，明確規則、標準與條件。隨后，智能體團隊會將工作拆解為可執行的子任務。

例如，一個智能體可以扮演客戶關系經理的角色，處理借款方與金融機構之間的溝通事宜。執行智能體可以整理必要的文件，并轉發給財務分析智能體，后者將分析現金流量表中的債務數據，并計算相關財務比率，隨后由審核智能體進行審查識別矛盾并提供反饋。這種分解、分析、優化和審核的過程會不斷重復，直到最終完成信貸風險備忘錄。

與傳統的生成式AI架構不同，智能體系統可以生成高質量的內容，將審核周期縮短 20% 至 60%。智能體還能跨多個系統，整合多來源的數據。最后，智能體可以展示其工作過程：信貸分析師可以快速追溯生成的文本或數字，訪問完整的任務鏈及數據來源，從而高效驗證輸出結果的可靠性。

用例 2：代碼文檔和現代化改造

大型企業的遺留軟件應用程序和系統往往會帶來安全風險，并可能減緩業務創新的步伐。但實現對這些系統的現代化改造過程復雜、成本昂貴且耗時費力，需要工程師審查和理解數百萬行的舊代碼庫和業務邏輯的手工文檔，然后將這些邏輯遷移至更新后的代碼庫，并與其他系統進行整合。

基于智能體的潛在解決方案：AI智能體有望大大簡化這一流程。

可以部署一個專門化的遺留軟件專家智能體，通過分析舊代碼實現文檔化處理和代碼片段的記錄與翻譯。與此同時，質量保障智能體可以審核這些文檔并生成測試用例，幫助AI系統迭代優化其輸出結果，確保其準確性和對組織標準的遵從性。

此外，這種可重復的流程還將產生飛輪效應，即智能體框架的組件可在整個組織的其他軟件遷移項目中重復使用，從而顯著提高開發效率并降低軟件開發的總體成本。

用例 3：創建在線營銷活動

設計、啟動和運行在線營銷活動往往涉及一系列

不同的軟件工具、應用程序和平臺。在線營銷活動的工作流程也非常復雜：企業需要將業務目標和市場趨勢轉化為富有創意的營銷理念；針對不同客戶的細分市場和地域定制文字和視覺素材；還需通過不同平臺的用戶群體測試活動效果。為了完成這些任務，營銷團隊通常需要使用多種形式的軟件，并將產出從一個工具遷移到另一個工具，這一過程往往繁瑣且耗時。

基于智能體的潛在解決方案：智能體可以幫助連接這個數字營銷生態系統。例如，營銷人員可以用自然語言描述目標用戶、初始創意、目標渠道和其他參數。然后，在營銷人員的協助下，由智能體系統幫助開發、測試和迭代不同的營銷活動創意。數字營銷戰略智能體可以利用在線調查、客戶關系管理解決方案中的分析結果，以及其他市場研究平臺來收集洞察，借助多模態基礎模型制定戰略。然后，內容營銷、文案撰寫和設計智能體可以創建定制化內容，并由人工審核員評估其品牌契合度。這些智能體將合作迭代和完善產出內容，并朝著既能優化活動影響又能最大限度降低品牌風險的方向努力。

領導者應如何為智能體時代做好準備？

雖然智能體技術剛剛起步，但隨著對相關工具的持續投資，智能體系統有望在未來幾年實現重大突破并大規模部署。

因此，企業領導者現在開始深入了解智能體技術，并考慮是否可以借助智能體系統來加速一些核心業務流程或戰略目標，時機正好。這種了解可以為未來的路線圖規劃提供依據，幫助企業在創新浪潮中保持競爭優勢。一旦明確潛在用例，企業就可以通過API、工具包和庫（例如，微軟 Autogen、Hugging Face 和 LangChain）探索不斷發展的智能體環境，逐步篩選適配自身需求的解決方案

為迎接智能體系統的到來，企業應重點關注以下三個因素，這些要素將決定此類系統能否充分發揮其潛力：

1. 相關知識的系統化編碼

復雜用例的實施要求企業定義業務流程并文檔化為結構化工作流程，用于培訓智能體。同時，企業需思考如何將專業知轉化為自然語言指令，從而通過智能體簡化復雜的流程。

2.戰略性技術規劃

企業需重新梳理數據和 IT 系統架構，確保智能體系統能與現有基礎設施有效對接。這包括采集用戶交互數據以獲得持續反饋并優化模型，以及構建靈活的技術框架以便在不干擾現有運營的情況下整合新興技術。

3. 人機協同控制機制

當AI智能體開始與現實世界互動時，控制機制對于平衡自主性和風險至關重要（見 "理解智能體系統的獨特風險"）。人類必須驗證輸出的準確性、合規性和公平性；與領域專家協作維護和擴展智能體系統；并建立持續改進的學習飛輪。企業應盡早明確人機協同機制的適用場景與部署方式。

了解智能智能體系統的獨特風險

眾所周知，當前的大型語言模型（LLMs）存在錯誤和“幻覺”問題。由于智能體系統處理的是 LLM生成的連續輸出序列，若缺乏保護措施，單個輸出中的“幻覺”可能產生連鎖反應。此外，由于智能體系統被設計為自主運行，企業領導者必須考慮額外的監督機制和防護措施。雖然很難完全預測智能體機構會帶來的所有風險，但以下是一些應該考慮的風險。

01

潛在有害輸出：大語言模型的輸出并非總是準確，可能會提供不正確的信息或執行具有不良后果的操作。隨著生成式人工智能（gen AI）智能體在千變萬化的場景中獨立使用數字工具和數據執行任務，此類風險也隨之加劇。例如，智能體可能會批準一筆高風險貸款，從而導致經濟損失，也可能會代表客戶進行不可退款的高額消費。

緩解策略：企業應實施強有力的問責機制，明確界定智能體與人類的責任邊界，并確保智能體輸出結果的可解釋性。具體措施包括：

• 開發框架管理智能體的自主權：例如，根據用例的復雜度限制智能體的行動范圍。

• 確保人工監督：例如，在執行前驗證智能體的輸出，并對智能體的決策進行定期審核。

• 構建透明度和可追溯性機制，幫助用戶了解智能體的決策過程，及早發現潛在的問題

02

工具濫用風險：智能體能夠訪問工具和數據，如果被故意濫用，可能會引發危險。例如，智能體可能被用來編寫易受攻擊的代碼、制造仿真的網絡釣魚騙局或竊取敏感信息。

緩解策略：針對高風險場景，企業應建立防護機制（例如設置訪問控制與操作權限限制），并為智能體創建封閉的環境（例如限制智能體的可訪問的工具與數據源）。此外，企業還應對智能體活動進行實時監控，對可疑行為自動發出警報。定期開展審核合規性檢查，確保防護機制持續有效。

03

人機信任失衡問題：正如人類與同事之間的關系一樣，人類與AI智能體之間的互動也建立在信任的基礎上。如果用戶缺乏對智能體系統的信任，可能減少必要的人機交互與信息共享，阻礙智能體系統的學習優化。反之，隨著智能體越來越擅長模仿人類的行為，部分用戶可能過度信任智能體智能體，賦予其人類水平的理解力和判斷力，導致用戶不加批判地接受建議，或在沒有充分監督的情況下給予智能體過多的自主權。

緩解策略：組織可以通過提升智能體決策的透明度來管理這些問題。在此過程中，我們需要確保用戶接受了負責任地使用智能體的培訓，并建立人機協同流程來管理智能體行為，人工監督智能體程序是確保用戶保持平衡視角的關鍵所在。此外，通過關鍵績效指標（例如，客戶滿意度、票據的成功完成率）評估智能體效能，并保留智能體行動的最終權力和責任。

除上述風險外，企業還應關注Gen AI智能體引發的更廣泛問題：

• 價值觀一致：由于智能體與同事關系密切，他們的行為應體現組織的價值觀。智能體應在其決策中遵循哪些價值觀？如何對通過定期評估和培訓確保價值觀對齊？

• 勞動力結構轉型：通過獨立完成任務，智能體系統將極大地改變完成工作的方式，從而有可能讓人類更加專注于需要批判性思維和管理技能的高層次任務。各業務職能部門的角色和職責將如何轉變？如何為員工提供再培訓機會？是否有新的合作模式可以加強人機協作模式？

• 擬人化風險治理：隨著智能體的擬人化程度提升，用戶可能會產生過度依賴，或誤以為AI助手完全符合自己的興趣和價值觀。智能體應融入多多少人類特征？可以創建哪些流程來實時檢測人機交互中的潛在危害？

麥肯錫最近的《人工智能現狀 》調查顯示，超過 72% 的受訪企業正在部署AI解決方案，而且對Gen AI的興趣與日俱增。在此背景下，企業將AI智能體等前沿技術納入其戰略規劃和未來AI路線圖已是大勢所趨。智能體驅動的自動化展現出革命性的潛力，有望以全新行動速度重塑工作模式。

盡管如此，這項技術仍處于早期階段，其全部功能的釋放尚需持續開發。系統復雜性和自主性的不斷提高，會帶來一系列挑戰和風險。若將AI智能體視為團隊中的“新成員”，正如人類員工需要磨合一樣，企業在信任智能體獨立運作前，必須投入大量測試、培訓和指導。然而，即便在技術萌芽期，我們也不難預見新一代“虛擬同事”可能釋放的廣闊機遇。

編輯 | Jiaru

清流學苑2025Q1課程安排

我們也將在3月29~30日在上海推出我們的清流學苑的新晉課程《關鍵洞察營》，歡迎感興趣的朋友掃碼了解和報名。

進一步交流

進入專業社群展開深度討論

慎思行通過微信等平臺覆蓋超過10萬戰略人、咨詢人等各類專業人士。我們也構建了專業社群，推動戰略與咨詢領域的問題討論、信息交流和機會分享，社群已有超過5年歷史，并成為了頂尖專業人士感知市場前沿，獲得實踐經驗的首要選擇。入群請添加慎思君微信，并提供名片。

現在微信公眾號更改規則，如果你不特地點進來，很可能看不到我們的推送了。希望喜歡【慎思行】的讀者朋友們將本號【設為星標★】，方便找到我們；也歡迎點擊右下角的【在看】。

＞企業應用AI智能體的前景與現實

＞AI能幫我們獲得洞察和解決問題嗎？

＞AI將如何改變戰略？