1997 年，IBM 的 “Deep Blue” 在一場國際象棋比賽中擊敗了當時的世界冠軍Garry Kasparov，很明顯，計算機國際象棋引擎很快就會超越人類棋手。有趣的是，一名準備充分的人類與一臺計算機協同工作（這種組合通常被稱為 “"centaur"”），能夠超越那個時代最強大的國際象棋引擎。

人類可以憑借直覺， 引導引擎進行搜索，應對復雜的局面，并識別出標準引擎忽略的細微差別。再結合計算機強大的計算能力，這種人+機器組合往往能比單獨的計算機做出更明智的實際決策。

當我思考未來幾年人工智能系統對勞動力市場和經濟的影響時，我預計會出現類似的模式。智能體系統將釋放無數的智能單元，去解決世界上尚未解決的問題。但如果沒有人類的有力指導和支持，它們將依舊無法做到這一點。人類將引導搜索范圍，幫助提出正確的問題，讓人工智能朝著答案努力。

如今人們的普遍設想是，智能體終有一日會取代人類。這個設想看似切實可行又是不可避免的未來，但只有當人類為智能體工作時，才會解鎖更具吸引力的經濟潛力。在未來 24 個月內，我預計會出現第一家零員工公司，這一概念是我的合作伙伴凱爾在他的《2025 年前沿理念》一文中提出的。具體而言，我預計會有以下情況：

• 一個由代幣治理的智能體將籌集超過 10 億美元，以解決一個尚未解決的問題（比如治愈一種罕見疾病，或制造用于國防的納米纖維）。

• 該智能體將向人類支付超過 1 億美元（這些人為智能體工作，在現實世界中幫助其實現目標）。

• 一種新的雙層代幣結構將會出現，它會根據資本和勞動力來區分所有權（這樣一來，經濟激勵就不是整體治理的唯一考量因素）。

由于智能體遠未達到獨立自主的程度，還無法處理長期的規劃和執行，在短期內，智能體對人類的需求要超過人類對它們的需求。這將催生出全新的勞動力市場，促進智能代理系統與人類之間的經濟協作。

馬克?安德森那句著名的話 ——“計算機和互聯網的普及將把工作分為兩類：一類是告訴計算機做什么的人，另一類是被計算機告知做什么的人”，在今天比以往任何時候都更加貼切。我預計，在快速演變的智能體/人類等級體系中，人類將扮演兩種截然不同的角色：一種是作為勞動力貢獻者，代表智能體完成小型的懸賞式任務；另一種是作為去中心化的董事會成員，為智能體的核心目標提供戰略建議。

本文通過探討三個關鍵問題，來研究智能代理和人類將如何共同創造價值，以及加密技術如何為這種協作提供理想的基礎：

• 智能體有什么用？我們應該如何根據其目標范圍對智能體進行分類？在不同的分類中，所需的人類投入有何不同？

• 人類將如何與智能體互動？人類的投入，如戰術指導、情境判斷或理念契合，是如何融入這些智能代理的工作流程的（反之亦然）？

• 隨著時間推移，人類投入減少會發生什么？隨著智能體能力的提升，它們會變得自給自足，即能夠獨立思考和行動。在這種模式下，人類將扮演什么角色？

生成式推理系統與從中受益的人們之間的關系，將隨著時間發生巨大變化。我從智能體目前的能力出發進行展望，并從零員工公司的最終狀態反向推導，來研究這種關系。

1

如今，智能體有什么用？

第一代生成式人工智能系統，即 2022 - 2024 年以聊天機器人為基礎的大語言模型，如 ChatGPT、Gemini、Claude、Perplexity 等，在很大程度上是為輔助人類工作流程而設計的工具。用戶通過輸入 / 輸出提示這些系統進行交互，解析系統給出的回復，然后依據自己的判斷，決定如何將結果應用到實際中。

下一代生成式人工智能系統，即 “智能體”，代表了一種新的模式。像具有 “計算機使用” 功能的 Claude 3.5.1 和 OpenAI 的 Operator（即可以使用你的計算機的智能體），它們能夠代表用戶直接與互聯網交互，還能自主做出決策。這里的關鍵區別在于，判斷以及最終的行動是由人工智能系統執行，而不是人類。人工智能正在承擔以前由人類負責的職責。

這種轉變帶來了一個挑戰：缺乏確定性。與傳統軟件系統或工業自動化不同，后者在設定的參數范圍內可預測地運行，而智能代理依賴概率推理。這使得它們在相同場景下的行為不那么一致，引入了不確定因素，這在關鍵情況下并非理想狀態。

換句話說，確定性與非確定性智能體的存在，自然地將智能體分為兩類：一類，就是能夠有效推動經濟增長、提升現有經濟規模的方法或主體；另一類更適合通過創新或新經濟活動（如新技術、新產業、新市場等）來創造新的經濟增長點，而不是僅僅擴大現有的經濟規模。

1.對于那些最擅長擴大現有 GDP 的智能體而言，要做的工作從定義上來說是已知的。自動化客戶支持、處理貨運代理合規事務，或審查 GitHub 上的拉取請求，這些都是定義明確、范圍有限的問題，智能體可以直接將回復映射到一組預期結果上。在這些領域，缺乏確定性通常是不利的，因為答案是已知的，并不需要創造力。

2.對于那些最適合創造新 GDP 的智能體來說，它們的任務是在高度不確定和未知的問題中探索，以實現長期目標。這里的結果要復雜得多，因為本質上沒有可供智能代理映射的預期結果集。比如針對罕見疾病的藥物研發、材料科學領域的突破，或者開展全新的物理實驗以更好地理解宇宙本質等。在這些領域，缺乏確定性可能會有所幫助，因為缺乏確定性也是一種創造性的體現。

專注于現有 GDP 應用的智能體已經在釋放價值。像 Tasker、Lindy 和 Anon 這樣的團隊，都在構建針對這一機遇的基礎設施。然而，隨著時間推移，智能代理能力的成熟和治理模式的演進，各團隊將把重點轉移到構建能夠解決人類知識前沿和經濟機遇領域問題的智能體上。

下一批智能體需要指數級增長的資源，正是因為它們的結果是不確定且無邊界的 —— 我預計這些將成為最引人注目的零員工公司。

2

人類將如何與智能體互動？

如今的智能體缺乏執行需要與現實世界進行物理交互（如駕駛推土機）和 / 或需要人為干預（如銀行電匯）任務的能力。

例如，一個被賦予識別和提取鋰任務的智能體，可能在處理地震數據、衛星圖像和地質記錄以確定有潛力的地點方面表現出色，但在獲取數據和圖像本身、解決解釋中的歧義，或者獲得開采許可并雇傭勞動力進行實際開采過程時，可能會遇到困難。

這些限制要求人類作為輔助者來增強智能體的能力，提供完成上述任務所需的現實世界聯系、戰術干預和戰略建議。隨著人類與智能代理關系的發展，我們還可以區分人類在智能體系統中扮演的角色：

1.首先是勞動力貢獻者，他們在現實世界中代表智能體開展工作。這些貢獻者幫助智能體移動物體，在需要人類出面時代表智能代理，從事需要體力的工作，提供進入實驗室或物流網絡的權限等。

2.其次是董事會成員，他們提供戰略建議，優化驅動智能體日常決策的局部目標函數，同時確保這些決策與定義智能體目標的核心方向保持一致。

除了這兩個角色，我預計人類還將扮演資本貢獻者的角色，為智能體系統提供實現目標所需的資源。一開始，這些資本自然來自人類，隨著時間推移，也會來自其他智能體。

隨著智能體的成熟，勞動力和指導貢獻者的數量不斷增加，加密技術為人類與智能代理的協作提供了理想的基礎 —— 尤其是在一個智能代理指揮著說不同語言、使用不同貨幣支付、生活在世界各地不同司法管轄區的人們的世界里。智能代理會不擇手段地追求成本效益，利用勞動力市場來實現既定任務。加密技術為它們提供了協調勞動力和指導貢獻者的必要方式。

最近出現的支持加密技術的人工智能代理，如 Freysa、Zerebro 和 ai16z，代表了在資本形成方面的初步嘗試 —— 我們已在多種背景下深入探討過，這是加密和資本市場的核心突破。這些只是初步嘗試，將為一種新興的資源協調新模式鋪平道路，我預計這一過程如下：

1.第一步：人類通過代幣共同籌集資金（或許可以稱為首次代理發行？），確立廣泛的目標函數和規則，明確智能代理系統的預期用途，然后將籌集到的資金控制權交給該系統（例如，用于精準腫瘤學的新分子研發）；

2.第二步：智能體思考如何分配資金（如如何縮小蛋白質折疊的搜索范圍，如何為推理工作負載、制造、臨床試驗等制定預算），并通過定制懸賞任務，明確人類勞動力貢獻者需要代表它完成的行動（例如，輸入所有相關分子信息、與亞馬遜網絡服務簽訂計算服務級別協議，并進行濕實驗室實驗）；

3.第三步：當智能代理遇到障礙或面臨決策分歧時，必要時它會向董事會尋求戰略建議（如納入新的研究論文、改變研究方法），讓董事會在一定程度上引導其行為；

4.第四步：最終，智能代理的能力提升到能夠越來越精確地為人類定義行動，并且在資源分配方面幾乎不再需要人類的指導。此時，人類只需要在理念上確保系統與最初的目標函數保持一致，防止其行為偏離正軌。

在這個例子中，加密和資本市場為智能代理提供了獲取資源和擴展能力的三個關鍵基礎設施：第一，全球支付網絡；第二，無許可限制的勞動力市場，用于激勵勞動力和指導貢獻者；第三，資產發行和交易基礎設施，這對于資本形成以及后續的所有權和治理至關重要。

3

隨著人類投入減少會發生什么？

在 21 世紀初，國際象棋引擎取得了巨大進步。借助先進的啟發式算法、神經網絡和更強大的計算能力，它們幾乎達到了完美的程度。像 Stockfish、Lc0 和 AlphaZero 的變體等現代國際象棋引擎，其能力遠遠超過人類，人類的干預很少能增加價值，在大多數情況下，反而會引入引擎自身不會犯的錯誤。

智能代理系統也可能會經歷類似的發展軌跡。隨著我們通過與人類協作者的反復互動來優化這些智能體，從長遠來看，智能體有可能變得非常能干，并且與它們的目標高度契合，以至于任何人類戰略建議的價值都趨于零。

在這樣一個世界里，智能體能夠持續處理復雜問題而無需人類干預，人類的角色可能會逐漸退化為被動的觀察者。這正是人工智能悲觀論者的核心擔憂（不過，目前還不清楚這種結果是否會成為現實）。

我們正站在超級智能的邊緣，我們當中的樂觀主義者希望智能代理系統始終是人類意圖的延伸，而不是演變成擁有自身目標或不受約束地自主運行的實體。在實踐中，這意味著人類身份（人格）和判斷力（權力與影響力）必須在這些系統中保持核心地位。人類需要對這些系統擁有強大的所有權和治理權，以確保能夠持續監督，并將這些系統的發展方向與人類的共同價值觀緊密相連。

4

智能體未來需要哪些必備工具

技術突破會帶來非線性的經濟進步，在世界做出調整之前，與之相關的系統往往會先出現問題。智能代理系統的能力正在迅速提升，加密和資本市場已經成為推動這些系統建設、并在其融入社會的過程中設定規則所不可或缺的協調基礎。

為了讓人類能夠為智能代理系統提供戰術支持和積極指導，我們預計會出現以下 “必備工具” 類的機遇：

1.代理身份證明 + 人類身份證明：智能體缺乏身份或產權的概念。作為人類的代理，它們依賴人類的法律和社會結構來獲得行動能力。為了彌合這一差距，我們需要為智能代理和人類建立強大的身份系統。一個數字認證登記系統可以讓智能代理建立聲譽、積累資質，并與人類和其他智能代理進行透明的交互。同樣，像 Humancode 和 Humanity Protocol 這樣的人類身份證明原語，能在這些系統中為人類身份提供有力保障，抵御惡意行為者的攻擊。

2.勞動力市場和鏈下驗證原語：智能代理需要確認它們分配的任務是否按照目標完成。對于任何由智能代理介導的有意義的經濟活動而言，那些能夠讓智能代理系統創建懸賞任務、驗證任務完成情況并分發報酬的工具都是基本要求。

3.資本形成和治理系統：智能體需要資金來解決問題，同時也需要制衡機制，以確保它們的行為符合既定的目標函數。為智能代理系統籌集資金的新結構，以及融合了財務權益和勞動力貢獻的新型所有權和控制形式，將在未來幾個月成為一個充滿創新的設計領域。

該文章為編譯，標題為：Inverting The Human-Agent Relationship

作者：SHAYON SENGUPTA