總主編：時建中

數據法譯叢

《劍橋算法法律手冊》

圖書信息

《劍橋算法法律手冊》

主編：［美］伍德羅·巴菲爾德（Woodrow Barfield）

主譯：郝俊淇 童肖安圖

ISBN：978-7-5764-1662-6

定價：139 元

中國政法大學出版社2024年10月

總序

我國《數據安全法》第三條規定，“本法所稱數據，是指任何以電子或者其他方式對信息的記錄。”基于此，可以將數據分為電子數據與非電子數據或者傳統數據。傳統數據，即非電子數據，古已有之。然而，受制于載體形式、處理技術、處理方式等限制，非電子數據只能止于信息的載體，無法成為生產要素。電子數據，作為新型的信息載體，是現代信息通信技術的產物。數據之間蘊含的相關性，使之具有了成為新興生產要素的可能性、必要性和可行性，亦是經濟發展、社會治理和政府服務得以進一步數字化、網絡化、智能化的基礎。數據已經融入生產、分配、流通、消費和社會服務管理等各個環節，深刻改變著生產方式、生活方式和社會治理方式。

數據可以作為文字、聲音、繪畫、檔案、影像膠片、設計圖紙、實驗記錄、地理環境、行星軌跡以及人的樣貌、行為、信用、健康狀況、社會關系乃至情緒變化、思維狀態等任何信息的載體。隨著ICT技術的蓬勃發展，數據的數字化、結構化、海量化、高速化、實時化、智能化、要素化、價值化，使人類社會呈現出數據驅動、技術介導、軟件定義、網絡協同、平臺支撐、人機交互、跨界融合、虛實同構、群智開放等新特征。

“數化萬物、萬物皆數”的數字社會之所以可能，乃至成為現實，這與人類社會“技術安裝基礎”的重大變革密不可分。幾十年前，充當人類社會“技術安裝基礎”的關鍵要素是電力、電話、電腦、手機、PC互聯網等技術。當下，大數據、人工智能、云計算、超級計算、區塊鏈、物聯網以及量子計算等數字技術日新月異，不僅重構了人類社會的“技術安裝基礎”，而且拖拽著人類以不可逆轉之態勢在數字化時空中加速馳騁。“技術奇點”降臨后，如果人類沒有被其他異族智能體降維吞噬，或者技術悲觀主義者所預言的那些反烏托邦式的社會場景沒有實現，那么可以預見，在當下以及未來，人類將繼續利用“數據驅動”及一系列數字技術來拓展自身的可能性邊界，并且會愈加普遍地深嵌于這種以數據及數字技術為介導或引擎的社會，簡稱“數據及技術介導型社會”或“數據及技術驅動型社會”。

這樣的社會有著人們并不陌生的特點：消費者貢獻其身份數據、行為數據、關系數據等各類數據，進而在移動互聯網（數字平臺）、動態定價算法、搜索優化算法、智能語音助手等數字技術的介導下，高效便捷地獲取出行、購物、支付、娛樂、旅游、內容等服務；企業將用戶提供的數據、觀察獲取的數據、推斷派生的數據以及抓取、共享、授權、交易所得數據，與大數據、云計算、區塊鏈、人工智能等數字技術緊密結合在一起，再造業務流程體系、提升生產力和競爭力，催生出日益繁榮的數字商業生態，帶動產業結構和經濟體系轉型升級；諸多國家（政府）不僅明確將數據定位為生產要素，制定促進數據開發利用、培育壯大數據要素市場的基礎政策和制度，而且明確將發展人工智能、傳感網、腦聯網、量子計算、生物計算、基因編輯等尖端科技作為核心戰略，使它們共同作用于數字經濟、數字政府等數字社會（廣義）的建設，乃至共同作用于軍事力量和國防安全的建設。

顯然，數據和數字技術之間存在著相輔相成、共生互促的關系。無論是人工智能、區塊鏈還是云計算、物聯網等數字技術，它們本質上都屬于“數據饑渴型技術”。也就是說，這些技術作用的發揮，以及其對人類生產生活和社會治理的賦能，根本上須以數據作為核心投入要素和底層驅動力量。如果脫離了數據，無論數字技術多么先進和尖端，它都會陷入“無源之水、無本之木”的困境。同時也應當看到，數字技術在社會各系統中的廣泛嵌入和融合運用，讓數據的可用性達到前所未有的規模，使數據的存儲成本大幅下降，讓數據整理、挖掘、分析、應用的能力今非昔比。質言之，數字社會的建設過程，也是社會數據化、社會數字化的泛化和深化過程。

但是，在期待“數據驅動”及數字技術進一步拓展人類可能性邊界、造福人類生產生活和社會治理的同時，也應當清醒地意識到，利益之所在、風險之所在，它們在傳播正能量的時候，也可能在釋放負能量，因而可能會給傳統的社會治理制度特別是法律制度帶來挑戰。一些基礎性的法律問題包括但不限于：

1.數字技術的部署越廣、嵌入越深、效益越高，其對數據的“饑渴”程度就越強，對數據高效流通（開發利用）的需求也就越迫切，但當前用于促進和保障數據流通的相關制度安排，如數據訪問制度、數據共享制度、數據開放制度、數據產權和交易制度等，是否足夠健全完善以滿足這種需求？

2.數據流通的需求應當與數據權益特別是個人信息權益保護的需求相平衡，因為技術對數據越“饑渴”，其在收集、存儲、使用、加工、傳輸、提供、公開數據過程中，侵犯個人信息和隱私信息的風險就越高，這促使我們不得不反思，以知情同意原則為基礎所構造的個人信息保護制度是否存在重大局限？諸如匿名化、假名化、合成數據、機密計算、聯邦學習、同態加密等隱私增強技術在克服上述難題中又能發揮多大作用？

3.“數據驅動”及數字技術可能會將效益（效率）的價值漸次放大，甚至將其推向極端，傳統上以公平、安全、秩序、自由、人本等價值為基石的法律，如何平衡其與上述效益（效率）價值之間的沖突，在“數據驅動”過程以及數字技術系統中導入傳統法律價值又具有多大程度的可能性？

4.將“數據驅動”及數字技術應用于解決所有社會問題的誘惑似乎越來越大，但這種“數據萬能主義”或“技術解決主義”如何與傳統上作為社會制度基礎設施的“法律”相協調，它們又是否會在解決小問題的過程中帶來諸如隱私侵犯、泄密、僵化、偏見、歧視等更多更大的問題，乃至導致社會中的部分弱勢群體不得不長期生存于制度的裂縫之中？

5.“數據驅動”及數字技術往往依賴于統計方法來挖掘數據中的特征、模式和規律，然而當采取這種統計視角來看待公平正義時，如果底層數據集存在代表性不足、代表性過度或者代表性錯誤等問題，那么這是否意味著它們僅僅是在武斷剪裁公平正義的概念，同時僅僅是在肆意創建無限不公正的世界畫像？

6.隨著“數據驅動”范式的擴張，以及數字技術所主導系統的自主性程度越來越高，甚至單獨決定人們的交易價格、信貸額度、住房申請、醫療方案、行政裁決、假釋條件、再犯風險等，法律應在多大程度上保障人類對它們的干預和導正，即是否應要求人類必須參與回路（human in the loop, HITL），還是應要求人類監控回路（human on the loop, HOTL），抑或應要求人類指揮回路（human in command the loop, HICL）?

7.干預和導正“數據驅動”過程及智能系統的前提，是人類能夠檢查其運作機理，如對算法的源代碼、底層數據集進行測試或審計，然而由于它們經常受到商業秘密、國家機密或保密協議的保護而免于披露，因此是否應當重新優化相關制度安排，以平衡秘密（機密）保護與源代碼、數據集透明度之間的關系，同時更好地實現源代碼、數據集專有性與可問責性之間的協調？

8.此外，“數據驅動”及數字技術所引發的具體法律問題還有很多，包括數據類型劃分、數據權利配置、數據收益分配、數據（數字）人權保障、數據（數字）鴻溝消解、數據跨境流動規范以及大數據殺熟、算法共謀、算法操縱、算法可專利性、人工智能的法律人格地位、人工智能致害的侵權責任、人工智能生成作品的著作權等相關法律問題。

就目前我國以及一些發達國家和地區的情況看，科學、技術、市場都已初步就位，但是，法律制度及相應的實施機制在很大程度上卻未跟上步伐。毫無疑問，“數據驅動”范式的日益推廣和人類社會“技術安裝基礎”的重大變革，迫切需要社會系統中的“知識基礎設施”“機構基礎設施”“制度基礎設施”及時轉型，做出有針對性的調適，否則，我們就難以充分把握并有效應對“數據驅動”及數字技術帶來的機遇和挑戰。中國政法大學積極致力于融入這一進程并做出貢獻：2016年，學校將數據大規模開發利用以及數字技術引發的法律問題研究確定為科研戰略，產生了一大批科研成果、科研項目；2019年，學校將“數據法學”作為新興交叉學科進行培育建設；2020年，學校設置“數據法學”為法學目錄外二級學科，獲教育部備案；2021年3月，引入了16位國際專家的“數據法治學科創新引智基地（111計劃）”獲教育部、科技部批準；2021年5月，學校與中國司法大數據研究院簽署協議共建“智慧法治聯合實驗室”；2021年6月，為高質量建設數據法學學科，學校批準成立“數據法治研究院”；2021年11月，“中國政法大學數據法治實驗室”入選首批教育部哲學社會科學實驗室，成為支撐數據法學研究、數據法治建設、引領法學創新的重要機制和重要平臺；2023年2月，最高人民檢察院數字檢察研究基地落戶中國政法大學，成為創新和發展“數字檢察”相關理論的重要陣地；2024年6月，北京市教育委員會批準“數字時代首都新興領域法治創新中心”立項建設。

依托于教育部哲學社會科學實驗室——中國政法大學數據法治實驗室、中國政法大學數據法治研究院、數據法治學科創新引智基地（111計劃）等的支持，我們發起了“數據法譯叢”項目，旨在精選域外數據法學領域的優秀作品，通過知識引進來助力我國數字化進程中“知識基礎設施”的建設，以期推動數字中國的戰略部署、建設實踐與數據法學的知識體系、學科體系、學術體系、話語體系的構建，同頻共振、相得益彰。當然，翻譯作品和引進知識本身不是目的，而是希望立足中國、放眼世界，通過對域外相關理論、制度、經驗的比較、反思和借鑒，為我國數據法學理論的高質量發展和數據立法、司法、執法、守法等數據法治的高質量建設，提供更充分更有益的養分。在此，我們期待并歡迎更多有志之士，特別是熱愛數據法學、關心數據法治的青年才俊，加入到“數據法譯叢”項目。

在數智化時代，數據和數智技術既是挑戰法治的新對象，也是賦能法治的新工具，法學研究應該從容地直面現實、觀照中國、擁抱未來。讓我們以繁榮發展數據法學的學術方式和貢獻，助力高水平的數據法治與高質量的數字中國有機結合、良性互動！

時建中

中國政法大學副校長、教授

中國政法大學數據法治研究院院長

教育部哲學社會科學實驗室——中國政法大學數據法治實驗室主任

可上下滑動查看

內容簡介

信息通信技術（特別是人工智能技術）更迭無止境，“算法法律”發展無止境。《劍橋算法法律手冊》針對算法與透明度、算法與問責、算法與代理、算法與隱私、算法與損害、算法與共謀、算法與金融信用、算法與社會信用、算法與商業秘密、算法與公共行政、算法與刑事裁決、算法與自驅式法律、算法與言論自由、算法與社會區隔、算法與精神操控等現實問題，展開了全面深刻的理論剖析和制度建構，是一部把脈社會發展、回應時代關切的力作。

主編簡介

伍德羅·巴菲爾德（Woodrow Barfield）擁有工程學博士（PhD in engineering）、法律博士（JD）、法學碩士（LLM）學位。巴菲爾德博士是美國國家科學基金會總統青年研究者獎的獲得者，也是《可穿戴計算機和增強現實的基礎》（Fundamentals of Wearable Computers and Augmented Reality）的主編，同時還是《人工智能法律研究手冊》（Research Handbook on Law of Artificial Intelligence）的聯合主編。他目前是《虛擬現實雜志》（Virtual Reality Journal）的副主編，《人工智能前沿》（Frontiers in Artificial Intelligence）的審稿編輯，以及《德爾菲：新興技術跨學科評論》（Delphi: Interdisciplinary Review of Emerging Technologies）的編委會成員。

主譯簡介

郝俊淇中國社會科學院法學研究所助理研究員，中國政法大學經濟法學博士。主要從事競爭法、數據法、經濟法研究，出版專著1部，發表論文20余篇，主持國家社科基金項目、市場監管總局項目等課題，曾獲中國法學會經濟法學研究會青年優秀論文一等獎曾赴美國喬治梅森大學、芬蘭赫爾辛基大學、挪威奧斯陸大學、香港中文大學等機構交流或訪學。

童肖安圖華南理工大學法治經濟與法治社會研究中心助理研究員，中國政法大學經濟法學博士，華南理工大學法學院博士后。主要從事競爭法、數據法、經濟法研究，在核心期刊發表學術論文多篇，作為核心參與人參與國家重點研發計劃項目、高等學校學科創新引智計劃項目、國家社會科學基金西部項目等國家級課題多項。

譯者序

算法是現代信息和通信技術的核心構件，其在開發設計和部署利用中產生的各類問題,受到域內外理論和實務界的廣泛關注。自2022年以來，大型基礎模型、生成式人工智能等AI技術和應用的突破式發展，讓“算法”一躍成為足以標榜時代的熱詞。一個人要是沒聽說過算法、不懂一點算法的常識，似乎就有被“算法時代”拋棄的風險。簡單來說，算法是解決特定問題或完成給定任務的清晰、有限的步驟或指令。然而，在算法控制的智能系統越發普遍的社會情勢下，當我們談論算法時，也許不僅僅是在談論算法這一類技術，而是在談論龐大的技術族群或復雜的技術有機體。如果把算法比作人類的大腦，它本身雖然稱得上足智多謀，但如果沒有作為信息記憶和過濾的數據存儲和處理技術的支撐，沒有作為血液和氧氣的計算技術和算力資源的輔助，沒有作為神經系統和肌肉的傳感器和執行器技術的加持，那么算法“才智”的全面發揮就會受到限制。事實上，在人工智能時代，對算法歧視、算法黑箱、算法操縱、算法共謀、算法言論、算法自動化決策等算法法律問題的探討，必然涉及對一系列與算法互補的技術的關注。因此，所謂算法法律問題，在很多情況下也涵蓋了數據法律問題、計算法律問題、物聯網法律問題、傳感器法律問題、互操作法律問題，等等。

《劍橋算法法律手冊》由伍德羅·巴菲爾德（Woodrow Barfield）教授主編，來自美國、歐盟等多個國家和地區的學者共同撰寫。本書著眼于算法廣泛“嵌入”當今社會的現實及其所帶來的一系列法律挑戰，就算法法律體系的改進、變革、開發和構建展開了全面深入、鞭辟入里的分析探討。毋庸諱言，《劍橋算法法律手冊》是一部緊跟時代潮流、把握發展脈搏、回應社會關切的力作。概括來看，本書具有以下亮點：

一是宏觀和微觀兼備，內容體系全面。算法技術的進步和廣泛應用，深刻改變人類生產生活和社會治理方式，帶來前所未有的引擎動力和賦能利益，同時也導致技術運用風險迅速擴散和急劇增生。《劍橋算法法律手冊》深刻洞察算法的技術特性及其給傳統法律制度帶來的挑戰和機遇，一方面從整體層面呼吁加大“算法法律”（law of algorithms）的開發構建力度，其宏大所指包括“算法法律”的背景依賴、概念內涵、理念追求、核心制度等；另一方面從局部層面闡發“算法法律”的具體實現路徑，其微觀探求涵蓋算法與合同法、侵權法、知識產權法、數據法、競爭法、網絡法、科技法、行政法、刑法、國際法、人權法、言論自由法、憲法等諸部門法中的算法法律問題。

二是問題意識鮮明，理論構建有力。“算法法律”的理論和制度構建絕非空穴來風、無病呻吟，其導源于一系列基礎性算法法律問題——這些問題在根本上導源于“舊的”法律理論、制度與“新的”算法社會現實、情事的沖突或不一致。《劍橋算法法律手冊》深刻把握舊理論、舊制度與新現實、新情事之間的張力，針對算法與可問責性、算法與透明度、算法與協議及代理、算法與隱私、算法與歧視、算法與損害、算法與共謀、算法與精神操控、算法與金融信用、算法與社會信用、算法與商業秘密、算法與社會區隔、算法與公共管理、算法與行政決策、算法與刑事裁決、算法與知識產權、算法與人權、算法與言論自由、算法與思想自由等法律現象，有意識地對它們進行問題化的理論處理和構建，以夯實“算法法律”的理論基礎，拓展“算法法律”的研究視域，助力“算法法律”的制度建設。

三是追蹤技術前沿，繪制“未來算法法律”。算法是對解決問題方案的準確而完整的描述，它是一系列解決問題的清晰指令，這些指令能夠指導人們或者計算機按照特定的步驟去解決問題，從而得到所期望的輸出結果。盡管上述關于算法的定義是簡潔明了的，但作為技術（數字技術）的算法并非亙古不變。從數學算法、計算機算法到人工智能算法，算法技術更迭無止境，“算法法律”發展無止境。當下以及未來，算法最顯著的特征莫過于它是人工智能的核心要素乃至“根本要素”。《劍橋算法法律手冊》緊跟算法特別是人工智能算法技術的演進趨勢，聚焦一系列人工智能算法技術的前沿應用場景，針對可信賴的人工智能、合乎倫理道德的人工智能、法律世界的算法化、具備計算機意識的立法、蘊含環境智能技術的“自驅式法律”、基于算法嵌入的人類和機器人交互、商用腦機接口等有關“未來算法法律”問題展開了富有啟示的前瞻性探討。

《劍橋算法法律手冊》的主譯者為中國社會科學院法學研究所郝俊淇助理研究員和華南理工大學法學院童肖安圖助理研究員。郝俊淇助理研究員負責本書貢獻者、前言、序、致謝、縮寫詞、索引和第1、3、5、7、9、11、13、15、17、19、21、23、25、27、29、31、33、35章的翻譯。童肖安圖助理研究員負責本書第2、4、6、8、10、12、14、16、18、20、22、24、26、28、30、32、34章的翻譯。中國政法大學數據法治研究院博士研究生劉思潔、中國政法大學民商經濟法學院博士研究生李奇修、中國人民大學法學院博士研究生譚逍遙、中國人民大學法學院博士研究生趙栩、中國法學會法治研究所研究實習員陳宇航、中共中央黨校(國家行政學院) 博士研究生李晨、南京大學商學院博士研究生程果，協助郝俊淇助理研究員對相關章節作了初步翻譯，在此一并致謝。感謝中國政法大學出版社艾文婷、李美琦等諸位編輯老師的辛勤勞動和細致編審，她們的工作使本書增色不少。當然，還必須感謝教育部哲學社會科學實驗室——中國政法大學數據法治實驗室、中國政法大學數據法治研究院對本書出版的慷慨資助，特別感謝中國政法大學副校長、數據法治實驗室主任、數據法治研究院院長時建中教授，以及中國政法大學外國語學院蘇桂梅教授、中國政法大學數據法治實驗室和數據法治研究院諸位老師對本書翻譯的指導和幫助。作為學識有限、資歷尚淺的年輕學者，有緣參與“數據法譯叢”項目并承擔本書翻譯工作，是我們求學路上莫大的幸運和榮幸！

可以預見，隨著算法特別是人工智能算法日益廣泛且深入地融入并影響我們的生產生活和社會治理，無論是作為一項理論或理念，還是作為一種制度或實踐，“算法法律”的重要性只會與日俱增。用《劍橋算法法律手冊》主編伍德羅·巴菲爾德教授的話來說，本書提出的一個根本性的重要問題是：“隨著越來越多的人工智能和算法技術融入社會，我們到底想要創造一個怎樣的社會，以及法律在創造一個公正和平等的技術先進社會方面應該發揮什么作用？”當下，我國數字經濟、數字政府、數字社會的建設方興未艾，我們希望本書的出版能為法治軌道上“數字中國”的構建，提供更清晰的坐標方位、更徹底的問題意識、更有益的理論和制度借鑒。雖然譯者的態度是比較誠懇的，但由于才疏學淺、能力局限，譯文中的錯誤紕漏、邏輯矛盾、符號傷疤恐怕在所難免。敬請各位讀者多加包涵、不吝指正，我們不勝感謝！

郝俊淇 童肖安圖

2024年8月4日

可上下滑動查看

目 錄

第一部分 算法法律的介紹和背景設定

第一章 法律和算法導論

第二章 機器的意見

第三章 人工智能時代的私人問責

第四章 算法的合法性

第五章 理解算法問責的透明度

第二部分 商業、法規和算法決策

第六章 算法與合同法

第七章 算法、協議與代理

第八章 算法治理與行政法

第九章 算法時代的歧視

第十章 算法競爭、共謀和價格歧視

第十一章 法治與算法治理

第十二章 算法治理——公共部門利用算法進行預測的反思

第十三章 從法治到法規起草——政府決策中算法的法律問題

第十四章 算法決策系統——公共管理的自動化與機器學習

第十五章 從法律淵源到編程代碼——法治下的公共行政與計算機自動個案決策

第三部分 知識產權與算法

第十六章 創造性算法與創新性質的演變

第十七章 軟件專利取得與美國《專利法》第101條的把關功能

第十八章 十字路口的知識產權——為算法提供知識產權保護

第四部分 刑法、侵權問題和算法

第十九章 算法在刑事裁決中的運用

第二十章 通過算法評估犯罪風險

第二十一章 算法造成的損害

第二十二章 算法侵權者何時需要特殊法律待遇？

第二十三章 侵權法——對算法應用“合理性”標準

第五部分 憲法、人權和算法

第二十四章 以人權為本的人工智能和算法

第二十五章 算法的四種言論保護模式

第二十六章 算法與表達自由

第二十七章 美國憲法第一修正案邊緣地帶中的人工智能

第二十八章 美國憲法第一修正案與算法

第二十九章 用于畫像、排名和評估的社會行為算法分析

第三十章 數據分析隱私的算法階段——過程與概率

第六部分 法律與算法的應用及未來方向

第三十一章 道德機器：歐盟新興的“可信賴的人工智能”政策

第三十二章 圖靈大教堂中的法律——法律世界的算法轉向

第三十三章 關于算法的爭論：揭示“道德”人工智能實操化的固有困境

第三十四章 人機交互的嵌入與算法

第三十五章 成為超人類：商用腦機接口和自主性的追求

索引

可上下滑動查看

內容來源：第一編輯部

編校排版：信息中心

審核簽發：社辦