? 鄭戈

上海交通大學(xué)凱原法學(xué)院

【導(dǎo)讀】近日，馬斯克稱將出資974億美元收購(gòu)OpenAI，使其回歸開(kāi)源，再將其與自己旗下的xAI合并。這一言論使OpenAI陷入控制權(quán)之爭(zhēng)。據(jù)悉，OpenAI的兩位聯(lián)合創(chuàng)始人正是馬斯克與奧爾特曼，在馬斯克離開(kāi)后才推動(dòng)了OpenAI的盈利化轉(zhuǎn)型。本文以微軟與OpenAI的投資談判為切入點(diǎn)，探討人工智能發(fā)展中資本與技術(shù)的關(guān)系及其社會(huì)影響，指出應(yīng)確保人工智能發(fā)展符合人類目的，避免資本過(guò)度主導(dǎo)。

本文以O(shè)penAI發(fā)布的Sora為例指出，它雖在概念證明上成功，但在技術(shù)創(chuàng)新和社會(huì)效益方面存在問(wèn)題，是 “暴力計(jì)算” 產(chǎn)物。而OpenAI與微軟整合，在發(fā)展中改變策略，將大模型授權(quán)給微軟獨(dú)享，這繼而強(qiáng)化了微軟的壟斷地位，損害了消費(fèi)者的利益。最終導(dǎo)致“我們的命運(yùn)可能不是被AI控制，而是被掌握AI的人控制”。

這篇文章寫(xiě)于DeepSeek上線之前，我們能夠從中看出作者的預(yù)見(jiàn)性。他認(rèn)為，在投資者利益驅(qū)動(dòng)下的人工智能技術(shù)形態(tài)和商業(yè)模式，會(huì)進(jìn)一步收割用戶的注意力、時(shí)間、金錢(qián)和智商，而非實(shí)現(xiàn)真正的社會(huì)發(fā)展。而在DS之前，中國(guó)人工智能的發(fā)展已獨(dú)具特色：面向B端（企業(yè)）市場(chǎng)提高生產(chǎn)力，而不是C端的消費(fèi)娛樂(lè)。作者繼而提出，發(fā)展人工智能應(yīng)基于人本主義立場(chǎng)，即我們創(chuàng)造機(jī)器不是為了讓它像人、替代人，而是讓它幫助我們?nèi)プ瞿切┈?、勞累、重?fù)但又必要的工作，作為人的輔助角色。

此外，作者還援引了阿努·布拉德福德的“數(shù)字帝國(guó)”用以闡述中美歐數(shù)字經(jīng)濟(jì)不同的發(fā)展模式：一是美國(guó)的市場(chǎng)驅(qū)動(dòng)模式，鼓勵(lì)贏家通吃，甘冒巨大的風(fēng)險(xiǎn)；二是中國(guó)的國(guó)家驅(qū)動(dòng)模式，以發(fā)展和穩(wěn)定為價(jià)值訴求，試圖在兩者之間維持平衡；三是歐盟的權(quán)利本位模式，試圖在數(shù)字技術(shù)不斷侵蝕人類隱私和自主性的現(xiàn)實(shí)處境中維系人的尊嚴(yán)和權(quán)利。

本文原載《文化縱橫》2024年4月刊，原題為《人工智能不應(yīng)成為資本的“獨(dú)角戲”》，僅代表作者觀點(diǎn)，供讀者參考。

人工智能不應(yīng)成為資本的“獨(dú)角戲”

▍一

當(dāng)OpenAI于2024年2月15日正式發(fā)布文生視頻AI工具Sora時(shí)，人們被其視頻效果驚艷了。一個(gè)戴墨鏡的高冷女人行走在東京的大街上，周圍霓虹閃爍，行人如織。一切看起來(lái)都是那么真實(shí)。而這段視頻的“創(chuàng)作者”是人工智能，人只是用文字給出了指令：“一位女士行走在夜晚的東京街道上”。我的疑惑是：看不出這個(gè)工具有什么用。當(dāng)然，這作為概念證明（Proof-of-Concept）是成功的，一下子點(diǎn)燃了人們的興趣，也吸引了投資人的注意。但在新鮮感過(guò)去之后，誰(shuí)會(huì)去看一個(gè)個(gè)一分鐘不到、沒(méi)有故事線也沒(méi)有感情的短視頻呢？正如之前的元宇宙一樣，如果一種技術(shù)無(wú)法滿足人們的現(xiàn)實(shí)需求，無(wú)法形成穩(wěn)定的商業(yè)模式和供需關(guān)系，那么它最終就會(huì)淪為炒作的噱頭。今天的Sora遠(yuǎn)不像鼓吹者所說(shuō)的那樣是通用人工智能（AGI）的重大突破，抑或進(jìn)一步拉大了中美之間在AI領(lǐng)域的技術(shù)差距，而只是一個(gè)重資本支撐下不計(jì)成本的“暴力計(jì)算”的產(chǎn)物，在技術(shù)上沒(méi)有多少創(chuàng)新，在社會(huì)效益上成本大于收益。

從技術(shù)上講，作為Sora之基礎(chǔ)的大模型雖然涉及Transformer、Diffusion、GAN等算法創(chuàng)新，但這些創(chuàng)新并不是OpenAI獨(dú)自做出的。OpenAI的成功是基于算力、算法和數(shù)據(jù)的規(guī)模升級(jí)，是摩爾定律和梅特卡夫定律所揭示的技術(shù)的政治經(jīng)濟(jì)效應(yīng)的表現(xiàn)。換句話說(shuō)，大模型依靠的是“暴力計(jì)算”，即高性能GPU運(yùn)行千億級(jí)參數(shù)模型通過(guò)海量數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練。用OpenAI首席科學(xué)家伊利亞·蘇茨克沃的話來(lái)說(shuō)：“如何解決難題？使用大量訓(xùn)練數(shù)據(jù)以及一個(gè)大型神經(jīng)網(wǎng)絡(luò)。這樣，你可能得到的唯一結(jié)果就是成功?！睘榇?，OpenAI的主要投資者微軟投入數(shù)億美元資金為OpenAI打造了一套超算系統(tǒng)，由上萬(wàn)顆單價(jià)數(shù)萬(wàn)美元的英偉達(dá)A100芯片組成，這套系統(tǒng)為訓(xùn)練ChatGPT提供了3640PF-days的算力消耗（即假如每秒計(jì)算1000萬(wàn)億次，連續(xù)計(jì)算3640天）。這個(gè)道理行內(nèi)人都懂，只是能夠如此燒錢(qián)打造“大裝置”，并能夠獲取足夠多的數(shù)據(jù)供其訓(xùn)練算法的人很少。

由此可見(jiàn)，大模型訓(xùn)練是一個(gè)燒錢(qián)和耗能的游戲，充滿重資本的味道，一點(diǎn)兒也不節(jié)能環(huán)保。這時(shí)，我們就需要對(duì)大模型的商業(yè)和社會(huì)應(yīng)用進(jìn)行一番成本-收益分析，看看它所帶來(lái)的收益是否大于成本，以及收益的歸屬和成本的分擔(dān)。在進(jìn)行這種分析的時(shí)候，我們應(yīng)當(dāng)注意尚未被計(jì)入成本的那些外部性，比如實(shí)際上由公眾承擔(dān)成本的環(huán)境損害和系統(tǒng)性風(fēng)險(xiǎn)，以及它可能帶來(lái)的好處。大模型能夠帶來(lái)的好處似乎是顯而易見(jiàn)的。雖然訓(xùn)練成本高昂，但一經(jīng)訓(xùn)練成功，它就可以產(chǎn)生巨大的生產(chǎn)力，自動(dòng)化地生產(chǎn)文字、圖像和音視頻內(nèi)容，比如幫助文字工作者生成文案和文學(xué)作品，幫助醫(yī)生了解病人的病史和癥狀描述并形成診斷和治療方案，幫助老師、科研人員和學(xué)生閱讀大量文本并提取關(guān)鍵知識(shí)點(diǎn)和主要論點(diǎn)，幫助法律職業(yè)者審閱法律文件、分析法律問(wèn)題并形成初步法律意見(jiàn)書(shū)，等等。但這些好處本身也可能直接轉(zhuǎn)化為壞處，因?yàn)檫@些“幫助”都可以變成“替代”。尤其是當(dāng)普通勞動(dòng)者、消費(fèi)者和內(nèi)容創(chuàng)作者對(duì)技術(shù)及其部署毫無(wú)發(fā)言權(quán)和影響力的時(shí)候。正因如此，AI不只是技術(shù)議題，更是公共議題，技術(shù)的發(fā)展方向和應(yīng)用場(chǎng)景是由技術(shù)之外的政治、經(jīng)濟(jì)和法律因素決定的。用一本題為《AI需要你》的新書(shū)中的話來(lái)說(shuō)：“人工智能不是價(jià)值中立的，也不應(yīng)該是。歷史告訴我們，今天的人工智能科學(xué)家和建設(shè)者應(yīng)該帶著意圖和目標(biāo)前進(jìn)，而不是擁抱虛假的中立。這一目的應(yīng)該是致力于和平的，是清醒認(rèn)識(shí)到技術(shù)之局限性的，是將服務(wù)于公共福祉的項(xiàng)目擺在優(yōu)先地位的，并且是植根于社會(huì)信任與和諧的。”以下將分別討論發(fā)展AI的目的（目的決定方向，包括技術(shù)和應(yīng)用的發(fā)展方向）、發(fā)展AI的成本和收益以及可能的規(guī)制路徑。

▍二

生成式人工智能的第一種可能未來(lái)，是作為資本炒作故事（hype）而煙消云散，正像之前的區(qū)塊鏈和元宇宙一樣。這是最沒(méi)有技術(shù)和商業(yè)模式的創(chuàng)新，最有損中小投資者和消費(fèi)者的利益，卻最有可能出現(xiàn)的未來(lái)。在ChatGPT橫空出世之際，人們還沒(méi)從元宇宙熱中走出。然而，熱潮過(guò)后留下的是個(gè)爛攤子：浪費(fèi)的資源，收不回的成本，雞肋般的架構(gòu)設(shè)計(jì)和戰(zhàn)略布局。到2022年，Meta的元宇宙部門(mén)“現(xiàn)實(shí)實(shí)驗(yàn)室”在財(cái)務(wù)年報(bào)中上報(bào)了137億美元的營(yíng)業(yè)損失。

生成式人工智能當(dāng)然與元宇宙不一樣。元宇宙的發(fā)展限度在于，它超出了單一企業(yè)（無(wú)論何等規(guī)模的巨頭）能夠控制的數(shù)字基礎(chǔ)設(shè)施能力，包括但不限于網(wǎng)絡(luò)帶寬。元宇宙模式所傳輸?shù)娜蝗⒂跋穸际菬o(wú)比龐大的數(shù)據(jù)集，一旦超出一定規(guī)模來(lái)部署，必定會(huì)導(dǎo)致嚴(yán)重的卡頓和延遲，更不用說(shuō)達(dá)到鼓吹者所說(shuō)的流暢的臨境感。而生成式人工智能僅僅在研發(fā)端需要龐大的算力和數(shù)據(jù)，一旦研發(fā)成功，在用戶端則不會(huì)占據(jù)過(guò)多的網(wǎng)絡(luò)傳輸和終端算力資源。實(shí)際上，我國(guó)企業(yè)在生成式人工智能的可持續(xù)商業(yè)模式方面已經(jīng)探索出一條可行的道路，那就是面向企業(yè)（B端）市場(chǎng)，比如華為的盤(pán)古大模型在氣象預(yù)測(cè)、工控系統(tǒng)和政務(wù)系統(tǒng)中的應(yīng)用；商湯的日日新大模型系列中面向醫(yī)療系統(tǒng)的“大醫(yī)”、面向汽車和交通行業(yè)的“絕影”、面向城市規(guī)劃和空間設(shè)計(jì)行業(yè)的“瓊宇”、面向制造業(yè)和需要進(jìn)行產(chǎn)品展示的商貿(mào)企業(yè)的“格物”等。但目前引起媒體和公眾廣泛關(guān)注的，恰恰是面向個(gè)人用戶（C端）的文字、音視頻生成類應(yīng)用，而這一類應(yīng)用很可能只是曇花一現(xiàn)。

比如，用過(guò)ChatGPT之類的對(duì)話式內(nèi)容生成工具的人都知道，它們生成的“小作文”中充滿了錯(cuò)誤的引用、編造的法律條文或數(shù)據(jù)以及似是而非的話術(shù)。這些被統(tǒng)稱為“幻覺(jué)”的內(nèi)容混雜在貌似言之成理的內(nèi)容當(dāng)中，使得查驗(yàn)與核實(shí)工作變得十分煩瑣，在嚴(yán)肅工作中實(shí)際上會(huì)加重而不是減輕專業(yè)人士的負(fù)擔(dān)，因此不會(huì)在這些工作場(chǎng)合得到廣泛使用。它得到生產(chǎn)性使用的場(chǎng)合，反而多是人類的法律和倫理所禁止或至少會(huì)做出否定性評(píng)價(jià)的用法，包括學(xué)生用來(lái)寫(xiě)小論文在學(xué)業(yè)上蒙混過(guò)關(guān)，媒體或自媒體用來(lái)編織真假難辨的假新聞以吸引眼球，需要做應(yīng)酬性講話或報(bào)告的各行業(yè)人士用來(lái)生成講話內(nèi)容。Sora這樣的文生視頻工具不僅不會(huì)解決上述問(wèn)題，反而加重了真實(shí)性和可靠性查驗(yàn)的成本，畢竟“有圖有真相”“有視頻有真相”之類過(guò)去的真實(shí)性判斷方法，面對(duì)這樣的工具已經(jīng)不起作用了。

但比作為炒作而煙消云散更糟糕的，是消費(fèi)主義的生成式人工智能真正落地并得到廣泛使用的情況，我稱之為地獄級(jí)噩夢(mèng)（Hell）。OpenAI（以及背后的金主微軟）用ChatGPT和Sora來(lái)向世人展示生成式人工智能的奇跡，是一種概念證明，就像時(shí)裝秀一樣：這種展示“不會(huì)顯示龐大的機(jī)器，沒(méi)有人類員工，沒(méi)有資本投資，沒(méi)有碳足跡，而只有一個(gè)具有超凡脫俗技能的基于抽象規(guī)則的系統(tǒng)。魔法和奇跡的敘事在人工智能的歷史中反復(fù)出現(xiàn)，將聚光燈打在速度、效率和計(jì)算推理的壯觀展示周圍”。我們只要參觀過(guò)任何一個(gè)為訓(xùn)練AI提供支撐的數(shù)據(jù)中心，了解過(guò)大型語(yǔ)言模型的訓(xùn)練過(guò)程，就知道AI也有“沉重的肉身”，有龐大的服務(wù)器陣列和“大裝置”，有數(shù)以萬(wàn)計(jì)從事著煩瑣枯燥的數(shù)據(jù)標(biāo)注、校訂、評(píng)估和編輯工作的當(dāng)代藍(lán)領(lǐng)，更不用說(shuō)程序員了，以及算力系統(tǒng)每運(yùn)行一秒鐘就會(huì)消耗的大量電力和冷卻用水。更不用說(shuō)它背后極不公平的分配邏輯：即便在所謂“市場(chǎng)主導(dǎo)”的美國(guó)，人工智能產(chǎn)業(yè)也受到政府的大力資助，“人工智能行業(yè)的擴(kuò)張得到了公共補(bǔ)貼：從國(guó)防資金和聯(lián)邦研究機(jī)構(gòu)到公共事業(yè)和稅收減免，再到從所有使用搜索引擎或在線發(fā)布圖像的人身上獲取的數(shù)據(jù)和無(wú)償勞動(dòng)力。人工智能最初是20世紀(jì)的一項(xiàng)重大公共項(xiàng)目，后來(lái)被無(wú)情地私有化，為金字塔頂端的極少數(shù)人帶來(lái)了巨大的經(jīng)濟(jì)收益”。可悲的是，被收割的“韭菜”們還不斷驚嘆科技巨頭向它們展示的魔法，沉迷于“AI狂想曲”：幻想人工智能系統(tǒng)是脫離實(shí)體的大腦，獨(dú)立于其創(chuàng)造者、基礎(chǔ)設(shè)施和整個(gè)世界來(lái)吸收和產(chǎn)生知識(shí)。

在這個(gè)過(guò)程中，人類勞動(dòng)的價(jià)值被不斷貶低，淪落到為機(jī)器提供輔助性服務(wù)的地步。ChatGPT所生成的似是而非的文本和Sora所生成的空洞虛幻的視頻，都受到贊嘆，而人類創(chuàng)作的各種內(nèi)容卻受到百般挑剔或者根本無(wú)人問(wèn)津。這不僅影響到如今在世的所有人，還影響到教育和人類的未來(lái)：許多家長(zhǎng)現(xiàn)在已經(jīng)懷疑讓孩子辛苦地學(xué)習(xí)各類知識(shí)到底有什么意義，畢竟未來(lái)大部分工作都不需要人了。雖然了解AI技術(shù)及其產(chǎn)業(yè)的人都知道這根本不是事實(shí)，但行業(yè)巨頭們通過(guò)魔法展示所營(yíng)造出的共識(shí)性幻想，卻可能導(dǎo)致一個(gè)自我實(shí)現(xiàn)的預(yù)言：青少年可能越來(lái)越多地借助AI工具來(lái)蒙混過(guò)關(guān)，在學(xué)習(xí)知識(shí)和訓(xùn)練技能的過(guò)程中投機(jī)取巧，這樣人類工作的質(zhì)量會(huì)不斷趨近，并最終低于AI從事同樣工作的質(zhì)量，然后給了雇主們用機(jī)器取代人的理由。

為了避免滑入這個(gè)向下沉淪的螺旋，在當(dāng)下的數(shù)字素養(yǎng)教育中應(yīng)該更多地納入對(duì)AI進(jìn)行人文和社科反思的內(nèi)容，而不是直接接受行業(yè)巨頭們編織的敘事。要讓公眾理解人工智能不是一種客觀、通用或中立的計(jì)算技術(shù)，不能在沒(méi)有人類指導(dǎo)的情況下做出決定。AI系統(tǒng)深深嵌入人類社會(huì)的政治經(jīng)濟(jì)結(jié)構(gòu)和法律制度中，由人類的個(gè)體、商業(yè)組織和政府來(lái)決定它們做什么和怎么做。雖然AI與其他完全被動(dòng)的由人類完全控制的工具不同，能夠在與人類互動(dòng)的過(guò)程中學(xué)習(xí)和自我演進(jìn)，但它仍然是一種工具，是在人類設(shè)定目的的前提下尋找最優(yōu)手段的工具。因此，我們不能放棄對(duì)目的的追問(wèn)和公開(kāi)討論，否則我們的命運(yùn)可能不是被AI控制，而是被掌握AI的人控制。微軟控制下的OpenAI，就是這樣一個(gè)有輿論塑造能力的實(shí)體。

成功的企業(yè)都是善于講故事的企業(yè)，公眾很容易被它們標(biāo)榜的價(jià)值所迷惑，因?yàn)樗鼈儗?shí)際上所做的事情對(duì)于公眾來(lái)說(shuō)是不透明的。OpenAI對(duì)自己的定位是：“我們是一家人工智能研究和部署公司。我們的使命是確保通用人工智能造福全人類。我們正在構(gòu)建安全且有益的通用人工智能，但如果我們的工作幫助其他人實(shí)現(xiàn)這一成果，我們也將認(rèn)為我們的使命已經(jīng)完成。”顯然，OpenAI試圖為自己樹(shù)立開(kāi)源、無(wú)私并服務(wù)于公共利益的“人設(shè)”。2015年，OpenAI作為一家非營(yíng)利性的科研實(shí)驗(yàn)室而注冊(cè)成立，一開(kāi)始，它將自己的宗旨表述為“為每一個(gè)人而不是股東創(chuàng)造價(jià)值”。為此，它鼓勵(lì)所有雇員“發(fā)表自己的作品，無(wú)論是以論文、博客日志還是代碼的形式”。這與營(yíng)利性公司極端重視知識(shí)產(chǎn)權(quán)和商業(yè)秘密的做法截然相反。它還宣布將與全世界共享自己獲得專利的算法。但即使在這個(gè)最初的階段，OpenAI也沒(méi)有兌現(xiàn)自己的承諾，沒(méi)有形成開(kāi)放的治理結(jié)構(gòu)、民主或合作式的工作機(jī)制，也沒(méi)有開(kāi)放數(shù)據(jù)或允許外部開(kāi)發(fā)者接入和使用研發(fā)大模型所需的高成本資源。實(shí)際上，它的創(chuàng)始人中只有埃隆·馬斯克真正信奉開(kāi)放的宗旨，但他的想法被稱為“馬斯克讓AI自由發(fā)展的瘋狂計(jì)劃”。在接受《連線》（Wired）記者采訪時(shí)，當(dāng)時(shí)的OpenAI主席格雷格·布洛克曼說(shuō)：“把你做的所有研究都公開(kāi)，并不見(jiàn)得是一種最好的方法……我們會(huì)產(chǎn)出很多開(kāi)放的源代碼。但我們也有很多不想馬上發(fā)布的東西?！?br/>

保護(hù)商業(yè)秘密的立場(chǎng)，在2019年發(fā)布GPT-2之后就占據(jù)了上風(fēng)。這一年3月，OpenAI正式宣布放棄非營(yíng)利的法律性質(zhì)，轉(zhuǎn)型為一家“設(shè)利潤(rùn)上限的”營(yíng)利公司，這個(gè)上限就是首輪投資者不能獲得超過(guò)其投資額100倍的回報(bào)。在接受了微軟的10億美元投資之后，OpenAI將GPT-3大模型授權(quán)給微軟獨(dú)家使用，之后的所有大模型也都為微軟所獨(dú)享。雖然從法律上OpenAI并沒(méi)有并入微軟，但它實(shí)際上已經(jīng)成為后者的一個(gè)研發(fā)部門(mén)。正因如此，在2023年的OpenAI首席執(zhí)行官換人風(fēng)波中，微軟發(fā)揮了決定性的影響力。也因?yàn)槿绱?，馬斯克最近在加州舊金山初審法院提起訴訟，主張?jiān)摴具`背了承諾，侵犯了自己作為創(chuàng)始人之一的權(quán)利。

OpenAI與微軟的整合，會(huì)進(jìn)一步強(qiáng)化微軟在操作系統(tǒng)和生產(chǎn)力工具領(lǐng)域的壟斷地位。實(shí)際上，先進(jìn)入開(kāi)源平臺(tái)成為它的重要開(kāi)發(fā)者和用戶，然后利用自己的算力和數(shù)據(jù)優(yōu)勢(shì)吸引開(kāi)源平臺(tái)上的開(kāi)發(fā)者為自己服務(wù)，最終使開(kāi)源平臺(tái)私有化為自己的一部分，是包括微軟在內(nèi)的數(shù)字巨頭常用的策略。2018年，微軟收購(gòu)了全球開(kāi)發(fā)者創(chuàng)建、存儲(chǔ)、管理和共享代碼的平臺(tái)GitHub，該平臺(tái)有超過(guò)1億的軟件開(kāi)發(fā)者用戶，同時(shí)也是全球最大的源代碼托管商。作為一個(gè)擁有超過(guò)20萬(wàn)名員工和龐大的官僚機(jī)構(gòu)的巨型企業(yè)，微軟的管理層認(rèn)識(shí)到企業(yè)內(nèi)部缺乏人工智能領(lǐng)域的創(chuàng)新力。將OpenAI留在微軟外部并享有它的專屬服務(wù)，對(duì)微軟來(lái)說(shuō)是一種新的或許更明智的策略。得到OpenAI的專屬服務(wù)后，微軟已經(jīng)將GPT-4等大模型整合到自己的現(xiàn)有產(chǎn)品和服務(wù)中，比如搜索引擎必應(yīng)和生產(chǎn)力工具Office軟件。在搜索引擎方面，新的必應(yīng)雖然為微軟贏得了八倍的下載量，但未能撼動(dòng)谷歌的絕對(duì)霸主地位。而在微軟占據(jù)市場(chǎng)支配地位的生產(chǎn)力工具領(lǐng)域，基于大模型的AI助手Office Copilot或許會(huì)進(jìn)一步強(qiáng)化其壟斷地位，并保持遙遙領(lǐng)先。未來(lái)，微軟還會(huì)將大模型整合進(jìn)Windows操作系統(tǒng)。

壟斷會(huì)帶來(lái)壟斷者任意定價(jià)和服務(wù)質(zhì)量下降，損害消費(fèi)者福祉。使用過(guò)Windows的用戶都很清楚它是多么不好用。重資本入場(chǎng)的平臺(tái)企業(yè)，一開(kāi)始會(huì)投入巨額資金補(bǔ)貼用戶、改善用戶體驗(yàn)、開(kāi)展研發(fā)和創(chuàng)新活動(dòng)，一旦市場(chǎng)支配地位形成，便會(huì)實(shí)行壟斷者定價(jià)，降低服務(wù)質(zhì)量。在存在自然壟斷的領(lǐng)域（數(shù)字市場(chǎng)就是這樣一個(gè)領(lǐng)域），公共監(jiān)督和法定監(jiān)管通常優(yōu)于通過(guò)競(jìng)爭(zhēng)實(shí)現(xiàn)的市場(chǎng)規(guī)訓(xùn)。常見(jiàn)的監(jiān)管方法包括法定價(jià)格范圍、最低服務(wù)質(zhì)量標(biāo)準(zhǔn)、交互可操作性要求、可信數(shù)據(jù)環(huán)境標(biāo)準(zhǔn)、安全標(biāo)準(zhǔn)等。簡(jiǎn)言之，就是采用規(guī)制+反壟斷的組合拳。

▍三

制度性引領(lǐng)和干預(yù)是確保AI的發(fā)展方向與人類目的對(duì)齊的主要方法，而人本主義應(yīng)當(dāng)是我們討論發(fā)展AI的目的時(shí)所堅(jiān)守的基本立場(chǎng)。有些人認(rèn)為應(yīng)當(dāng)放棄人類中心主義的立場(chǎng)，不應(yīng)當(dāng)用人的局限性來(lái)限制人工智能的無(wú)盡疆域，包括承認(rèn)它最終會(huì)變得遠(yuǎn)比人更聰明、具有自我意識(shí)并最終統(tǒng)治人或消滅人。這種觀點(diǎn)和某些極端生態(tài)主義者所主張的“消滅人類保護(hù)地球”異曲同工，屬于超出理性討論范疇的價(jià)值選擇，也是不會(huì)被大多數(shù)人接受的一種價(jià)值選擇。人本主義立場(chǎng)要求擺正AI的工具地位，只發(fā)展那些輔助人類活動(dòng)的AI技術(shù)。

弗蘭克·帕斯奎爾提出的“新的機(jī)器人法則”，就是對(duì)這樣一種基本觀點(diǎn)的系統(tǒng)表述：“1. 機(jī)器人系統(tǒng)和人工智能應(yīng)當(dāng)輔助職業(yè)人士，而不是取代他們；2. 機(jī)器人系統(tǒng)和人工智能不應(yīng)當(dāng)假冒人類；3. 機(jī)器人系統(tǒng)和AI不應(yīng)當(dāng)加劇零和的軍備競(jìng)賽；4. 機(jī)器人系統(tǒng)和人工智能必須顯示其創(chuàng)造者、控制者和所有權(quán)人的身份。”這些原則都有相當(dāng)強(qiáng)的現(xiàn)實(shí)針對(duì)性，比如第一條實(shí)際上針對(duì)的是數(shù)字科技時(shí)代的一個(gè)日益顯著的事實(shí)——?jiǎng)趧?dòng)者的“去技能化”。大量過(guò)去需要人類專業(yè)技能完成的工作被算法取代了，留給人類的往往是那些不需要?jiǎng)?chuàng)造性思維和專業(yè)知識(shí)，而只需要身體技能和直覺(jué)的工作，比如送外賣、送快遞。這背后的技術(shù)原理是“莫拉維克悖論”：“讓計(jì)算機(jī)在解決智力測(cè)驗(yàn)問(wèn)題或玩跳棋方面表現(xiàn)出成人水平相對(duì)容易，但在感知和運(yùn)動(dòng)方面讓計(jì)算機(jī)具有一歲兒童的技能卻很困難或不可能 ?！痹蚝芎?jiǎn)單：智力測(cè)試或下棋是在人為設(shè)定的邊界和規(guī)則范圍內(nèi)進(jìn)行可窮盡的推演，而不是去適應(yīng)沒(méi)有給定邊界且充滿不確定性的物理環(huán)境并在其中生存下去。后者是人類經(jīng)過(guò)漫長(zhǎng)的進(jìn)化過(guò)程才習(xí)得并銘刻在DNA當(dāng)中的，人的身體運(yùn)動(dòng)技能和直覺(jué)感知正是其表現(xiàn)。

到了人工智能時(shí)代，人所創(chuàng)造的機(jī)器逐漸主導(dǎo)了人類需要運(yùn)用智力才能完成的那些工作，人自己卻只剩下那些憑本能就能完成的工作，這是技術(shù)原理和政治經(jīng)濟(jì)原理結(jié)合后的產(chǎn)物。由于腦力工作者受教育時(shí)間長(zhǎng)，工資相對(duì)較高，為了節(jié)約勞動(dòng)力成本，資本家當(dāng)然樂(lè)于用人工智能取代人來(lái)從事此種勞動(dòng)。于是，在外賣和快遞行業(yè)，我們可以看到算法充當(dāng)著管理者和調(diào)度員的角色，精準(zhǔn)規(guī)劃和控制著人類勞動(dòng)者的路線和時(shí)間。

控制論之父維納早在1950年便預(yù)見(jiàn)了機(jī)器不斷侵蝕人類生產(chǎn)活動(dòng)空間的前景。在《人有人的用處》一書(shū)中，他指出：“現(xiàn)代人，尤其是現(xiàn)代美國(guó)人，盡管他可以有很多‘懂得如何做’的知識(shí)，但他的‘懂得做什么’的知識(shí)卻是極少的。他樂(lè)意接受高度敏捷的機(jī)器決策，而不想較多地追問(wèn)一下它們背后的動(dòng)機(jī)和原理為何。”他指出，人類面對(duì)的威脅不是機(jī)器，而是人本身。如果我們不去追問(wèn)和思考“要做什么”，而是任由機(jī)器和機(jī)器的設(shè)計(jì)者把我們嵌入到生產(chǎn)流水線上，那么人也就變成了機(jī)器的一部分：“作為機(jī)器的一個(gè)元件來(lái)利用的東西，事實(shí)上就是機(jī)器的一個(gè)元件。”維納曾經(jīng)的老師、哲學(xué)家羅素給這本書(shū)寫(xiě)了一篇題為《人還有存在的必要嗎？》的書(shū)評(píng)，其中寫(xiě)道：“有些事情是機(jī)器無(wú)法做到的。它們無(wú)法創(chuàng)作偉大的藝術(shù)、偉大的文學(xué)或偉大的哲學(xué)；它們無(wú)法發(fā)現(xiàn)人類心靈中秘密的幸福源泉；它們對(duì)愛(ài)和友誼一無(wú)所知?！绷_素認(rèn)為智能化的機(jī)器應(yīng)當(dāng)被用于將人類從生存壓力所迫的勞役中解放出來(lái)，讓所有人都能享有原本只有貴族或少數(shù)社會(huì)精英才能享有的“奢侈品”——閑暇，從而去從事那些只有人類才擅長(zhǎng)做的創(chuàng)造性的以及帶來(lái)幸福感的事情。

但我們需要進(jìn)一步發(fā)展這種論證。首先，人不必通過(guò)證明自己“有用”來(lái)證明自己有存在的必要。康德所說(shuō)的“人是目的，不是手段”，應(yīng)該是人本主義思考的出發(fā)點(diǎn)。一方面，即便機(jī)器已經(jīng)能夠做人類需要運(yùn)用智力才能做的大多數(shù)事情，人類也應(yīng)該通過(guò)制度設(shè)計(jì)來(lái)確保人的處境不會(huì)惡化。另一方面，更重要的是，我們需要從一開(kāi)始就想清楚，什么樣的人工智能發(fā)展方向是值得追求的，是不會(huì)降低大多數(shù)人的生活水平和幸福感的——換句話說(shuō)，是符合公共利益的。顯然，堅(jiān)持人本主義立場(chǎng)的人都不會(huì)說(shuō)，我們發(fā)展人工智能是為了讓它最終變得比人更聰明，可以擺脫人的控制并追求自己的目的，無(wú)論這種目的是否與人類的目的相吻合。我們創(chuàng)造機(jī)器不是為了讓它像人，畢竟世界上已經(jīng)有了數(shù)十億活生生的人；不是為了讓它去從事那些我們從中可以獲得意義感和成就感的事情；而是為了讓它幫助我們?nèi)プ瞿切┈?、勞累、重?fù)但又必要的工作，以及幫助我們?nèi)プ瞿切┪覀兿胱?，但如果不借助智能化工具就做不到或者不能做得很好的事情。?jiǎn)單地說(shuō)，就是要發(fā)明和發(fā)展有用的人工智能。

其次，從人本主義立場(chǎng)出發(fā)，我認(rèn)為目前OpenAI所代表的生成式人工智能發(fā)展道路已經(jīng)走錯(cuò)了方向。ChatGPT和Sora這種類型的生成式人工智能工具，是在做人類平均水平的創(chuàng)作者能夠做而且愿意做的事情，同時(shí)由于缺乏人類特有的目的性和環(huán)境適應(yīng)性，它們所生成的內(nèi)容只能滿足娛樂(lè)和蒙混過(guò)關(guān)的需求，而無(wú)法用于追求真實(shí)性、嚴(yán)謹(jǐn)性和真誠(chéng)性的內(nèi)容生產(chǎn)。

阿努·布拉德福德認(rèn)為存在三個(gè)“數(shù)字帝國(guó)”，它們對(duì)數(shù)字經(jīng)濟(jì)有著完全不同的構(gòu)想，并因此發(fā)展出三種全然不同的監(jiān)管模式：一是美國(guó)的市場(chǎng)驅(qū)動(dòng)模式，以促進(jìn)創(chuàng)新為導(dǎo)向，鼓勵(lì)贏家通吃，甘冒巨大的風(fēng)險(xiǎn)；二是中國(guó)的國(guó)家驅(qū)動(dòng)模式，以發(fā)展和穩(wěn)定為兩大價(jià)值，試圖在兩者之間維持平衡；三是歐盟的權(quán)利本位模式，試圖在數(shù)字技術(shù)不斷侵蝕人類隱私和自主性的現(xiàn)實(shí)處境中維系人的尊嚴(yán)和權(quán)利。這些“數(shù)字帝國(guó)”之間的斗爭(zhēng)有兩個(gè)主戰(zhàn)場(chǎng)：一是橫向的國(guó)與國(guó)之間的斗爭(zhēng)，包括技術(shù)、商業(yè)模式和規(guī)范等多個(gè)層面；二是縱向的國(guó)家與企業(yè)（包括本國(guó)科技企業(yè)和在本國(guó)運(yùn)營(yíng)的外國(guó)科技企業(yè)）之間的斗爭(zhēng)。

另有學(xué)者指出，由于包括人工智能在內(nèi)的數(shù)字科技及其商業(yè)應(yīng)用的全球化特點(diǎn)，數(shù)字科技強(qiáng)國(guó)往往主張跨境的數(shù)據(jù)自由流動(dòng)和人工智能部署，以為本國(guó)數(shù)字巨頭獲取全球數(shù)據(jù)和占領(lǐng)全球市場(chǎng)創(chuàng)造制度條件，此種戰(zhàn)略被稱為“數(shù)字帝國(guó)主義”（digital imperialist），美國(guó)是其唯一代表；而缺乏本土數(shù)字科技巨頭的國(guó)家，則往往通過(guò)強(qiáng)調(diào)個(gè)人數(shù)據(jù)權(quán)利保護(hù)來(lái)限制數(shù)據(jù)的跨境流動(dòng)，同時(shí)也限制境外數(shù)據(jù)企業(yè)在本地的數(shù)據(jù)獲取和人工智能部署，以維護(hù)數(shù)據(jù)主權(quán)，此種戰(zhàn)略被稱為“數(shù)字主權(quán)主義”（digital sovereigntist），以歐盟各國(guó)為主要代表。

中國(guó)香港學(xué)者張湖月則將中國(guó)的人工智能監(jiān)管比喻成高空疊羅漢走鋼絲這樣的雜技表演，既要持續(xù)前進(jìn)，又要保持動(dòng)態(tài)微妙平衡，還要承受高空墜落恐懼的壓力。但這可能恰恰是人工智能監(jiān)管該有的樣子。任由市場(chǎng)主導(dǎo)，則投資者利益驅(qū)動(dòng)下的人工智能技術(shù)形態(tài)和商業(yè)模式，會(huì)進(jìn)一步收割大眾用戶的注意力、時(shí)間、金錢(qián)和智商，還不用說(shuō)馬斯克所擔(dān)心的人工智能失控帶來(lái)的人類生存危機(jī)。如果繼續(xù)堅(jiān)持傳統(tǒng)的個(gè)人權(quán)利本位，那么必須利用海量數(shù)據(jù)來(lái)訓(xùn)練的人工智能及其產(chǎn)業(yè)將無(wú)從發(fā)展。但不發(fā)展并不意味著免于被數(shù)字巨頭利用和沒(méi)有風(fēng)險(xiǎn)，而是往往會(huì)走向被美國(guó)的數(shù)字巨頭利用和收割，正如歐洲的現(xiàn)實(shí)處境那樣。

本文原載《文化縱橫》2024年4月刊，原題為《人工智能不應(yīng)成為資本的“獨(dú)角戲”》。歡迎個(gè)人分享，媒體轉(zhuǎn)載請(qǐng)聯(lián)系本公眾號(hào)。