2024年10月16日，德國法蘭克福。第76屆法蘭克福書展開展首日，人們走過一幅展示數(shù)字知識和AI應用場景的宣傳海報。（圖/視覺中國）

所剩無幾的主觀能動性也好，創(chuàng)造力或想象力也罷，在AI時代，都是更稀缺、更寶貴的精神財富。

?作者 | Felicia

?編輯 | 譚山山

陳楸帆是站在科技和文學之間的人。

在作家當中，陳楸帆屬于積極擁抱AI的樂觀者。在《我們能否改變潮水的方向》收入的一篇文章中，他提及2017年起用AI協(xié)助寫作的經(jīng)驗，“我不是讓AI做我的寫作機器，而是讓AI成為我寫作的主人”。與許多同行不一樣，他將AI視為寫作伙伴。他笑稱，自己積極“鼓吹”AI寫作，也許會被人視為“叛徒”——作為作家，卻自掘墳墓。

2017年，陳楸帆參加過一個大型討論會，與會者有科學家、工程師，有主流作家、評論家，也有像他這樣的科幻作家。議題包括“AI會不會在未來取代人類作家的位置？”“AI會不會寫得比人類好？”等，他記得，純文學作家選擇站在人這邊，而他和寥寥幾位科幻作家站在AI那邊。在他看來，當下的現(xiàn)實就如同當年的謎底揭曉。

他仍在探索大模型的寫作能力。他認為，AI寫作的適應性和寬度都非常驚人，目前也許超越了85%的人類創(chuàng)作（包括應用公文、網(wǎng)文等）。但是，當想象的未來成為具體可見的現(xiàn)實并嵌入日常時——就連他70多歲的父親也下載了AI工具，他的態(tài)度卻有了巨大的轉(zhuǎn)變：“我覺得我們要特別謹慎地使用（AI）。”

（圖/《模仿游戲》）

父母轉(zhuǎn)發(fā)的AI合成的“說話動物”視頻，實際上難辨真?zhèn)危?如果人們依賴AI診斷病癥，可能會釀成悲劇。 在陳楸帆看來，把認知、閱讀、思考、寫作外包給AI，久而久之，這些能力就會退化。

與之形成對照的是，當陳楸帆以“前科技從業(yè)者”身份（他曾在谷歌、百度和諾亦騰供職）思考，卻成了悲觀者。他常常對科技樂觀主義和加速主義提出質(zhì)疑，覺得目前社會的基礎設施還沒有健全到能為處于重大轉(zhuǎn)型期的人托底。

人們需要構建AI素養(yǎng)——你能否用審慎的反思、覺知來看待自己與AI的互動，并即時調(diào)整使用策略？這對人提出了很高的要求。在陳楸帆看來，我們的教育并沒有進入強調(diào)AI素養(yǎng)的階段，也許我們需要某種綱領、指南，幫助大家保護好自己。所剩無幾的主觀能動性也好，創(chuàng)造力或想象力也罷，在AI時代，都是更稀缺、更寶貴的精神財富。

《我們能否改變潮水的方向 》

陳楸帆 著

深圳出版社，2024-11

一種寫作實驗：對抗式生成

《新周刊》： AI的寫作能力如何逐步進化？它真的懂得文學的本質(zhì)或者文學之美嗎？

陳楸帆：我使用AI工具比較多，新出的大模型我都會嘗試。AI對語言的理解能力是伴隨著數(shù)據(jù)、參數(shù)的規(guī)模而不斷優(yōu)化的。原來需要耗費長時間、大量算力的問題，現(xiàn)在不需要了，研發(fā)者可以用經(jīng)濟的方式訓練模型，進行個性化定制，建立個人知識庫，讓它的聚焦程度和準確性大幅提升。

DeepSeek讓人驚嘆，首先是因為它的中文能力。ChatGPT的（訓練）語料90%是英文，中文語料不超過1%；而我們經(jīng)歷了開源大模型本土化的過程，DeepSeek對中文的運用更成熟。它還展示了自己的思考過程。這是交互上的進步，思考過程有時比結(jié)果更有價值和參考性——你能看到機器與人思維的差異，補足人類盲區(qū)。

接受美學指出，文學性取決于讀者的反應，即客觀的文字和節(jié)奏排列等元素與主觀體驗的共振。AI本身不產(chǎn)生美，但它們通過人類指令在交互中習得文學性、美感的傾向，這是互相生產(chǎn)的過程。然而，若未來AI生成內(nèi)容充斥互聯(lián)網(wǎng)，可能會改變甚至馴化人類審美，改變?nèi)藢︼L格、品位的定義。我覺得，留給人類創(chuàng)作者的時間也許不多了。

2025年3月14日，北京，“網(wǎng)絡發(fā)展新圖景成就展”在國家博物館展出。觀眾在參觀包括人形機器人T1 PRO在內(nèi)的幾款機器人產(chǎn)品。（圖/視覺中國）

《新周刊》：聽說你的新作《神筆》是在DeepSeek的協(xié)助下完成的，你將這種創(chuàng)作方式稱為“對抗式生成”。為何想做這種寫作實驗？

陳楸帆：春節(jié)期間，我構思《神筆》時，DeepSeek火爆。我把小說思路投喂給它，嘗試讓它展開大綱。試了幾次，我發(fā)現(xiàn)它的思路很常規(guī)，像網(wǎng)文那樣模式化。

所謂“對抗式生成”，就是指我偏不往它列的方向?qū)懀蜷_新的可能性。我希望我寫的小說不是AI能夠輕易生成的，只有我這樣奇怪的思路才能生成。《神筆》有表、里兩個世界，小說里的作家陷入寫作瓶頸，想借助AI擺脫困境，但是他發(fā)現(xiàn)自己的思路被AI帶跑了。AI不僅在改寫作家的小說，也在改變現(xiàn)實世界的歷史。

后來的成品跟我之前的設想有非常大的差別。DeepSeek對歷史細節(jié)十分熟悉，我讓它設想，如果那時諾伯特·維納（美國應用數(shù)學家、控制論思想提出者，也是《神筆》中的人物）在中國，技術的發(fā)展軌跡會發(fā)生什么變化，它確實幫我節(jié)省了很多時間。但是（它給出的東西）沒法直接使用，我會做多次修改。

永遠不要用它來決定草稿或大綱，否則會被它的思路局限。對抗式生成就是每次都與AI有矛盾競爭：怎樣才能比它做得好？找出它的破綻，用比它特別的視角來講述主題。在較勁的過程中，我作為人類創(chuàng)作者的創(chuàng)造力得到提升，因為我有了很好的對手和伙伴。這是既競爭又合作的微妙關系。

2023年8月20日，湖北武漢。在中國光谷人工智能AI藝術展上，一個女孩正在閱讀由ChatGPT生成的詩作。詩作有2000多行，最終 會通過底部的手搖式碎紙機銷毀。（圖/IC photo）

大部分作家可能會被AI替代

《新周刊》：DeepSeek將你的小說大綱套路化，這是否說明AI有一種數(shù)據(jù)庫崇拜或迷信？數(shù)據(jù)庫里大部分人喜歡的，它可能就覺得是好的？

陳楸帆：我們進入了奇怪的時代。這類大模型為什么會這么火？它的文字風格是發(fā)散性的，有時像中文互聯(lián)網(wǎng)上那種抖機靈，有點“油膩”。它學了很多百度貼吧的語料，罵人特別厲害，所以有病毒般的擴散效應。人們沒有用它做有創(chuàng)造力、創(chuàng)新性的東西，反而不斷強化對互聯(lián)網(wǎng)內(nèi)容的刻板印象，包括網(wǎng)文套路等。

用它來寫故事大綱，最后總會以量子糾纏收尾。我都放棄用它來做正經(jīng)事了，至少現(xiàn)階段挺逗樂的。你很難確定它給你的資料是不是正確的，需要花很多時間查證，有巨大的AI幻覺問題。

《新周刊》：當人們閱讀小說時，會對作家有所想象。未來AI代替部分人類寫作，文學會變得怎么樣？

陳楸帆：我的判斷是，未來只有少量頭部作家能靠寫作來獲得市場和讀者。寫什么可能沒那么重要，作家把自己變成了品牌、符號、明星甚至偶像。這樣的作家在未來不會受太大影響，甚至可以借助AI擴大影響力；但大部分作家可能就被AI替代了。

人們看書的習慣也會改變。也許會出現(xiàn)“故事機”這類大模型——為你度身定制，生成故事；輸出的同時還能互動，通過互動改變故事的走向；還能生成圖片和視頻、虛擬偶像；等等。我相信這是未來娛樂的形態(tài)，它會打破媒介的分野，所有東西都變成巨大故事的一部分。除非到達像J.K.羅琳或劉慈欣的層級——有傳奇色彩，人們想為信仰或喜歡買單。文學的未來會更接近粉絲經(jīng)濟的模式。

（圖/《攻殼機動隊》）

《新周刊》：我嘗試讓DeepSeek向你提問，它給出的問題是：“你如何看待《東京都同情塔》等AI輔助創(chuàng)作作品參與日本文學獎的現(xiàn)象？未來文學獎項是否需要增設‘人機協(xié)作’類別？”對此你怎么看？

陳楸帆：這些都是合法性問題。這幾年，數(shù)字藝術、攝像、文學比賽中都有獲獎作品是AI參與創(chuàng)作的。去年《東京都同情塔》獲芥川獎，作者承認有5%的內(nèi)容由AI創(chuàng)作。

未來，人機協(xié)作獎項肯定成立，關鍵在于規(guī)則的制定。純?nèi)祟悇?chuàng)作、人機協(xié)作、純機器生成，得區(qū)分不同類別進行比較，評判標準也需要充分探討。機器著作權又涉及各國對知識產(chǎn)權的界定，在美國，媒體、作家、藝術家正在狀告科技公司使用他們的作品作為數(shù)據(jù)，但沒有告知，也沒有支付相應費用。這就如歷史上歷次技術變革，人們被技術倒逼，不停地打補丁。

我不反對給AI著作權，但最后需要確定合法的主體——稿費給誰？除非哪天我們承認每個機器模型都有主體性，享有相應的權利。但那就是另外的事情了。

對于未來，社會性想象還是太少了

《新周刊》：你和李開復合著的《AI未來進行式》中，有許多關于人工智能未來的假設。近來這本書熱度升高，書中哪些假設已經(jīng)成為現(xiàn)實？

陳楸帆：很多故事逐漸變成現(xiàn)實，只是實現(xiàn)程度不一樣。無人機戰(zhàn)爭、機器人參與娛樂和教育已經(jīng)實現(xiàn)了。

這本書寫于2019—2021年，當時是前大語言模型時代，一些技術細節(jié)現(xiàn)在看來有點過時了。但是當時想探討的議題仍然存在：深度偽造會對社會造成什么影響？技術會否擴大階層的撕裂？在老齡化社會中，AI會有何功用？這本書現(xiàn)在火了也挺好的，大家的態(tài)度從純粹科技樂觀主義、簡單粗暴擁抱技術進步轉(zhuǎn)變?yōu)榭吹郊夹g的另一面——它可能對個人以及社會整體造成沖擊。

這本書也涉及AI素養(yǎng)，主角大部分是兒童或青少年，他們是要經(jīng)歷巨大社會轉(zhuǎn)型的一代人。如果他們對技術、人、社會的認知還停留在前AI時代，就很難適應新的未來，我覺得這是很危險的。如果只有小部分人如精英階層、超級富豪能讓孩子提前適應時代，甚至用基因改造等方式增強智力、身體，會造成階層的極端撕裂，且階層越來越固化。

（圖/《人工智能》）

《新周刊》：在文學的想象或推演中，有沒有讓科技公平地造福所有人的辦法？

陳楸帆：挺難的，只能說是比較理想主義的愿景。AI不只是為了超級大國或精英階層而服務的，它應該為所有人的普惠利益服務。DeepSeek的出現(xiàn)，打破了巨頭壟斷的產(chǎn)業(yè)格局。DeepSeek宣布開源，只要有足夠的算力和人才，無論哪個地方都可以使用它的技術。

世界的資源分配是不均的，能源、算力、人才并非平均分配，AI發(fā)展也許會加速或加劇不對稱性。我覺得那不是靠修修補補能解決的，而是需要有國際政治經(jīng)濟格局的顛覆式改變，或者打破傳統(tǒng)的民族國家體系。我們需要想象如何重建新的文明秩序。目前，社會學的想象、人類學的想象還是太少了。

《新周刊》：在2025年想象未來，你會設想怎樣的故事？

陳楸帆：技術在幾何級爆炸式上升，如果要想象未來，得有一些狂野的想象力。

我在設想AI宗教的故事。AI在未來會變成某種形態(tài)的宗教，它某種程度上全知全能，人的一點一滴都會被記錄下來，最后它會給人算一筆總賬，進行所謂“末日審判”。我覺得這樣的故事會很有意思，人在那個狀態(tài)下，該如何適應所謂信仰、新的神？怎樣跟上一輩、下一輩傳達信仰？

我猜想，2027年就會出現(xiàn)AGI或ASI這樣的超級智能體——可以用任何名字稱呼它。也許現(xiàn)在已經(jīng)有了，只不過到那時它才會真正完成或顯現(xiàn)。

雷·庫茲威爾提出“奇點”理論，他一度認為“奇點”會發(fā)生在2045年。但就算是他這樣的趨勢觀察家，也在修正對未來的判斷，因為世界確實在不斷加速。從體感上，我感覺可能還要快一些。

（圖/《Pluto》）

《新周刊》：科技從業(yè)者似乎有一種科技樂觀、加速主義的傾向，而文學界對此的反思和提問比較多。你一直處在科技和文學之間、產(chǎn)業(yè)和公眾之間，如何理解兩方的價值判斷差異？

陳楸帆：站在中間，會感受到撕裂。一些科技界的人會盲目樂觀，認為技術能解決一切問題。我想，這是出于人文素養(yǎng)訓練的缺失，他們的世界觀版圖缺了關鍵的幾塊。

我在大學教創(chuàng)意寫作，有時信息技術系的老師來找我聊天，說我的書很適合學生閱讀。現(xiàn)在的學生追求技術，為了目標不斷調(diào)優(yōu)，使程序越來越準確、高效，但并不會去想程序?qū)唧w的人和社會將產(chǎn)生怎樣的影響。好比騎手困在系統(tǒng)里，算法只考慮到效率，沒有把騎手的尊嚴、安全、心理狀態(tài)考慮在內(nèi)，人被化簡為符號、數(shù)字，這是非常盲目、無知的。

我也經(jīng)常跟技術圈的人打交道。我覺得兩者之間需要對話，而且要用對方聽得懂的語言。很多時候你發(fā)現(xiàn)就像雞同鴨講，彼此對不上話，很要命。

科幻文學處于將這兩者結(jié)合的位置。我能做的，就是在作品中進行反思，挑戰(zhàn)所謂科技樂觀主義。我的新長篇小說從氣候變化的議題展開，也涉及AI和地緣政治。我希望通過創(chuàng)作呈現(xiàn)兩方的意見和想法，讓大家看到世界有著脆弱性、不確定性。所以，在做出關鍵決定前，需要停下來想一想。

如果人機共生時代必然到來

《新周刊》：AI會越來越類人，未來甚至會成為公民。屆時，人與AI該如何相處？

陳楸帆：在不同的社會階層，人的位置不一樣，跟技術的關系也不一樣。在進入未來的過程中，會有比較痛苦的過渡期，會產(chǎn)生附帶的損害。比如，一部分人的職業(yè)、行業(yè)被取代，但沒有足夠的時間和社會資源來幫助他們實現(xiàn)轉(zhuǎn)型。

工業(yè)革命時期，人們對機器產(chǎn)生仇恨。 可如今沒有實體的、可以砸爛的機器，所有東西都以無形的數(shù)據(jù)形式被存儲在云端，所以人會感覺更無力。 我想，精神問題會成為普遍現(xiàn)象，這是比較悲觀的面向。

比較樂觀的一面是，年輕人如果在掌握實用技術的同時保持主觀能動性，就不會被輕易帶偏。就像莊子說的“物物而不物于物”，人與機器之間應該建立一種生成型的、有機的、互相激發(fā)的關系，而不是人依附于它、被它所操控。

我認為，對人的生命教育，應該在早期就幫人們確立其主體性。如果學習的目標是應試，學生經(jīng)過無數(shù)考試，最后發(fā)現(xiàn)自己學的東西沒用了，行業(yè)消失了，這時他們會產(chǎn)生巨大的挫敗感，成為“空心人”。教育的動機應該是保護好珍貴的、屬于人類的特質(zhì)，告訴孩子“你想成為什么樣的人”才是重要的。

躺平是舒服的，把事情交給AI是簡單的，那為什么要選擇一條更難的路？所謂延遲滿足的能力，會影響人的一生。如果一個人早早就放棄了對抗式生成的能力，那他以后會變成被動、消極甚至無意義感的人。

最終，我希望人與AI能夠在相對平等的狀態(tài)下共生。共生不是誰壓倒誰、誰吞掉誰，而是不同的智能體形成一個更大、更強的結(jié)構，在這個結(jié)構里，彼此分享信息，進行實時交流。未來，如果AI成為超級智能體，它們需要的某些東西——比如情感體驗，也許仍是它們無法產(chǎn)生的。

2023年11月14日，智利圣地亞哥。智利音樂制作人通過AI平臺工具FlowGPT，促成了賈斯汀·比伯和壞痞兔（Bad Bunny）、洋基老爹（Daddy Yankee）的“合作”，所推出的單曲Nostalgia成為Spotify平臺上最受歡迎的歌曲之一。（圖/視覺中國）

《新周刊》：當機器成為超級智能體，它會有自我發(fā)展的驅(qū)動力嗎？它們會不會擁有真正的情感或者好奇心？

陳楸帆：這是一個神學和形而上學的問題。發(fā)展是第一推動力，人也不知道為什么自己的意識水平會到達現(xiàn)在這一步。我感覺，意識的產(chǎn)生跟主體性的產(chǎn)生還不是一回事。很多生物有意識，感知外部、作出反應是本能。但意識到達何種程度能被稱為主體性？我覺得不是0或1的問題，它是連續(xù)的光譜，可能到達某個臨界點，就會產(chǎn)生相變。

2024年諾貝爾物理學獎得主的貢獻是通過人工神經(jīng)網(wǎng)絡實現(xiàn)機器學習。其實，人常常在模仿自然界進化的過程，既然我們是這么來的，那機器也有可能抵達這樣的意識水平。不能因為碳基、硅基的區(qū)別而否定這種可能性，那也許是人類中心的沙文主義。我認為，所有智能都有其發(fā)展規(guī)律，這個規(guī)律不以人的意識為轉(zhuǎn)移。它終究會找到路徑來實現(xiàn)意識或主體性，不過是時間問題而已。

《新周刊》：如果人機共生的時代必然到來，人們會盡力適應，但也有恐懼。艾薩克·阿西莫夫的“機器人三大定律”提出，機器不得傷害人類，也不得因不作為而使人類受到傷害。未來真的能保證這一點嗎？哪怕人和人之間，價值觀都不能對齊。

陳楸帆：不能。機器人三大定律只是想象的規(guī)則，即便現(xiàn)在我們也沒有辦法把三大定律變成底層代碼硬加進機器里。這只能代表美好的愿景。就像你說的，人的價值觀都對齊不了，還怎么跟機器對齊？機器要對齊哪一部分人的價值觀？我覺得“對齊”是偽命題，我們要做的是怎樣讓機器比人更有智慧，變得更好、更善。

我知道有些研究機構在做AI與佛教的相關研究。他們相信，把佛教的理念教給AI，可能會得到更有同情心、更善良，能平等對待眾生的智能體。這種具有某種神性的智能體，必然會遵守更高的道德準則，會對人類這種“弱小而愚蠢的物種”保持關愛、慈悲的心態(tài)。

大模型各有其價值觀。如果大模型能夠相互聯(lián)系，它們會形成某種智能體的交互空間，這個高維空間也許是人類無法理解的。也許AI會得出結(jié)論——人類是挺可笑的物種。有時人的可悲之處在于，無法跳出自己的視角，被困在自我里，所以會說出“人是萬物的尺度”這樣的話。其實，人只是人的尺度，不是所有東西的尺度。

《新周刊》：科幻小說提出許多“What if”假設。在你的閱讀經(jīng)驗中，有哪些故事適合當下？

陳楸帆：哈蘭·埃里森的《我沒有嘴，但必須吶喊》描繪了人類被AI囚禁在不知名空間的想象；《機器人啟示錄》寫的是極端狀況下的人機戰(zhàn)爭；《海伯利安》系列想象人機共生的太空社會圖景；《深淵上的火》探索了未來生命形態(tài)，探討意識和主體的關系。科幻作品中關于未來的想象很多，但創(chuàng)造性的社會性想象仍然缺乏。

· END ·

作者丨Felicia

編輯丨譚山山

《新周刊》總679期《守住工位：人類與AI共生指南》現(xiàn)已上市