（關注公眾號設為標，獲取AI深度洞察）

全文 5,000字 | 閱讀約16分鐘

"為什么說大多數人都用錯了AI寫作？"

在哈佛大學最近的一場講座上,《三體》英文譯者劉宇昆(Ken Liu)給出了他的答案。作為科幻小說界的傳奇人物,Ken不僅以其獲獎作品《蒲公英王朝》系列聞名于世,他的短篇小說《紙動物園》更創造了歷史,成為首部同時獲得雨果獎、星云獎和世界奇幻獎的作品。Netflix熱播劇集《萬神殿》的靈感來源《奇點》系列短篇故事,同樣出自他的筆下。

在這場引發廣泛關注的演講中,劉宇昆一開始就指出了當前AI寫作的一個普遍誤區："如果你去YouTube或者B站搜索'如何用AI寫小說',你會找到成百上千的教程。但如果你搜索'這是一本我很喜歡的AI寫的小說',卻幾乎找不到任何結果。"這個現象背后,折射出了什么深層問題？在他看來,把AI簡單視為人類寫作的替代品,是一種過于簡單的資本主義思維。

演講文稿

讓我先稍微介紹一下自己。我曾經是技術專家,基本上做了很多年軟件工程師,后來轉行當了律師,再后來成為全職作家?？梢哉f我的一生都在跟符號打交道,構建符號結構。所以我經常思考這到底意味著什么。

一、模仿的本質

我想通過給大家分享一個我用來思考AI的理論框架來說明這一點,然后給大家一些我在實際使用AI時的實用建議。莎拉剛才說的一點讓我很有共鳴,就是今天的AI,至少以這些大型語言模型的形式架構,比如轉換器架構,本質上是在模仿人類。我認為這是一個非常重要的觀點需要牢記。那么,做人類的模仿意味著什么呢？實際上,今天的AI基本上是在玩圖靈最初提出的那個游戲,也就是用來定義什么是智能和思維的替代方案。不過到現在我們仍然不知道這意味著什么。如果你去看這個領域發表的論文,蘋果的研究人員發表了一篇文章,基本觀點是認為LLM不會思考。而對這篇論文的回應基本分成兩派:一半人說人類也不會思考,另一半說這太顯而易見了,有什么好指出的？我覺得我們從未在一個行業中遇到過這種情況 - 頂尖研究者和思想家對這項技術的本質存在如此根本性的分歧。 所以我們至今仍然不知道思維到底是什么,也不知道LLM是否在進行思維活動。我們基本上還是在做圖靈告訴我們的事情,就是模仿,玩模仿游戲。我們不知道什么是思維,我們能做的就是模仿人類思維的結果。我認為這點很重要。這解釋了為什么LLM生成的一切都具有這種模仿性質。它是我們智能的反映,以語言的形式被編碼,所以這算不算思維,現在無法定義,也不重要。但知道LLM只是給你人類思維的反映,可以讓你以創意、有趣的方式思考如何利用它。

二、無聊的內容

讓我給你們兩個思考點。第一,如果你去YouTube搜索"如何用AI寫小說",你會找到成百上千的結果。這是現在網紅最熱門的話題之一。他們制作如何用AI寫小說的教程,然后放到亞馬遜上賣錢,有成千上萬這樣的視頻。但是,我要你再搜索一下,"這是一本我很喜歡的AI寫的小說,你應該讀讀"。你會發現根本找不到這樣的視頻。我真的很用心地去找了。我很努力地想找到有人推薦具體的AI寫的小說清單,這樣我可以去讀讀看。我確實找到了一些這樣的書單,也看了這些書。結果發現這些書要么在亞馬遜上沒有評論,要么只有三條評論,而且都是一星評價。似乎人們對與AI合作很感興趣,但覺得最終的結果非常無聊。我想你們都能理解這一點。用DALL-E生成一堆圖片來開玩笑、思考、討論很有意思,但你們當中應該沒人會真的買一張DALL-E的圖片,把它裝裱起來,去欣賞它,思考它更深層的意義。AI生成的藝術很無聊,但生成的過程很有趣。請記住這一點。這是第一點。

第二點我想讓大家思考的是,當前關于AI的很多討論在我看來都是很有誤導性的。很多人現在擔心和恐懼的是AI會寫小說、寫電影劇本、生成電影,導致所有藝術家都會失業。我認為這不是一個很好的思考方式,因為把AI當作一種更便宜的人類替代品,這種想法太過資本主義了。如果說資本主義有什么特點,那就是它不太有創意。它只知道如何讓東西變得更便宜、更快,但并不知道如何創造真正有趣的東西,因為有趣的東西不一定能賺錢。

所以我們不應該把AI僅僅視為現有媒介的工具,而應該把它當作一種全新的媒介。這是什么意思呢？如果你回到19世紀末,去那些展覽大廳,你會看到一種新機器在展出,叫做電影機。電影機這個詞是由希臘語"運動"(kine)和"書寫"(graph)構成的。所以它是一個運動書寫器,是一個運動畫面生成器,是用來捕捉運動并回放的機器。這些電影機最早拍攝的影片被稱為"現實片"。這些現實片有點像原始的紀錄片,如果你去查的話會發現它們大約一分鐘長,因為膠卷就只有那么長,大約17米。我想它們是以每秒16幀的速度播放的?？傊?當你看這些視頻時,它們大約一分鐘長,展示的都是一些像婦女離開工廠、有人試圖騎馬、嬰兒想把手伸進金魚缸之類的場景。你可能會想,好吧,這是什么東西？如果要你花一法郎去看一晚上的現實片,你可能會覺得被騙了,因為這不就是在看人們的日常生活動作嗎？

三、新媒介思維

想想看,這和很多TikTok視頻也沒什么不同。當你看了這些視頻后會想,這到底是什么？但不得不承認這確實有吸引人的地方,對吧？如果你只是看這些現實片,根本無法想象有朝一日運動畫面會成為我們講故事的主要方式。你想象不到。但僅僅是這些一分鐘長的現實片就有很吸引人的地方,因為看到人類的運動被捕捉并反映回來,這是全新的體驗,對吧？但你要明白 - 這是一個新媒介。人們必須學會開發一種電影語言,用運動畫面來講故事。真正的運動畫面不僅僅是拍攝的舞臺劇,也不是小說的搬演,更不是那些簡單的東西。它是一種全新的講故事方式。這就是新媒介的意義。我的觀點是,今天AI輸出之所以如此無聊,是因為我們還在用它講述現有的故事,把它當作現有媒介的工具。除非我們弄清楚如何讓這個媒介發揮它自己的特長,否則它不會取得成功。

那么新媒介會是什么樣子呢？想想我們現在真正享受AI的方式。我們享受的是那些趨勢,比如讓健美運動員的肌肉越來越夸張,直到你看到銀河腦版的健美運動員,或者AI創作的蒙娜麗莎多元宇宙。我不知道你們有多少人熟悉這個。這是一年前的一個趨勢,人們用ChatGPT和DALL-E生成一系列圖片故事,講述不同國家的人如何互相搶奪蒙娜麗莎。比如這是美國人的典型一天:你看到這個人從平坦的床上起來,拿起槍,喝咖啡,開卡車去機場,飛到法國,拿走蒙娜麗莎,飛回來,開新聞發布會。這很有趣,因為這是一個社區共同參與的事情。重要的不是結果,而是參與的過程。

所以把這兩點結合起來:現在AI輸出的本質是無聊的,但過程是有趣的,而且你無法從最早的例子看出一個媒介將來會如何演變。這就是我今天作為作家使用AI的結論。因為AI本質上是在模仿人類,你得思考,一個人類的模仿者能為我做什么有用的、有趣的事？所以第一,如果你想寫東西,講你自己的故事,讓AI直接生成結果是行不通的。為什么？因為如果你想講故事,你必須創造自己的語言,而不是用陳詞濫調的語言。而AI作為一臺捕捉陳詞濫調、提煉它們并反映給你的機器,在這方面特別糟糕。所以用它生成你自己的故事幾乎總是很糟糕的主意。

四、正確的AI用法

那你能做什么呢？想想頭腦風暴這個概念。我用AI做的最有趣的事情之一就是和它一起頭腦風暴。但這里有個重點:我不是用它來為我生成想法。我和它頭腦風暴的方式與和人類交流很不一樣。我是在利用它的機器特性。這是什么意思？就像我之前提到的,電影機捕捉運動。我給AI取了個名字,叫做"概念機"(noemamatograph)。這個詞來自希臘語"noema",意為想法、概念或主觀性。它是一個主觀性捕捉機器。當前的AI很擅長捕捉和挖掘我們體現在語言輸出中的這些主觀性,然后把這些反映回來。

所以你得為你的AI塑造一個個性,然后以那種特定角色的方式與它合作。我的做法是這樣的,我對它說:"你是一個非常擅長采訪作家的采訪者。你喜歡和作家聊他們的項目。你喜歡問關于他們作品的挑釁性問題。你不是來給我想法的。你是來問我問題,逼我向你解釋我自己的。"這就是AI有趣的地方。如果你讓AI給你想法,很難不讓機器的陳詞濫調控制你。但如果你強迫AI讓你回答它的問題,你很可能會想出很有趣的想法。AI會不斷提問。它不知疲倦。它會一直推動你:"你為什么覺得這個有趣？這個 - 好的,我以前見過。你能讓它更獨特嗎？"它會推動你想出新想法。所以我很喜歡。很多主觀性,其實是交互主觀性。作為作家,我們被教導要獨自工作。我認為這其實很不自然。你們這些作家都知道,寫作的很多樂趣來自與他人合作。我和莎拉都做過作家房間。在作家房間里最棒的事情之一是,與他人合作的交互主觀性讓你的創造力成十倍地增加。你會感覺更有創造力。讓AI成為推動你更原創、探索你的想法、解釋你的想法、更好地發展你的想法的伙伴真的很有幫助。它能讓你走出"我被困在自己腦袋里"的狀態,實踐你的主觀性。這是第一種方式。第二種我覺得很有幫助的方式是讓AI給你反饋。你還是要靠它的機器特性。

五、語言的突破

你可以這樣告訴AI:"你是技術驚悚小說的專家讀者,是Tom Clancy的超級粉絲。這是我寫的一份手稿,我希望你從一個熱愛Tom Clancy作品的讀者角度來批評我的書。你不喜歡這本書的什么？你喜歡什么？"這種方式真的很有趣。相比之下,如果你只是讓ChatGPT給你反饋,它是做不到的,因為它只會試圖給你所有捕捉到的主觀性的平均值。但如果你塑造它,讓它模仿特定的主觀性來給你批評和反饋,它就很擅長這個。它會檢測你作品中的模式、陳詞濫調和其他總體趨勢,告訴你什么地方不行。然后你可以自己思考這是不是你想要的效果。 所以我發現AI的其他有趣用法就是像莎拉說的那些。你可以讓它做研究助手。它很擅長模仿,而很多寫作其實就是模仿。當你寫技術驚悚小說時,你經常需要假裝自己是某個領域的專家,試圖營造出那個領域技術術語的可信感。就像你去看《星際迷航》之類的作品。這是作家必須做的事情之一,創造一個自成一體的語言領域的幻覺。AI在這方面很棒。你可以讓AI為你創造技術術語,批評你的技術術語,指出哪些不好,哪些部分好。所以對于這類事情,我喜歡用AI來幫我弄清楚什么是有效的。

還有最后一件事,我覺得AI很擅長的是,派它去做我自己做不了的研究任務。比如,我讓ChatGPT去收集社交工程的有趣事件,它會搜集一堆故事回來給我。然后我可以審查這些故事,找出哪些可以作為潛在的創作素材。所以總的來說,我認為如果你想用AI直接生成最終輸出,像那些YouTuber說的"給我寫一本暢銷小說"那樣,這是行不通的。AI在這類事情上表現得非常糟糕。但如果你是一個有明確目標的作家,試圖增強你的主觀性,試圖與你的故事保持聯系,試圖利用AI來提升你的水平,成為一個更有趣的創作主體,那它就能發揮很大的作用。你要想辦法讓AI推動你變得更有人性、更具創造力,寫出更好的作品。謝謝。

問答環節

觀眾1：我是一個研究人類與AI交互的博士生,具體研究如何設計AI來補充而非替代人類。我的問題是關于專業知識的。你提到了主觀性,以及AI如何放大人們的主觀性。這是你們作為有經驗的作家所了解的。但新手作家可能一開始并不知道什么是好的寫作。如果從一開始就使用這些工具,我擔心他們可能會缺乏發展這種專業知識的機會。關于專業知識和寫作,也許你們可以談談如何教導或使用這些工具來幫助年輕作家發展他們的個人寫作風格？

劉宇昆：是的。當我思考這個問題時,我試著把專業知識分成兩類。一類是主題或領域專業知識,作為一個作家,你想寫某個主題,你在試圖學習它。另一類是關于技巧的專業知識,也就是你是否真的是一個好作家,不管那意味著什么。對于第一類專業知識,AI非常擅長幫助你。但你要小心。你要避免鄧寧-克魯格效應,就是知道得剛好夠危險。麻煩的是,即使是今天的AI,也很容易產生幻覺,尤其在訓練材料不多的領域,它可能會編造內容。而你作為那個領域的非專家,根本無法分辨。所以我通常建議人們先通過讓AI來測試你,評估你自己的專業知識水平,看看你對這個領域到底了解多少,建立一個基線。然后你讓AI去教你東西。當它講授教科書級別的材料時,你一般可以相信AI,也就是入門的知識。它不會誤導你。但當你進入具體細節時,你得自己去驗證,因為AI在那個層面可能會編造內容。除非你是專家,否則你很難看出問題所在。

我想你們都有這種體驗。我肯定有。每當我讀到關于技術或法律的新聞報道時,我發現它們充滿錯誤和誤解。這讓我意識到,當我讀到我完全不懂的領域,比如金融或中東問題時,我得保持很大的懷疑,因為如果我能在我的專業領域發現錯誤,那在那些不熟悉的領域我就很難發現問題。AI也是同樣的道理。你得時刻記住,你需要能分辨AI什么時候在胡說八道。至于發展你的主觀性專業知識,那就難多了。我的看法不一定正確,但我覺得很深刻 - 作為一個藝術家,你真正想做的是用語言表達那些本來無法用語言表達的東西。那才是藝術。至少作為一個小說家,藝術就是用語言說出實際上無法用語言表達的東西。為了做到這一點,你得推動自己發明自己的語言。所有值得一讀的作家最終都做到了這一點。所以如果你剛開始寫作之旅,就依賴ChatGPT給你詞語或告訴你你的用詞好不好,我認為那是一個糟糕的方式。當你剛開始寫作時,你可以用AI來推動你發展想法,但你還是得通過與人互動來發展你對自己寫作技巧的評價。在你周圍沒有人的時候,AI是作家工作室的好替代品。對某些事情來說,它甚至比人更好,因為它不知疲倦,可以一直進行下去。但對其他事情來說,你必須有真人參與。有些事情你不能依賴機器來完成。我很依賴我的測試讀者來看我的書?；旧?在我用AI進行批評之后,我還是得去找人,因為沒有什么比一個真正體驗藝術的人更能告訴我這是垃圾還是有趣的東西。剛開始的作家絕對需要這樣做。我確實相信交互主觀性很關鍵。

觀眾2:感謝你們的啟發性演講。作為一個同時主修CS和英語、在同一學期上創意寫作工作坊和算法課的學生,我有一個問題想問Ken,當然也想聽聽你的看法,是關于傾向于GPT的機器特性的。你們都提到了模仿,我理解這是LLM能力的體現,可能是通過Word2vec關聯,平均兩個完全無關或看似無關的向量。在你看來,這種機器特性和技能對翻譯或多語言工作有什么影響？因為我覺得這里有巨大的潛力,甚至可能是GPT更具生成性的用法,它可以給我不同語言的翻譯方式,而不僅僅是作為代理或助手。這對你的寫作所有權有什么影響？

劉宇昆:是的,我想對此做些補充。我想推進這個全新門戶的想法。我一直認為用AI只是模仿人類、做人類已經在做的事是一個死胡同。我不覺得那有意思?；旧?你得讓AI去做人類做不到的事。你提出了很多有趣的觀點。雖然我沒有完整的答案,但我有一些方向和讓我感到興奮的東西。你們很多人可能知道,現代AI革命的基礎 - 轉換器架構最初是作為翻譯技術設計的,你提到這一點很有意思。它的深刻見解是,你所需要的只是注意力機制 - 你關注所有部分以及它們如何相互連接,而不是順序輸出。從這個意義上說,它的機器特性對我來說非常有趣,因為這不是我們被教導去思考語言的方式,盡管在內心深處,我們可能也在做著類似的事情。但它開啟了思考語言的新方式。

所以我已經覺得閱讀這個領域的論文很有趣。最近有一篇DeepSeek的論文,我不知道你們有多少人讀過。我建議你們讀一下。它揭示了一些有趣的發現。其中之一是DeepSeek團隊最初發現,當模型使用多語言方法時表現更好,也就是說你給它一個提示,它通過不斷在不同語言之間切換來思考,實際上比強迫它使用單一語言表現得更好?，F在,你可以從多個角度來看待這個現象。一個角度是人類的多語言方式有著深深的迷人之處,我們的集體智慧編碼在這些語言語料庫中實際上是不同的,意思是不同領域有不同的專業知識,如果我們都是多語言的,在某種意義上會比單語言更好。另一個更平凡的解釋是,訓練語料庫在某些語言中對某些主題的覆蓋比其他語言更好。所以AI不得不這樣做。順便說一句,團隊最后還是強迫模型使用單一語言,只是因為用戶覺得模型在不同語言間切換很不安,這我覺得非常能體現人性。很有趣的是我們為了舒適而讓事情變得更糟。

另一件我覺得關于語言很有趣的事是思考實際的翻譯過程。當你談論人類翻譯時,《星際迷航》的通用翻譯器模型實際上給我們幫了倒忙,因為它暗示翻譯只是一種映射。而轉換器架構顯示它實際上不是映射的問題。它深深依賴上下文,里面嵌入了主觀性。讓我給你舉個例子:Emily Wilson是最有趣的古典文學翻譯者之一,她和其他像她一樣的翻譯者經常被批評在翻譯中注入了主觀性,這反映了人們對某些主觀性的根深蒂固的偏見。如果你真的和古典學者交談,他們會說這才是關鍵。正如Emily Wilson自己所說,一種語言中的任何語言表達都包含著多種真相,不是單一的,而是多種。根據解釋者的主觀性,不可能將所有這些真相完全編碼到另一種語言的另一個表達中。你必須選擇要講述哪種真相。

星標公眾號， 點這里 1. 點擊右上角 2. 點擊"設為星標" ← AI深度研究員 ? ← 設為星標

原文鏈接：https://www.youtube.com/watch?v=ZeTeHYHOtuw&t=1262s

來源：官方媒體/網絡新聞

排版：Atlas

編輯：深思

主編：圖靈