兩年前，杰巴·金（Jebar King）的祖母去世了。作為家族公認(rèn)的“秀才”，寫訃聞的擔(dān)子壓在了他的肩上。可31歲的他從未寫過(guò)這種文章，親人過(guò)世的傷痛也讓他難以下筆。用他自己的話說(shuō)，“當(dāng)時(shí)真就是覺(jué)得自己做不到。”

恰巧那段時(shí)間，他開始使用OpenAI的人工智能聊天工具ChatGPT，主要是搗鼓點(diǎn)購(gòu)物清單，讓它幫忙做做預(yù)算什么的。它能幫忙寫訃聞嗎？金開始給ChatGPT發(fā)送一些祖母的人生經(jīng)歷——她在護(hù)士的崗位上干到退休、熱愛(ài)保齡球、兒孫滿堂等等——并要求它據(jù)此寫一篇訃告。

就這樣，AI生成的文字為這份生命中最私密的書寫勾勒了框架。金對(duì)個(gè)別詞句稍加修改，增加了一些細(xì)節(jié)，并在母親的幫助下最后做了一次修正。總的來(lái)說(shuō)，他認(rèn)為ChatGPT選詞貼切，成功地反映了他對(duì)祖母的哀思。金表示，“我心里清楚，這篇悼文詳實(shí)地記載了祖母的生平，字里行間又流露著真情。至于它是否出自人工智能，這點(diǎn)并不重要。”

潛入日常交流的人工智能

可能已經(jīng)有人注意到，生成式人工智能不僅極大地改變了人們交流的方式，也改變了人們對(duì)交流本身的態(tài)度。一開始，人們只是以“淺顯無(wú)害”的方式使用AI，例如發(fā)短信或郵件時(shí)輸入框出現(xiàn)的預(yù)測(cè)相關(guān)詞。但自從2022年末ChatGPT面向大眾開放以后，科技的應(yīng)用范圍井噴。

隨著普通人能接觸到的大語(yǔ)言模型聊天助手?jǐn)?shù)量激增，用戶開始更多地探索AI助力寫作的可能。寫郵件、推薦信時(shí)都用得上AI的幫助，甚至網(wǎng)上聊天的回復(fù)也找GPT老師出謀劃策。當(dāng)然，這種現(xiàn)象也會(huì)反噬：如果一篇文本讀起來(lái)生硬不自然、給人以不真誠(chéng)的印象，接收者往往第一反應(yīng)就是懷疑作者使用了AI工具。

? 圖源：apnewsIphone預(yù)測(cè)文本功能展示。圖源：support.apple.com

現(xiàn)在，AI生成的文本開始出現(xiàn)在極其私密的使用情境中。有人用它撰寫婚禮誓言、節(jié)哀挽詞、分手短信、感謝信，當(dāng)然還有訃告詞。將AI用于需要更多情感投注的交流場(chǎng)合，這種行為本身具有一定風(fēng)險(xiǎn)，一旦被對(duì)方發(fā)現(xiàn)，就很可能被視為一種冒犯，或者極度的不尊重。即便如此，還有用戶表示說(shuō)，他們使用AI本意不是要憑空生產(chǎn)情感，而是讓它為人們提供表達(dá)情感的模板。

拿不準(zhǔn)語(yǔ)氣？AI為你把把關(guān)

曾被要求上臺(tái)演講或安慰過(guò)朋友的人都能作證，構(gòu)思一段恰到好處的話語(yǔ)極其困難，尤其是對(duì)新手而言。這種交流總要具體情況具體分析，又需要激起聆聽(tīng)對(duì)象的共鳴，須知善意與冒犯只有一線之隔，要拿捏好分寸壓力很大。

此時(shí)的AI工具恰恰能充當(dāng)“把關(guān)”的角色，為陷入社交困境的旅人指一條明路，為情感豐沛卻拙于表達(dá)的人提供參照。這或許也是它廣受歡迎的原因。戴維·馬克維茨（David Markowitz）是密歇根州立大學(xué)新聞系的副教授，他認(rèn)為AI擅長(zhǎng)對(duì)個(gè)人直覺(jué)進(jìn)行理性驗(yàn)證：“如果你想寫一封信為自己的冒犯行為致歉，可以把道歉信寫好后丟給ChatGPT或者Claude，再給出提示詞，例如‘我想以真摯溫情的口吻進(jìn)行表述，這樣說(shuō)可以嗎？這么寫與我的目標(biāo)相符嗎？’而大語(yǔ)言模型可能回復(fù)：‘稍微有點(diǎn)生硬，根據(jù)你的要求，我給出以下幾條改進(jìn)的建議’，這樣一來(lái)，你的文本也就更精進(jìn)了。“

當(dāng)然，生成式人工智能本身并沒(méi)有體驗(yàn)過(guò)情感。它們是從大量的文學(xué)作品、心理研究報(bào)告和個(gè)人寫作信息中習(xí)得“情感”的相關(guān)概念，如同人類學(xué)家透過(guò)古籍殘卷揣摩消逝的文明。馬克維茨解釋道：“這個(gè)過(guò)程有點(diǎn)像在不親身體驗(yàn)的情況下學(xué)習(xí)一種文化，通過(guò)觀察行為模式來(lái)理解某種情感范式，而不是第一視角體驗(yàn)。”誠(chéng)然，這種技術(shù)自身不能理解感情，但它可以比對(duì)你的文本與它在文本庫(kù)中習(xí)得的人們表達(dá)情感的普遍方式。

生活在費(fèi)城的凱蒂·霍夫曼（Katie Hoffman）今年34歲，她不止一次地在處理微妙的交流時(shí)向ChatGPT尋求幫助。比方說(shuō)，霍夫曼曾用AI起草一封婉拒朋友婚禮邀請(qǐng)的信；還有一次，有人臨時(shí)爽約她的單身派對(duì)還想要回禮金，Hoffman和姐妹們讓AI根據(jù)這一情境生成了一段成熟得體的回復(fù)。“如何既表明立場(chǎng)又不傷情誼？AI能給我們一個(gè)好的表達(dá)框架。”

比起靠自己又是思前想后、又是過(guò)度解釋，最后發(fā)出一封前言不搭后語(yǔ)、無(wú)關(guān)細(xì)節(jié)過(guò)多的消息，霍夫曼發(fā)現(xiàn)，ChatGPT給出的草稿比她自己能想出的任何表達(dá)都簡(jiǎn)潔有力。她表示自己現(xiàn)在已經(jīng)養(yǎng)成習(xí)慣，在發(fā)送短信或郵件前都會(huì)使用AI潤(rùn)色一番，而她的朋友們至今無(wú)一人察覺(jué)。

諷刺的是，根據(jù)康奈爾大學(xué)信息科學(xué)教授莫爾·納曼（Mor Naaman）介紹，聊天機(jī)器人的回復(fù)表現(xiàn)越差、越需要人工二次編輯，作者越能從中“接管”對(duì)內(nèi)容的主體性。沒(méi)有對(duì)細(xì)枝末節(jié)的修改，你會(huì)越看越覺(jué)得文本并非出于自己之手。納曼教授還說(shuō)，“這樣做也會(huì)帶來(lái)一些影響：會(huì)感覺(jué)自己很虛偽，總像在作弊。”

? 仿冒者綜合征（Impostor Syndrome）是一種心理現(xiàn)象，指?jìng)€(gè)體在取得成就后，仍無(wú)法認(rèn)可自己的能力，認(rèn)為成功是偶然的，擔(dān)心被他人揭穿真相，從而陷入持續(xù)的自我懷疑和焦慮中。如《了不起的蓋茨比》中，主人公蓋茨比通過(guò)偽裝和財(cái)富積累試圖融入上流社會(huì)，但始終無(wú)法擺脫內(nèi)心的不安和“冒牌感”，這正是該綜合征的典型寫照。圖片設(shè)計(jì)：BrennaOriá

不過(guò)，這一點(diǎn)并不妨礙許多人在情感交流中嘗試使用AI。26歲的吉安娜·托雷斯（Gianna Torres）把畢業(yè)派對(duì)的感謝信撰寫工作“外包”給了ChatGPT。“我知道大概該說(shuō)什么，但要確切地用文字表達(dá)出來(lái)，對(duì)我來(lái)說(shuō)特別費(fèi)勁。”這位居住在費(fèi)城的職業(yè)治療師為自己辯解，“我不希望別人覺(jué)得我寫的東西愚蠢荒唐，或者不懂感恩。“她提示AI生成一段發(fā)自肺腑的文字，表達(dá)對(duì)于大家和她共度這個(gè)里程碑時(shí)刻的感激。ChatGPT洋洋灑灑地生成了一篇字字珠璣的長(zhǎng)信，于是她要求了一份更簡(jiǎn)短的版本，并將結(jié)果逐字抄寫到每張卡片上。

“人們老說(shuō)，‘ChatGPT沒(méi)有感情’，”托雷斯說(shuō)，“這話不假，但從它寫的文字，我能感覺(jué)到溫度。”

托雷斯的親朋好友最初也對(duì)她的AI小助手的存在一無(wú)所知，直到她的一個(gè)表親看到了她在Tiktok上的分享視頻。那個(gè)表親非常驚訝。托雷斯告訴表親，借助于AI不代表自己想表達(dá)的情感不真實(shí)，她只是需要一點(diǎn)助力（“a little nudge”）。

? “a little nudge” 小小助力。照片來(lái)自Unsplash，拍攝師Lucas van Oort

大眾的消極反饋

或許你認(rèn)為自己有能力一眼識(shí)破AI生成的文字。但研究表明，普通人很難判斷文字來(lái)源是人工還是AI[1]。當(dāng)你喂給ChatGPT足夠多的個(gè)人信息，它就能生成足夠有說(shuō)服力的文本。尤其是當(dāng)文段里包含“我”、“我的”（“I,” “me,” “myself,” or “my”）等字眼的時(shí)候，這是人類語(yǔ)言中最能展現(xiàn)誠(chéng)意（sincerity）的標(biāo)志詞匯之一。“這些字眼有助于暗示某種心理上的親密感，拉近人們與聊天對(duì)象的距離。”馬克維茨這么說(shuō)。

不過(guò)，如果收信人疑心“誠(chéng)意”被外包給了ChatGPT，他們通常會(huì)心生芥蒂。“一旦懷疑某段內(nèi)容由AI撰寫，作者的形象就會(huì)被打上不可信的標(biāo)簽，這樣的溝通也不易成功。”2024年夏天，谷歌用自己的AI媒介Gemini生成的奧運(yùn)會(huì)廣告就是活生生的例子：當(dāng)看到父親用AI幫自己的女兒給奧林匹克偶像寫信時(shí)，觀眾的好感大減。隨著這項(xiàng)技術(shù)的發(fā)展與普及，人們會(huì)越來(lái)越警惕那些看上去就不對(duì)勁或者過(guò)于精雕細(xì)琢的文本。

為什么人們?nèi)绱朔锤袑ⅰ罢\(chéng)意”外包給AI生成的行為？康奈爾大學(xué)信息科學(xué)副教授馬爾特·榮格（Malte Jung）對(duì)此的解釋是，這種負(fù)面情緒或許來(lái)源于大眾對(duì)人工智能技術(shù)整體持有的質(zhì)疑態(tài)度。“人們?nèi)詫?duì)人工智能相關(guān)技術(shù)持負(fù)面態(tài)度，并可能把這種態(tài)度延伸到使用者身上。”

? 根據(jù)2023年的皮尤研究中心（Pew Research Center）調(diào)查顯示，超過(guò)一半的美國(guó)人將人工智能視作一種隱患，而不是值得期待的科技創(chuàng)新[2]。信息來(lái)源：pewresearch.org

榮格教授認(rèn)為，人們主要質(zhì)疑的是AI生成的文章不夠真摯（genuine），不夠真切（authentic），更缺了那份赤誠(chéng)（sincere）。少了字斟句酌的掙扎，如此傳達(dá)出去的情感是否經(jīng)得起推敲？指尖輕點(diǎn)一套自動(dòng)化流程過(guò)后，人們還能記得自己的初衷嗎？

當(dāng)金在X上分享了自己使用ChatGPT撰寫祖母的訃告后，他收到了極度負(fù)面的回應(yīng)。這種打擊促使他向自己的母親坦白真相，好在母親不在意，還安慰他說(shuō)訃聞寫得很動(dòng)人。“人們的反應(yīng)確實(shí)讓我有點(diǎn)懷疑自己了，”他坦誠(chéng)地說(shuō)，“我從沒(méi)想過(guò)有什么不好的一件事，居然有這么多人反感，還把它描述得十惡不赦。”

在討論AI交流的道德倫理問(wèn)題時(shí)，人們的初衷在一定程度上確實(shí)應(yīng)當(dāng)?shù)玫娇紤]。畢竟，誰(shuí)還沒(méi)有為了找到精確的形容而絞盡腦汁的時(shí)候呢？想要顯得親切誠(chéng)懇，這種意圖本身就是一種積極的信號(hào)。“關(guān)鍵的問(wèn)題是人們花了多少心思，用多大的誠(chéng)意寫下這些內(nèi)容，可能與人們?nèi)绾胃兄獰o(wú)關(guān)。”榮格說(shuō)，“但當(dāng)你使用ChatGPT，不管你是否投入誠(chéng)意，人們還是會(huì)留下負(fù)面印象。”

話說(shuō)回來(lái)，隨著生成式AI的不斷滲透，有些人已經(jīng)放下了隔閡。

一種新態(tài)度

克里斯·哈哈爾（Chris Harihar）39歲，在紐約市從事公共管理工作。他想在妹妹婚禮的致辭中添一段兒時(shí)軼事，卻很難把故事絲滑插入自己的稿子。為此，他選擇求助于ChatGPT。他的做法是，先上傳當(dāng)前的致辭文本文件，再輸入自己想要插入的小故事，要求AI把這個(gè)故事和“終身相伴”聯(lián)系起來(lái)。“它有辦法給出一些我自己想不出來(lái)的連接點(diǎn)，合情合理把故事串起來(lái)了。”

哈哈爾是較早接觸AI的人群之一，他在工作和生活中都常常使用Claude和ChatGPT等AI工具。在他向家人坦白自己的操作時(shí)，大家并不感到意外。

哈哈爾甚至?xí)I工具運(yùn)用于育兒場(chǎng)景——回答自己4歲女兒充滿童真又刁鉆古怪的問(wèn)題。前不久，小朋友注意到人們的皮膚顏色不同，并對(duì)此產(chǎn)生好奇。哈哈爾要求ChatGPT給出“一則兒童友好的解釋”。當(dāng)看到AI給出的適合女兒年齡段、通俗易懂的黑色素相關(guān)科普時(shí)，哈哈爾深感意外——這種講解角度，他自己也不一定想得到。他倒不覺(jué)得向外界求助讓自己失去了一個(gè)親自教育孩子的機(jī)會(huì)。正相反，哈哈爾把這種技術(shù)看作另一種資源。

“從家長(zhǎng)的角度出發(fā)，帶孩子總有焦頭爛額的時(shí)候，”他坦言，“身邊有這種工具，可以隨時(shí)待命，幫你想一些很難解釋的回答，總是好的。”

?ChatGPT 03-mini復(fù)刻這段對(duì)話。

編譯后記：“論跡”還是“論心”？

祖母的訃聞應(yīng)該用ChatGPT寫嗎？本質(zhì)觸及表達(dá)倫理的核心困境：我們究竟該以行為結(jié)果還是創(chuàng)作動(dòng)機(jī)來(lái)評(píng)判情感的真摯性？

這其實(shí)算是古老的矛盾，只是在智能時(shí)代被技術(shù)放大。《綠皮書》中鋼琴家?guī)退緳C(jī)寫家書的橋段是電影的重要情節(jié)之一，兩個(gè)人的語(yǔ)言背后是不同的教育程度和認(rèn)知水平，但鴻溝的存在不妨礙他們真誠(chéng)交流、共同創(chuàng)作表達(dá)。收到書信的司機(jī)妻子介意丈夫代筆的行為嗎？她的態(tài)度表現(xiàn)在對(duì)書信的珍視和電影結(jié)尾對(duì)博士的感謝里。不過(guò)有了AI，以后的司機(jī)可能也不會(huì)和乘客有這樣生動(dòng)的交流了。

更深的焦慮可能來(lái)自信任體系的動(dòng)搖。當(dāng)技術(shù)能完美模擬真情實(shí)感，我們?cè)撊绾未_認(rèn)對(duì)方在對(duì)話框后真實(shí)存在？當(dāng)所有文字都可能經(jīng)過(guò)算法潤(rùn)色，我們?nèi)绾伪鎰e那些藏在句讀間的真心？或許比起人工智能情感寫作本身，人們恐懼和反感的是自己無(wú)法辨別文字出處（人類/人工智能）、失去掌控的現(xiàn)象。技術(shù)迷霧模糊了"我手寫我心"的傳統(tǒng)契約，AI寫作正在稀釋"字如其人"的古老默契。

美劇《人生切割術(shù)》里有句對(duì)話很適合用來(lái)總結(jié)這個(gè)現(xiàn)象：

“我怎么確定你說(shuō)的是真的？”

“你確定不了。你只能選擇是否相信我。”

當(dāng)然，從另一個(gè)視角看，語(yǔ)言本就是人類發(fā)明的第一代情感外骨骼。從結(jié)繩記事到ChatGPT，表達(dá)工具始終在進(jìn)化中重塑人心。真正關(guān)鍵的或許不是追問(wèn)文字是否從神經(jīng)元直接躍入稿紙，而是檢視創(chuàng)作過(guò)程是否經(jīng)歷心靈的淬煉——就像飛行器駕駛員仍需理解空氣動(dòng)力學(xué)，AI時(shí)代的情感表達(dá)者依然需要直面內(nèi)心的勇氣。畢竟人心從來(lái)隔肚皮，在腦機(jī)接口降臨之前，真誠(chéng)依然是種需要主動(dòng)暴露弱點(diǎn)的行為藝術(shù)。但有一點(diǎn)是確定的，在大腦解碼技術(shù)突破且普及之前，人將越來(lái)越難拿到別人“花心思”的證據(jù)，人與人之間的“猜疑成本”會(huì)越來(lái)越高。

文章來(lái)源：https://www.vox.com/even-better/397448/chatgpt-obituary-speech-writing-gemini-claude-deepseek

[1] M. Jakesch, J.T. Hancock, & M. Naaman, Human heuristics for AI-generated language are flawed, Proc. Natl. Acad. Sci. U.S.A. 120 (11) e2208839120, https://doi.org/10.1073/pnas.2208839120 (2023).

[2] https://www.pewresearch.org/short-reads/2023/08/28/growing-public-concern-about-the-role-of-artificial-intelligence-in-daily-life/

關(guān)于追問(wèn)nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問(wèn)為紐帶，深入探究人工智能與人類智能相互融合與促進(jìn)，不斷探索科學(xué)的邊界。如果您有進(jìn)一步想要討論的內(nèi)容，歡迎評(píng)論區(qū)留言，或后臺(tái)留言“社群”即可加入社群與我們互動(dòng)。

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元?jiǎng)?chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點(diǎn)，支持腦科學(xué)研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實(shí)驗(yàn)室、人工智能與精神健康前沿實(shí)驗(yàn)室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項(xiàng)目遍布?xì)W美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎(jiǎng)勵(lì)計(jì)劃、、等。