最近，一條「有頂流明星在澳門輸了 10 億」的傳聞火了，個(gè)中細(xì)節(jié)寫得繪聲繪色，網(wǎng)友們紛紛猜測，能抵押豪宅和私人飛機(jī)填補(bǔ)賭債的明星到底是誰。

　　 漩渦之中，多位明星被推上了風(fēng)口浪尖，杰威爾音樂、黃曉明本人下場辟謠。

　　 最終由公安網(wǎng)安部門查明，此事是有人用了 AI 造謠。

　　 ，突破了 AI 文生圖可控性問題，指哪改哪，但也意味著圖文并茂的以假亂真在使用上的門檻已經(jīng)極低。

　　 太陽底下沒有新鮮事，生成式 AI 的本質(zhì)決定了，AI 有概率生成看似合理但不正確的內(nèi)容。

　　 但當(dāng) AI 越來越能自圓其說，越來越多的用戶將 AI 生成的答案奉為圭臬，越來越多的有心人故意用 AI 編造事實(shí)，那么 AI 幻覺的影響，也就更加無法想象。

　　 本就存在很多空白和創(chuàng)造空間的時(shí)事歷史、社會熱點(diǎn)，已經(jīng)成了AI幻覺的重災(zāi)區(qū) 。

　　 AI 拿捏文筆和故事，但容易編造歷史

　　 AI 容易產(chǎn)生幻覺，是一個(gè)客觀事實(shí)。 文筆出眾的 DeepSeek，同時(shí)也有著高幻覺率。

　　 根據(jù) Vectara HHEM 的 AI 幻覺測試，DeepSeek-R1 的幻覺率達(dá)到 14.3%，遠(yuǎn)高于 DeepSeek-V3 的 3.9%。

　　 當(dāng)我讓 DeepSeek-R1 以三國真實(shí)的歷史背景寫故事時(shí)，發(fā)現(xiàn)它的文筆和情節(jié)設(shè)計(jì)得不錯(cuò)，但很容易出現(xiàn)時(shí)間點(diǎn)的錯(cuò)誤。

　　 一個(gè)例子是，DeepSeek-R1 寫的魏文帝曹丕臨死前的場景，提到曹丕死時(shí)是「建安二十五年冬」，然而，曹丕在黃初七年（226 年）去世，建安二十五年（220 年）是曹操逝世和曹丕稱帝的年份。

　　 文中提到的「十五歲那年......銅雀臺大宴群臣」也是錯(cuò)的，曹丕 15 歲時(shí)是建安七年（202 年），司馬懿在曹操手下?lián)挝膶W(xué)掾是建安十三年（208 年），鄴城銅雀臺始建于建安十五年（210 年），前后差了好幾年，所以不可能發(fā)生這樣一幅畫面。

　　 同樣的問題，出現(xiàn)在 DeepSeek 寫蜀國將領(lǐng)姜維的時(shí)候。這個(gè)故事的背景是成都之亂，發(fā)生在 264 年，姜維在 228 年投奔蜀國，成為諸葛亮的部下，但文中提到「二十七年前」，暗示 237 年姜維還在魏國，顯然是不對的。

　　 更離譜的是，當(dāng)我讓 DeepSeek 幫我想象，在烏孫生活了半個(gè)世紀(jì)、70 歲返回長安兩年后就病逝的西漢和親公主劉解憂，可能會留下什么遺言，雖然奏疏寫得情真意切，但它居然提到了東漢末年的蔡文姬，不符合歷史順序。

　　 我這般咬文嚼字，確實(shí)有些為難 AI。為什么大模型有幻覺呢？這是生成式 AI 的預(yù)測機(jī)制決定的。大模型不是數(shù)據(jù)庫，它們學(xué)習(xí)的是語言模式和概率分布，而非明確存儲事實(shí)，預(yù)測「下一個(gè)詞最可能是什么」，而不是查詢「這個(gè)事實(shí)是否正確」，它們也并不理解，輸出的信息是否是真實(shí)的。

　　 而在創(chuàng)意寫作時(shí)，模型被激勵發(fā)揮創(chuàng)造性，為了讓故事流暢，模型會主動「填補(bǔ)空白」，在歷史記錄不足的地方創(chuàng)造場景和對話，不會明確區(qū)分「我確定知道的歷史事實(shí)」和「為了故事合理而假設(shè)的情節(jié)」，又增加了出錯(cuò)風(fēng)險(xiǎn)。

　　 AI 出錯(cuò)很正常，但被有心人利用，就是另一回事了。歷史博主@知北遊就遇到過這樣的糟心事，一個(gè)網(wǎng)友發(fā)給她 AI 編的文獻(xiàn)資料，行文風(fēng)格符合當(dāng)時(shí)的年代，直到她發(fā)現(xiàn)時(shí)間人事對不上，并動用線下的人脈去驗(yàn)證，才肯定都是偽造的。

　　 圖片來自：豆瓣@知北遊

　　 每個(gè)人物的一生，都是歷史的一部分。然而，一種使用 AI 的方式，已經(jīng)打破了基本的底線。每當(dāng)明星過世，會出現(xiàn)很多的紀(jì)念文章回顧他們的職業(yè)生涯，但其中不乏用 AI 渾水摸魚的。

　　 比如寫方大同的這篇，行文一股 DeepSeek 味，「最后一條微博」的內(nèi)容明顯是和現(xiàn)實(shí)不符的事實(shí)錯(cuò)誤，文末甚至明目張膽地提及，參考了材料，但進(jìn)行了文學(xué)化改編，揣摩了人物的心理活動。

　　 互聯(lián)網(wǎng)是有記憶的，更早之前，一篇自稱「梁文鋒」的知乎回應(yīng)，也疑似 DeepSeek 寫就。2 月 6 日，DeepSeek 團(tuán)隊(duì)出來打假，表示官方賬號只有三個(gè)，微信公眾號、小紅書、X（Twitter），其他以 DeepSeek 或者相關(guān)負(fù)責(zé)人名義發(fā)布信息的，都是仿冒賬號。

　　怎么治理惡意傳播不實(shí)信息的 AI 生成內(nèi)容，已經(jīng)成了微博等平臺的新問題。

　　 然而，可以想象，以后產(chǎn)出這類信息的速度只會越來越快，越來越多的營銷號抱上 AI 的大腿張口就來，同時(shí)，辨別的成本也會變得越來越高，因?yàn)槲覀儾豢赡茉诿總€(gè)領(lǐng)域都是專業(yè)人士，總有一款虛假信息適合你。

　　 AI 的答案不等于知識，追溯源頭的事實(shí)核查成了剛需

　　 DeepSeek 的爆火，真正地讓很多用戶知道和用上了生成式 AI，同時(shí)出現(xiàn)了一個(gè)奇怪的現(xiàn)象：認(rèn)為 AI 說的就是對的，熱搜上隔三差五地出現(xiàn)以 DeepSeek 為主語的熱搜，替代了從前的「專家說」。

　　 大模型給出的信息不等同于知識，輕信 AI、將 AI 作為權(quán)威的結(jié)果是，不走心的人類容易上當(dāng)受騙。

　　 最近就有一個(gè)現(xiàn)身說法的例子，上海譯文出版社的陀思妥耶夫斯基精選集，推廣文案里引用了「魯迅」的評價(jià)，但這句話并不是魯迅說的。博主@斯文稗類查證了一番，雖然沒有原始出處，但一個(gè)模擬魯迅的文心智能體的回答里，提到了這一句。

　　 圖片來自：微博@斯文稗類

　　 幽默的事情發(fā)生了，意識到問題后，引用了虛假評價(jià)的營銷推文，把「魯迅說」編輯成了「有人說」。

　　 然而，以訛傳訛，傳的人多了，假的也就成真的了。這條所謂的「名言」已經(jīng)污染了互聯(lián)網(wǎng)，去問 AI 搜索，AI 搜索認(rèn)為是魯迅說的。

　　 如果虛假信息是有意為之的，那么危害就更加微妙。 追蹤新聞網(wǎng)站可靠性的 NewsGuard，發(fā)現(xiàn)了一種引導(dǎo)輿論的新方式： 通過 大量虛假信息滲透 AI 模 型的檢索數(shù) 據(jù)， 從而影響這些模型對特定話題的回應(yīng)。他們 調(diào)查的一起事件中，AI 引用錯(cuò)誤信息的概率高達(dá) 33% 。

　　這也說明，雖然加了聯(lián)網(wǎng)搜索之后，可以降低 AI 的幻覺，但也并不是絕對的。

　　 聯(lián)網(wǎng)搜索可以讓 AI 獲取實(shí)時(shí)信息，克服知識截止時(shí)間的局限，對于模型訓(xùn)練數(shù)據(jù)中罕見的主題，也能獲取更準(zhǔn)確的信息，但它也引入了新的問題，如果搜索到的信息本身就是錯(cuò)誤的，AI 可能會放大這些錯(cuò)誤，并且難以充分評估檢索內(nèi)容的可靠性。

　　 AI 固然能提高效率，但查找資料這件事，反而應(yīng)該變得更謹(jǐn)慎。我們需要更在意，某篇文章是誰寫的，信息的最早出處是哪里。

　　 更值得警惕的，是 AI 改變了獲得情緒價(jià)值的方式

　　 AI 只是工具，它所導(dǎo)致的問題，根源在于人類自己。生成式 AI 之前，胡編亂造的信息也并不少， AI 起到的作用是，讓真假參半的內(nèi)容生產(chǎn)得更快、成本更低，甚至行文更加有模有樣，質(zhì)量高于很多營銷號內(nèi)容的下限。

　　 AI 幻覺，反過來看便是 AI 的創(chuàng)造力。或者，我們可以將 AI 幻覺理解為「有邏輯的合理補(bǔ)白」。 它 的幻覺內(nèi)容，通常符合語言、邏輯、知識的一般結(jié)構(gòu)，基于訓(xùn)練數(shù)據(jù)分布，填補(bǔ)了信息空白處的「最可能內(nèi)容」 。

　　 這不禁讓我聯(lián)想，歷史有時(shí)候比想象的還荒謬、還沒有邏輯，不能以常理揣度，鐘會為什么反了，曹丕為什么學(xué)驢叫，爾朱榮怎么會被元子攸刺殺了......AI 的補(bǔ)白，或許就是某種平行時(shí)空的可能性、某種歷史的如果。

　　 有時(shí)候，我們閱讀文章和故事，不是為了汲取信息，而是為了獲得情緒價(jià)值。AI 就能很好地承擔(dān)這個(gè)角色，彌補(bǔ)真實(shí)歷史的遺憾，以及我們內(nèi)心的「意難平」。就像一位教授所說，「歷史的盡頭就是文學(xué)的開始」。

　　 我曾讓 DeepSeek 模仿李白的風(fēng)格，給杜甫的《天末懷李白》回一首詩。

　　 我也曾讓 DeepSeek 嘗試想象，如果元稹沒有死在 831 年的武昌任上，而是和白居易在洛陽養(yǎng)老，他們會怎樣以詩相和。

　　 那些用 AI 造假明星生平和時(shí)事熱點(diǎn)的內(nèi)容，本質(zhì)也是用情緒挑動讀者的神經(jīng)。

　　 AI 提供答案的即時(shí)性、吐出各種文體的創(chuàng)造力，總讓人著迷。它是很多人的焦慮來源，卻也是方便快捷的告慰渠道。這也提醒著我們，警惕一個(gè)變本加厲的「后真相時(shí)代」。

　　 「后真相」指的是，客觀事實(shí)在塑造公眾輿論方面的影響力，反而低于訴諸情感和個(gè)人信仰的內(nèi)容。它被《牛津詞典》評為 2016 年年度詞匯，至今依然適用，甚至變得更加準(zhǔn)確——AI 內(nèi)容寫得出彩，就存在被傳播的可能性，真實(shí)與否反而顯得不重要了。

　　 當(dāng) AI 可以用更快的速度制造不限量的內(nèi)容，更輕松，更無痛，更真假難辨，更容易讓人高度依賴單一的信息獲取方式，比任何的造假信息更值得我們警惕。但這并不是 AI 的問題，容易失真的鏡子里，照見的還是人類對于情緒價(jià)值的渴望。