小心AI一本正經胡說！

聽筒Tech（tingtongtech）原創

文|小 聽

編|饒 言

盡管AI已經火爆全球，但依然有不少人對它的使用存在置疑。

曉姐是一名文字工作者，自大模型推出伊始，她便嘗試借助AI工具寫作，但自始至終，她都無法相信AI。

“大模型剛推出的時候，大家都知道它‘資料更新不及時’，后來，隨著應用不斷升級，我也習慣了用大模型，但仍會對它生成的內容持遲疑態度。尤其大模型給出的數據和時間，幾乎很少標注信息來源和出處，這點我必須要做一番考證。”

在曉姐看來，大模型的行文方式和生成作品，“更像結論和觀點。”簡單來說，大模型給出的是邏輯和結論，但寫文章和做研究，只有遠遠是不夠的，“我們講究每一句發言是有跡可循，只有被敲打和反復考證過的傳播，才有價值。”

曉姐遇到的情況，并不是偶發。近期，越來越多的博主在社交平臺發出警示，告誡網友“警惕AI幻覺”，不少博主指出，AI的強邏輯，讓網友產生幻覺，認為“AI完全正確”，但實際上，不少跡象表明，AI經常出現“一本正經胡說”的現象。

事實上，Vectara公司聯合創始人阿姆爾·阿瓦達拉表示，在訓練過程中，AI模型會壓縮數萬億個單詞間的關系，隨后通過龐大的網絡模型重新展開這些信息。盡管這些模型能夠重構出接近98%的訓練內容，但剩下2%內容卻會“誤入歧途”，生成不準確或虛假信息。

Vectara平臺最新發布的數據還顯示，目前市場上AI大模型，均有幻覺率，即便是OpenAI-o3，也有0.8%的幻覺率；目前市場大熱的DeepSeek-V3，幻覺率達到3.9%。而在更早之前，這一幻覺率甚至高達30%。

圖：市場主流大模型幻覺率（截止2025年1月31日）

來源：網絡

這就意味著，至少在目前，AI依然無法完全信任。不少業內人士亦對《聽筒Tech（ID：tingtongtech）》表示，在專業的領域，建議警惕使用AI，“我們可以借助AI來輔助我們的工作，而不是依賴AI。”

“AI很強大，但我不怎么用”

曉姐是在朋友安利下開始使用AI。
十年文字工作者的曉姐，日常資料梳理的工作量非常大。前兩年，大模型剛興起的時候，曉姐就在朋友的建議下成為最早使用大模型的那一批人。
“快速響應，內容強大，邏輯也足夠清晰。”這是曉姐對大模型的直觀感受。一度，她熱衷使用大模型，每逢寫作都要問“模”。
但很快，曉姐發現，大模型不能滿足她的寫作需求，甚至讓其創作也不夠“絲滑”。
實際上，大模型剛推出的時候，有的資料確實更新不及時，會誤導曉姐的文字創作。再者，曉姐發現，大模型給出的內容通常是結論和觀點，雖然邏輯性很強，但一旦出現細節和事實錯誤，就會給曉姐的工作帶來致命的打擊。
“比如，使用大模型的人會發現，模型生成內容的數據和時間，幾乎不標注信息來源和出處，在寫作過程中，我還發現了有名言出處錯誤的事實，所以，我現在對AI持遲疑態度。”
高校任職的林哥也一度無法完全擁抱AI。
“如今AI已經非常強悍了，但我還是在堅持手工敲字，這與正確錯誤無關，完全是個人愛好。”

林哥在批閱學生的作業和論文的時候發現，“有些學生的內容一看就是AI生成，引用也‘張冠李戴’，甚至出現憑空捏造的‘AI幻覺’，我改了一部分就堅持不下去，AI增加了我的工作量。”
“這并不是一個好的引導和風向。當你越來越認為本就應該如此的時候，那么你就失去了對文字和內容的審美鑒別，也失去了對事實的判斷和認識能力。”林哥表示。

圖：社交平臺關于“AI幻覺”的討論

來源：小紅書，《聽筒Tech》截圖

95后家裝設計師小屈告訴《聽筒Tech》，盡管自己是網絡擁護者，但也很少使用AI繪圖。

其實，在大模型剛出來的時候，小屈是興奮的，“畫圖是非常累的，客戶的需求也非常多，現在的家裝行業，通常有了初步的設計圖紙，客戶才會繳納意向金。我每天的工作不是跟客戶溝通設計需求，就是在畫圖。且畫的圖都不一定會被客戶采用，所以工作量非常大。”

AI繪圖出現后，小屈抱著試試的心理去AI作圖。不過，在嘗試了幾次后，小屈放棄了作圖。目前，他只是用AI編輯一些文案。

“主要問題在于不夠精準，每個空間不能統一設計手法。”在小屈看來，AI繪圖只能作為輔助，或者作為早期工作意向確認工具。

同樣的問題，也發生在視頻生成領域。

在AI軟件席卷行業的最早期，影視就被認為是被沖擊的巨大行業。后來，隨著細分領域模型的不斷推出和升級，影視行業從業者郭哥十分焦慮。他曾和《聽筒Tech》交流，要主動學習AI技術，避免在行業的內卷中被淘汰。

但郭哥發現，以全網都在吹的某平臺為例，生成的視頻有幾個明顯的缺點，比如圖人和物體之間存在交互失靈、物理引擎失效、對象突然冒出等使視頻產生“鬼畜感”。

“小心AI一本正經胡說”

在曉姐和小屈看來，目前不敢將專業的工作交給AI來做，“或許有一天我會信任它，但不是現在。”

關于“我為什么不用AI”，在社交平臺，網友也眾說紛紜。有人表示，“我完全不覺得AI生成的短片有趣，因為創作這個東西的不知道痛楚為何物”、“有沒有人感覺越用AI越蠢，這學期用AI輔寫，被導師吐槽了幾遍文章寫作水平不行”、“越來越不會內容輸出了”......

尤其是，“AI幻覺”一詞最近被提及得越來越多。

一位博主表示，“小心AI一本正經的‘胡說’。”實際上，AI“強邏輯”幻覺的背后，存在“一本正經胡說”的隱患，且不是自己的專業和領域根本判斷不了。

該博主表示，尤其是AI在回應一些嚴肅知識性問題時，會存在憑空編造事實、杜撰不存在文獻的可怕現狀。

科普作家河森堡表示，自己讓某大模型介紹一下“青銅利簋”，它就開始一本正經地胡扯，說這件青銅器是商王帝乙為祭祀自己父親所鑄，還詳述了其內壁的銘文。

不過，河森堡曾經在博物館看見過“利簋”這件文物，此物是西周貴族為了紀念武王推翻商朝而鑄，銘文和祭祀也與商王毫無關系。

實際上，河森堡還繼續追問AI，這些資料都是從哪看來的，AI列出了一大堆文獻，但他發現，文獻和作者介紹都是捏造的。

另一位正在創業的科技博主，也在社交平臺呼吁大家“警惕AI幻覺”、“希望大家使用AI時，甄別它的謊言”。

該博主表示，“體驗了DeepSeek，一開始看到它如此強大的推理能力，特別是它在自我思考的時候展現出來的完整思維鏈，確實非常驚艷。”

但當自己在問怎樣看待“創新是一種涌現”這個話題時發現，盡管大模型給出了一系列層次和角度的分析，但博主卻總感覺“有一絲絲的不對”。

于是，她認認真真地對內容做了核對，發現這些看似正確的回答卻有很多問題。比如，AI在“編造數據謊言”。實際上，針對DeepSeek表示的“70%的創新出現在跨學科領域”，該博主查了很多文獻都沒有找到這個信息源頭和實驗數據。

“如果這種捏造廣泛流傳，不知有多可怕。”

甚至，如果AI能虛構文本、照片乃至視頻的一切內容，并且令其彼此之間相互印證和支撐，其制造幻覺的強度與編撰故事不可同日而語。

“除非你親自見到并本人求證，或者到現場實地考察，否則你會被AI創造出的假象玩得死死的。”一位業內人士這樣擔憂。

然而，在現實社會中，有意愿和有能力親自驗證事實的人并不多。也就是說，稍一個不留神，你可能就會被AI污染。

別焦慮，現在AI還無法取代你我

實際上，AI幻覺已經給人們的工作和現實生活帶來了巨大影響。

世界經濟論壇發布的《2025年全球風險報告》顯示，錯誤和虛假信息是2025年全球面臨的五大風險之一。2023年，美國律師史蒂文·施瓦茨也曾因“輕信”ChatGPT，在法庭文件中引用了并不存在的法律案例。而在醫學領域，AI幻覺提供的錯誤診斷和治療建議，可能會危及患者生命。

從底層技術來看，AI幻覺的產生，是必然的。

AI企業落地師石云升便告訴《聽筒Tech》，“據我所知，目前AI底層架構師無法解決幻覺問題。因為它每一個字符都根據概率計算，這就導致它輸出的內容會有幻覺，這是無解的。”

不過，石云升指出，在真實場景中，用戶可以通過反復溝通來幫助AI更精準的回答問題。畢竟，AI給出的答案是否采納，最終還是由人來決定。

“降低AI幻覺的問題可以通過’預訓練、微調和推理‘三個層級來解決。”石云升指出，例如，在公司負責AI客服時，用戶主要通過“提示詞+知識庫”來防止AI輸出幻覺，“如果公司有懂得微調的技術人員，并且擁有優質的企業數據，微調的效果會更加理想。”

不過，石云升坦言，微調通常是針對企業專屬的大模型進行的，“一般我們會在通用大模型回復效果特別不好的情況才會考慮微調。”

比如，在法律領域，通用大模型訓練預料數量太少，質量太差，企業內部有很多更優質的法律數據，這種情況就可以考慮微調一個專屬公司的法律大模型，微調后出現幻覺的概率就小很多。

石云升指出，還有一種手法是使用“RAG增強檢索”，“在提問的時候，先從知識庫里查詢資料，然后給到大模型，如果用戶的問題在知識庫里有資料，那基本也不會出現AI幻覺。”

當然，石云升也表示，對于普通用戶來說，AI的幻覺率，目前沒有特別有效的解決辦法，“普通用戶很難接觸到預訓練和微調技術，因此只能在AI推理階段提供更詳細的信息。這也是為什么在AI剛剛興起時，行業內很多人開始教授如何編寫‘提示詞’并建立自己的知識庫。”

也即是說，至少在現階段，AI還無法真正取代你我。

此前，張雪峰“回應DeepSeek會讓自己失業”這一話題時曾這樣解釋，“第一，我們這個行當不止是打破信息差，還是在提供情緒價值；第二，大模型只會有一些公開信息，但是你要知道有些信息網上是不公開的。”

那些“網上非公開的”、“對情感的理解”，以及“深度思考引發的創新”，或許是現階段“你我”存在的價值和意義所在。

“警惕AI幻覺，這是一種呼吁，也是一種社會職責。”顯然，這不是“曉姐”一個人所希冀的事。

（文中曉姐、林哥、小屈、郭哥均為化名。）

（頭圖和部分圖片由AI生成。）

（聲明：本文僅作為信息交流，不構成任何投資參考建議。）

—END—你