01

人工智能洶涌澎湃，使用者如過江之鯽撲通撲通跳進這條大河暢游，感受新型科技潮流。問題來了，AI是個「包打聽」，無所不能有求必應，無論什么問題來者不拒，對與不對不說，你只要敢問它就敢回答。

AI的回答總是攜帶著強大的信息流，這些信息流構成的語言單位相互之間有強烈的意義接續性，總能讓提問者在面對陌生問題時獲得足夠信服的回應。這與我們面對一個「路人」時所感受到的「有限」迥然不同，就好比一個迷失在荒漠中的人頭頂升起一顆永不消失的啟明星，指引著生活的方向。

然而使用者很快就會發現AI在提供知識性問題時那種檢索信息和萃取方案的自信，經常帶來荒謬的結果。

比如你問他一個名氣不太大的名人的信息，它的虛構能力就會出現，經常把與之無關的人安在他的家庭里，張冠李戴雞鴨同籠的現象層出不窮。最可笑的是，當你指出這個回答是錯誤的時，AI會繼續搜羅另一個錯誤的答案提供給你。

它不在乎答案的對錯與真實性，但其檢索信息，解析變量，輸出答案的工作方式和工作熱情永不消退。

大語言模型沒有情緒，它做對了不會有什么成就感，做錯了更不可能表示尷尬，它就是一個接受提問，輸出信息的機器。

我們必須承認，AI在許多時候能做出非常出色的反應，提供有效的信息和幫助，它的顛覆性的工作方式和巨大潛力吸引了無數人。但同時，也經常鬧出笑話，給出風馬牛不相及的答案。這背后其實指向同一個熱點現象：AI 幻覺。

02

所謂AI 幻覺指的就是人工智能模型會一本正經地胡說八道的情況，很多人在使用AI初期就發現了這一現象。也就是說，AI 給出的回答表面合理連貫，卻和事實不符，要么偏離了問題本身，要么包含了看似可信實則子虛烏有的信息。

在一個權威測試中，有的AI模型的幻覺率據稱高達 14.3%，現在公認的AI平均錯誤率在13%左右，這意味著你問一百個問題，會得到十幾個基于計算基礎上的胡說八道。

大模型生成內容的底層邏輯是基于概率，只負責形式上推理，不對信息的真實性負責。可以說，幻覺是大模型「誠實度」上的先天缺陷。

這就提出一個對使用者而言非常嚴肅的問題，對AI的回答的可信度與接受度無法確定。如果不能百分百準確，尤其是涉及到醫療詢問和一些與專業和實踐工作相關的問題時，到底能不能利用AI作為輔助？這不禁讓我想起一位利用搜索引擎給自己治病繼而帶來滅頂之災的舊新聞。

03

使用者如何能有效利用AI又能判斷真偽走出AI幻覺呢？我覺得首先得從認知根源上搞清楚幾個最底層的邏輯。

第一，值得信賴的人工智能應該明確引用來源。比如ChatGPT在搜索得出的答案中經常備注信息來源。這時候對其來源的檢驗既方便也必要。來自權威網站，標注了作者等信息，往往相對有效。

但這還不足以支撐信息的正確與否。不要把AI當老師，要把AI當實習生，追問「證據在哪？」「數據來源？」「有無反例？」。重要問題，三連擊。

第二，為了進一步強化信息的有效性，還需使用可靠來源的數據對人工智能生成的數據進行交叉檢查。這就好比歷史考據和考古工作的「發現」和「解釋」是否有效一樣，不能由單一來源而必須是兩個以上的來源來支撐。

第三，使用者應該努力搞清所使用的人工智能工具的基本工作原理。人工智能是一個建立在強大的檢索信息的基礎上，又對這些海量信息變量進行有效的分析與組合，繼而在符號的相互關系中尋求最佳組合的一種計算工具。

它只會根據上下文預測下一個最有可能出現的詞。比如你問：「《紅樓夢》的作者是誰？」它會說「曹雪芹」。你問：「《紅樓夢》的續集是誰寫的？」它不知道，但會憑「紅樓夢+續集+清朝+作家」的概率組合，隨便冒出一個「周汝昌」或者「脂硯齋」之類的名字，好像真是那么回事。

也就是說，它追求的是「既有」的信息鏈接的概率，只是根據統計概率在「模仿人說話」的程序。正如哲學家休謨對「必然性」的否定，因果關系并不是必然的，就此而言，哪怕接近百分百的概率也不能在實踐中導致必然的正確結果。

就此而言，使用者只能根據既有經驗對AI輸出的信息做大致判斷，但無法做出結論。

第四，要注意發現人工智能系統中的潛在偏見。人工智能是對流通信息的大量單元之間的語言關系的梳理，由于綜羅的信息海量，這就難免帶來偏差。這時候，避免錯誤的方法是在要求系統為你輸出答案之前在您的提問中包含相關事實。

這就對使用者提出了較高的提問要求，最好避免在一無所知的領域去尋求人工智能的幫助。很可能你輸入的信息就存在偏差和錯誤，得出的結論自然十分危險。

04

信AI之前，先信自己的腦子，人類的腦子，依然是最好的「防幻裝置」。

AI幻覺不是一場「科技災難」，而是一面「人類鏡子」。它反映了我們多么容易被「自信的胡說八道」打動啊。

最后我請你記住三句話：

• AI會瞎說，但從不臉紅；
• 胡說不是故障，是它的本性；
• 人類的腦子，依然是最好的「防幻裝置」。

如果你能記住這三句話，那恭喜你，你就已經成功地從「AI幻覺」里走出來了。

AI固然厲害，它只是手段，人才是目的。未來的世界，AI負責天馬行空，我們負責去偽存真！

AI會帶來更多可能性，從藝術和創新角度而言，這是人類之福，只不過對「更多可能性」的利用，需要人的理性判斷和實踐檢驗。