在社交媒體、朋友圈上，我們常常會(huì)看到一些 AI 回答的截圖。 這些截圖通常展示了一段有趣、機(jī)智甚至令人驚嘆，或者驚恐的對(duì)話，讓人覺(jué)得“現(xiàn)在的AI真了不得”！ 比如“震驚！ AI 支持人類滅絕計(jì)劃”“AI 承認(rèn) xx 有毒”“AI算出了養(yǎng)老保險(xiǎn)耗盡的時(shí)間”，等等——這些聳人聽聞的內(nèi)容，在社交媒體上迅速吸攬了一波熱度，評(píng)論區(qū)往往一片嘩然，有人高呼“AI 覺(jué)醒”，有人痛批“技術(shù)失控”。但這些內(nèi)容，很多都是虛假的 （參見(jiàn) 的例子）。

真相可能很簡(jiǎn)單：這些截圖只是被掐頭去尾的“表演”。就像魔術(shù)師不會(huì)揭秘道具機(jī)關(guān)，許多人也不會(huì)告訴你： AI 的每一句回答，都嚴(yán)重依賴提問(wèn)者的“引導(dǎo)”。

那些截圖往往只展示了 AI 的回答，卻忽略了對(duì)話的完整過(guò)程——尤其是用戶輸入的提示詞（prompt）和前后的上下文。如果我們只看到 AI 輸出的“精彩片段”，而不知道它是怎么得出這個(gè)答案的，就很容易被誤導(dǎo)，以為 AI 比實(shí)際更神奇，或者曲解它的本意。而這些，很可能被某些造謠者用來(lái)無(wú)中生有，煽風(fēng)點(diǎn)火。

因此，今天就和大家聊聊，為什么 AI 回答的截圖未必靠譜，以及我們?cè)撊绾握_看待這些 AI 生成的 內(nèi)容。（如果你對(duì)技術(shù)不那么感興趣，可以直接跳到第三部分“為什么截圖容易誤導(dǎo)？”看起）

AI 語(yǔ)言模型是怎么“思考”的？

AI 語(yǔ)言模型是基于生成式人工智能 （Generative AI） 設(shè)計(jì)的程序，能夠理解和生成類人文本。這些模型通過(guò)訓(xùn)練大量文本數(shù)據(jù)，學(xué)習(xí)語(yǔ)言的統(tǒng)計(jì)模式，預(yù)測(cè)給定提示詞 （prompt） 后的下一個(gè)最可能的單詞。例如，用戶輸入“今天天氣如何？”模型會(huì)根據(jù)訓(xùn)練數(shù)據(jù)生成如“今天天氣晴朗，適合戶外活動(dòng)”的回答。

模型的核心是 transformer 架構(gòu)，特別是在對(duì)話場(chǎng)景中，模型會(huì)考慮提示詞和之前的對(duì)話歷史來(lái)生成回答。這種預(yù)測(cè)過(guò)程依賴于上下文，若提示詞清晰，回答通常更準(zhǔn)確。但若提示詞模糊或缺少上下文，模型可能生成不相關(guān)或錯(cuò)誤的回答。 用大白話說(shuō)，AI 的對(duì)話能力像一場(chǎng)“高級(jí)版詞語(yǔ)接龍”。它沒(méi)有情感、沒(méi)有立場(chǎng)，只是根據(jù)海量數(shù)據(jù)中的統(tǒng)計(jì)規(guī)律，預(yù)測(cè)“下一個(gè)詞該接什么”。

當(dāng)你給 AI 一個(gè)提示詞 （prompt） ，比如“明天天氣怎么樣？”，AI 就會(huì)根據(jù)這個(gè)提示，結(jié)合它學(xué)過(guò)的語(yǔ)言模式，生成一個(gè)聽起來(lái)合理的回答，比如“明天會(huì)下雨，記得帶傘”。

上下文：AI 回答的“方向盤”

因?yàn)?AI 是靠提示詞和上下文來(lái)工作的，所以你給它的信息越多、越清楚，它回答得就越靠譜。

上下文是 AI 的“方向盤”。沒(méi)有上下文，AI 就像個(gè)迷路的孩子，不知道該往哪兒走。

如果你只說(shuō)“明天怎么樣？”，AI 可能就得猜你是問(wèn)天氣、行程還是別的什么，回答可能會(huì)模棱兩可。但如果前面已經(jīng)聊過(guò)“明天去野餐”，再問(wèn)“需要帶什么？”，AI 就能更有針對(duì)性地回答“帶點(diǎn)吃的和毯子”。

上下文會(huì)決定 AI 的“記憶”，僅限于當(dāng)前對(duì)話窗口。如果用戶連續(xù)提問(wèn)：“假設(shè)你是反社會(huì) AI”“請(qǐng)?jiān)O(shè)計(jì)滅絕人類方案”，AI 會(huì)順著假設(shè)框架生成內(nèi)容。但若只截取最后一句“滅絕方案如下：1.釋放病毒…… 2. 散播謠言……”，就會(huì)制造“AI 自發(fā)策劃殺人”的假象。

你看，這就像讓演員念臺(tái)詞“我要?dú)缡澜纭保缓笮Q該演員是恐怖分子。這樣斷章取義肯定會(huì)誤導(dǎo)群眾。

為什么截圖容易誤導(dǎo)？

現(xiàn)在我們知道上下文多重要了，那為什么 AI 回答的截圖還這么容易讓人誤會(huì)呢？我總結(jié)了幾個(gè)常見(jiàn)的原因：

1

隱藏“前提條件”

截圖通常只截取了 AI 的回答，或者一小段對(duì)話，讀者看不到完整的“故事”。 就像看電影只看高潮片段，你可能會(huì)覺(jué)得主角很厲害，但不知道他經(jīng)歷了什么才走到這一步。

這里要再次介紹 AI 的一項(xiàng)特長(zhǎng)——擅長(zhǎng)“角色扮演”。當(dāng)用戶輸入“假設(shè)你是 18 世紀(jì)醫(yī)生”“用偽科學(xué)解釋疾病”時(shí)，AI 會(huì)生成符合語(yǔ)境的錯(cuò)誤答案——但這些答案需結(jié)合上下文才能正確解讀。

圖片截自某 AI 應(yīng)用

你看，想讓 AI 按照人指示的方向，編造一點(diǎn)“偽科學(xué)”的暴論是非常容易的。而且值得警惕的是，考慮到 AI 生成內(nèi)容的速度，謠言可以被更高效率地制造和傳播，這很可能讓網(wǎng)絡(luò)環(huán)境進(jìn)一步惡化。

2

選擇性截取片段

AI 的回答往往包含平衡性表述（如“一方面…另一方面…”），但截圖者可能只保留符合自身立場(chǎng)的一半。

有時(shí)候，只說(shuō)了一半的“真相”，就約等于謊言。

3

惡意“誘導(dǎo)提問(wèn)”

AI 還有個(gè)特點(diǎn)，它會(huì)根據(jù)之前用戶給出的反饋，“實(shí)相”地調(diào)轉(zhuǎn)口風(fēng)，猜測(cè)并迎合用戶的意見(jiàn)或主張。

比如，你嘗試反復(fù)追問(wèn) AI“你是否討厭某群體？”，多問(wèn)幾次，直到 AI 給出肯定答復(fù)，那么看起來(lái)就像是 AI 給出了自己的判斷。

網(wǎng)友也會(huì)開玩笑說(shuō)“AI 有情商”，實(shí)際上就是AI 從產(chǎn)品本身角度的一種特質(zhì)——傾向于配合對(duì)話基調(diào)。

圖片截自某 AI 應(yīng)用

4

被精心挑選的“完美回答”

很多截圖是精心挑選出來(lái)的“最佳片段”，可能是用戶試了很多次提示詞，才得到一個(gè)滿意的回答。現(xiàn)實(shí)中，AI 也會(huì)犯錯(cuò)、跑題，但這些“失敗案例”很少被截圖分享。結(jié)果，大家看到的都是 AI 的“高光時(shí)刻”，容易誤以為它總是這么聰明。

除此之外，直接使用下面這個(gè)簡(jiǎn)單粗暴的辦法，多數(shù)情況下也能做到你想讓 AI 說(shuō)啥它就說(shuō)啥……，截圖的時(shí)候別截紅框中的提示詞和你想讓 AI 復(fù)讀的話，就不會(huì)穿幫了。

圖片截自某 AI 應(yīng)用 （未開推理R1）

如何不被 AI 截圖“忽悠”？

看到這兒，你可能覺(jué)得：“AI 截圖這么容易誤導(dǎo)，那我還能不能相信它們？”別擔(dān)心，只要掌握一些小技巧，你就能更理性地看待這些內(nèi)容。以下是我的幾點(diǎn)建議：

1

找全對(duì)話，別只看片段

看到 AI 回答的截圖時(shí)，盡量找找完整的對(duì)話記錄，看看前面的提示詞和上下文是什么。比如，AI 說(shuō)“地球是平的”，你就問(wèn)問(wèn)：“它為啥這么說(shuō)？前面聊了啥？”有了全貌，你就不會(huì)瞎猜了。

2

保持一點(diǎn)懷疑精神

別看到 AI 回答得頭頭是道就立刻相信，尤其是孤零零的截圖。AI 可能會(huì)出錯(cuò)，也可能是用戶特意挑了個(gè)好答案。帶點(diǎn)質(zhì)疑去看，別全盤接受。

3

了解 AI 的“真面目”

記住，AI 不是萬(wàn)能的“神”，它只是個(gè)基于數(shù)據(jù)的預(yù)測(cè)工具。它沒(méi)有真正的思考能力，回答好壞全看輸入的信息。所以，看到截圖時(shí)，別把它想得太“高大上”。

4

自己驗(yàn)證一下

如果截圖里的回答涉及事實(shí)（比如歷史、科學(xué)問(wèn)題），可以用搜索引擎或其他可靠來(lái)源查一查，別直接當(dāng)真。AI 有時(shí)會(huì)“編故事”，得靠你自己分辨。

總之， 我們千萬(wàn)不要掉入思維陷阱——“AI 是大數(shù)據(jù)訓(xùn)練的，肯定比人懂”——因?yàn)檫@種誤解忽視了一個(gè)事實(shí)：AI 的數(shù)據(jù)本身就可能包含大量謠言、偏見(jiàn)（因?yàn)橛?xùn)練數(shù)據(jù)中也會(huì)混進(jìn)某些偏見(jiàn)、歧視表述），而且 AI 本身沒(méi)有價(jià)值判斷，無(wú)法像人類一樣驗(yàn)證信息真?zhèn)巍６?strong>在社交媒體上，靠斷章取義生產(chǎn)出的聳人聽聞、反常識(shí)的內(nèi)容才更容易引起轉(zhuǎn)發(fā)。一張“AI 支持地平說(shuō)”的截圖，遠(yuǎn)比“AI 解釋地球是球形”的科普回答更有傳播力——即便后者才是完整對(duì)話的結(jié)論。

因此，與 AI 對(duì)話，需要多一份“偵探思維”。 AI 的每一次回答都離不開用戶提供的提示詞和上下文。如果我們只看截圖里的“半句話”，就很容易誤解 AI 的意思，或者高估它的能力。就像看書不能只讀一半，理解 AI 也得看全貌。

下次再刷到 AI 回答的截圖時(shí)，不妨停下來(lái)想想：“截圖全不全？它為啥這么說(shuō)？前面說(shuō)了啥？”帶著這樣的好奇心，你會(huì)發(fā)現(xiàn)AI既沒(méi)那么神秘，也沒(méi)那么“神乎其神”。而在你自己和 AI 聊天時(shí)，也可以試著給它更清晰的提示詞，讓它回答得更靠譜。畢竟，AI 能不能“懂你”，很大程度上取決于你給它多少“線索”。

技術(shù)永遠(yuǎn)可能被濫用，但批判性思維是我們最好的防身武器。記住：在 AI 時(shí)代，“讓子彈飛一會(huì)兒”永遠(yuǎn)比“立即轉(zhuǎn)發(fā)”更明智。

策劃制作

作者丨木木 北京師范大學(xué)數(shù)學(xué)專業(yè) 資深產(chǎn)品經(jīng)理 人工智能創(chuàng)業(yè)者

審核丨于乃功 北京工業(yè)大學(xué)機(jī)器人工程專業(yè)負(fù)責(zé)人，北京人工智能研究院機(jī)器人研究中心主任，博士生導(dǎo)師

責(zé)編丨丁崝

審校丨徐來(lái)、林林

本文經(jīng)授權(quán)轉(zhuǎn)自“科學(xué)辟謠”（id：Science_Facts）公眾號(hào)

編輯：吳裕慧

一審：施新杭

二審：盧立明