訂閱 快刀財經 ▲ 做您的私人商學院

假作真時真亦假。

作者：楊睿琦

來源： 毒眸（ID：DomoreDumou）

“頂流男星豪賭10億”“路易吉自殺”“梅西去世”，這些都是近期流傳在網上的“新聞”。

與其叫它們“新聞”，不如叫“AI幻想碎片”。近些年來，隨著人工智能的快速發展，生成式內容得到越來越多人的關注。

用AI生成“新聞”，成了最近大家的新樂子，不少網友開始嘗試自己生成相關內容并進行傳播。

“頂流男星豪賭10億”就來自某網友手筆，該網友使用AI軟件輸入社會熱點詞，制作了標題為‘頂流明星被曝境外豪賭輸光十億身價引發輿論海嘯’的謠言信息，并在小紅書、微博等社交平臺迅速擴散，目前已被處以行政拘留8日處罰。

▲圖源：微博

其實使用AI助力新聞生產不是新鮮事。早在十年前新華社就開發了自己的第一位機器人記者“快筆小新”。它可以7×24小時不間斷工作，更可以跨越條線，原本需要編輯記者們15～30分鐘完成的稿件，“快筆小新”只需要3～5秒鐘就能完成。

國外媒體如BBC、紐約時報等媒體也都將AI納入新聞生產過程。但用AI助力新聞生產與用AI生成新聞是兩碼事。

由于當前語言類AI還是抓取語料進行生成，不少網友的自發內容也會被AI識別為“資料”，從而生成一些看似真實，實際根本沒有發生的“新聞”。

更值得注意的是，這些由AI生成的假新聞正成為內容循環的源頭，也就是說用戶用AI生成內容進行發布，其他用戶進行相關提問，AI會再次抓取這些內容反饋給用戶。

當新聞有一天也可以被“生成”，它將帶來什么，又將消解什么？帶著這些問題，毒眸與多位媒體行業、AI行業以及互聯網行業從業者展開對話。

在AI席卷而來的當下，我們更需要厘清，真實與虛幻的邊界。

01

頂流男星的謠言

“哇，是林俊杰還是周杰倫啊？玩這么大！”

三月初，一則內容為“某超一線男星在澳門永利皇宮賭場貴賓廳連賭七日”的消息在網絡瘋傳。這則消息據稱“經權威渠道確認”，由國際金融調查機構Global Financial Watch于3月10日發布的跨境資金異常流動曝光。

信息顯示，該位“頂流男星”七日豪賭輸盡10.3億元流動資產，抵押三處豪宅及私人飛機，為翻本還向澳門黑幫借貸3億元。

網友吃瓜熱情被迅速點燃，相關帖子開始在微博、小紅書、豆瓣、知乎等社交平臺大肆傳播，林俊杰、周杰倫等“頂流男星”都被提及，甚至還有網友跑到黃曉明微博下方求證是否輸了十億，得到對方“歡樂豆嗎？”的回答。

▲圖源：@黃曉明

這條消息還釋出了相當多的細節，諸如該男明星輸掉的10億分為離岸公司轉入8.6億，以及地下錢莊兌換1.7億港元現金籌碼；其內地經紀公司還在3月9日深夜發布聲明承認其存在“個人財務問題”，兩棟被抵押的豪宅分別是位于北京朝陽區2.8億元的獨棟別墅以及上海陸家嘴的頂級公寓。

眼見各位被猜測的男明星們都默不作聲，輿論風波愈演愈烈，越來越多的男明星被網友列入“可能名單”。就在網友們猜的不亦樂乎之際，公安部網安部門發布通告，原來這條看起來有鼻子有眼的網絡消息，竟然是AI生成的假新聞。

▲圖源：@人民日報

公安部通告稱，“網民徐某強（男，36歲）為博取流量、謀取非法利益，于2025年3月10日10時，使用軟件“某書”中AI智慧生成功能，輸入社會熱點詞制作了標題為‘頂流明星被曝境外豪賭輸光十億身價引發輿論海嘯’的謠言，公安機關根據相關法律法規，已對徐某強處以行政拘留8日處罰?！?/p>

無獨有偶，在震驚韓國的金秀賢金賽綸事件中，也有AI假新聞的身影。

3月12日，微博名為“戀輿智”的網友發布微博，稱金秀賢在金賽綸頭七當天（2025年3月12日前后）通過粉絲互動平臺Bubble發布動態，曬出粉絲禮物，并稱“不愧是超級chill的我”。

▲圖源：@戀輿智

這條消息沒有引起“頂流男星豪賭輸10億”如此大的輿論風波，但也燃起不少中國網友的義憤之情。由于金賽綸與金秀賢此前戀愛六年，金秀賢涉嫌“戀童癖”，金賽綸又在男方生日當天選擇自殺，讓這條消息也開始快速擴散。

但仔細分析此條微博，就會發現金賽綸去世日期為2月16日，頭七不管按照中韓哪一國家的習俗計算，都不應該是3月12日。

和“頂流男星豪賭十億”的“新聞”一樣，這些AI生成式內容雖然看起來真實詳細，但只要仔細一想，便有諸多細節經不起推敲?；蛟SAI比新聞從業者更是熟知人性，在這些精準挑動網友情緒的“新聞”中，AI加速了生成新聞的腳步，同時也消減了用戶冷靜思考的反應與時間。

此時AI擔任的不再是省時省力的工具角色，而是幻覺碎片的生產者。

02

AI的自由與偏見

這兩年，AI假新聞層出不窮，而且以文字、圖片、視頻等各種形式出現。

今年年初，西藏日喀則市定日縣發生6.8級地震，多張“小男孩被埋圖”在網絡瘋傳，引發網友關切。然而經公安機關核查，這些圖片均由一位青海網友使用AI工具生成而來，該網友將日喀則地震信息進行關聯拼湊，引發謠言擴散。

▲圖源：@新華社

除此之外，還有不少網友也使用AI工具嫁接圖片，以其他地區地震現場生成為定日地震現場，駭人聽聞。

2023年，“杭州市政府3月1號取消機動車依尾號限行”的“新聞”也在網絡瘋傳。

隨后“江浙之聲”報道，這則所謂的“新聞”，是杭州某小區業主群討論ChatGPT，一位業主開玩笑，稱試試用ChatGPT寫“杭州取消限行”的“新聞”，并在群里直播ChatGPT寫作的全過程，其他看到文章的業主直接當成新聞截圖轉發。

▲圖源：@人民日報

AI還生成諸如“路易吉自殺”“梅西去世”“80后死亡率突破5.2%”等各種聳人聽聞的假新聞，從這些案例中不難看出，AI假新聞已經蔓延至文娛、體育、社會生活等多個領域，并產生不小影響。

在此前毒眸對十位記者的采訪中（《國產劇請放過記者》），不少媒體從業者也都提及日常工作已經開始使用AI，會用AI生成視頻新聞封面、搜集信息數據等。

2015年，新華社就開發了自己的第一位機器人記者“快筆小新”?！翱旃P小新”可以7×24小時不間斷工作，更可以跨越條線，從體育賽事報道到股市、國債開收盤，它都能自動根據信息快速生成新聞稿件，原本需要編輯記者們15～30分鐘完成的稿件，“快筆小新”只需要3～5秒鐘就能完成。

▲圖源：@新華社中國網事

在國外，新聞從業者對于AI的使用更加激進大膽。

3月18日，意大利自由保守主義日報《Il Foglio》發布了全球首份完全由AI生成的報紙。該份報紙共4頁，全部內容均由AI生成。頭版頭條劍指美國總統特朗普，此外頭版還刊登了專欄文章《普京的十次背叛》，稱普京“20年來違背承諾、撕毀協議和言而無信”。

經濟、文化版面也都由AI生成最新數據討論及社會現象分析，最后還刊登了由AI生成的“讀者來信”。

《Il Foglio》編輯Claudio Cerasa認為，《Il Foglio AI》展現了一份“真正的報紙”，它是“新聞、辯論和觀點碰撞的產物”以及“我們不得不思考的問題，這些問題不僅僅是新聞領域的”。

▲圖源：微博

《洛杉磯時報》在今年3月3日也引入了一項新功能“Insights”?！癐nsights”可以表達特定觀點或“從個人角度”撰寫文章，但就在一天后，由于“Insights”淡化三K黨種族主義問題，該功能隨即下線。

代表《洛杉磯時報》記者的工會也隨后發表聲明，對“未經編輯部審核的AI生成分析”表示擔憂。工會表示，他們不認為這種做法會“增強公眾對媒體的信任，相反，這種工具可能會進一步削弱新聞機構的公信力”。

在毒眸和多位媒體從業者的對談中，我們也發現，隨著使用程度加深，也有不少新聞從業者開始掉入“AI陷阱”。

“3月份烏拉圭和阿根廷的比賽，梅西都沒上場，國內某知名體育垂直媒體平臺發布的半場戰報就有‘梅西通過靈活跑位為球隊創造機會’的這種表述，疑似是用AI提前寫的。日常搜集資料的時候，我也在大平臺上看到過AI生成的莫須有新聞戰報?！敝w育自媒體博主碧波介紹。

▲圖源：@愛可可-愛生活

“我們會使用AI進行基礎資料搜集，原本以為會比較省力，但最近發現工作量似乎更多了，因為要驗證AI給到的是否是‘假數據’”。文娛記者周敬儀這樣說道。

多位媒體從業者都提到ChatGpt、DeepSeek、kimi，這是目前媒體從業者使用最多的三個AI應用。

“kimi會給到很多文章索引，使用起來比較方便，但這些參考文章良莠不齊，有些也是網友自己發布的信息?！必斀浻浾咧煸@樣認為，”但財經條線還好，因為我們一般用AI搜集財報數據以及經營數據”。

擁有八年文娛行業從業經歷的編輯李莞爾則有些“苦不堪言”，“剛入行的時候我就發現很難找到關于文娛產業的權威信息，當時主流還是用百度，但搜出來的基本都是網友自己發的八卦，或者是片湯話湊出來的所謂‘文章’，毫無價值?！?/p>

有了AI之后，李莞爾的工作似乎更難了?！拔抑胺浅Ｐ湃蜠eepSeek，因為感覺更有‘人味’，但后來發現，它生成的內容看似非常完整且很‘權威’，但很多內容根本就不存在。如果對行業沒有積累或者常識，很容易被騙到。”

03

一條莫比烏斯環

如同莫比烏斯環，現在的AI已經形成“虛空內容環”。

從上述AI假新聞的相關報道中，我們能看到，幾乎都是用戶自發在AI相關應用中輸入指令即可完成。

“AI生成新聞的prompt非常簡單，下指令，加一段參考，把新聞教科書里的寫作要求寫進去，再根據一些基礎事實以及搜索內容就可以生成。不需要專業AI應用，在網頁版甚至就能生成。“AI行業從業者Ingemar這樣說道。

▲圖源：@溫商信息服務

就職于AIGC相關企業的Han則提供了另一種生成可能?！斑€有一種類似于自動抓取信息，比如在某搜索引擎上比較常見的無價值聚合信息。這在這一輪生成式AI爆發前就存在，主要利用爬蟲加上一代的文字處理AI做簡單處理來填充平臺內容?！?/p>

這更接近李莞爾在上文中提到的，更早時期，搜索引擎提供的無用信息。如果說早期這些無用信息大規模聚合在搜索引擎搭建的內容平臺上，那到如今隨著社交媒體快速發展，以及傳播媒介的快速更迭，這些內容被更快、更廣、更大規模地散播于更多平臺。

比如“頂流男星豪賭10億”就在小紅書上引起廣泛討論，更是一度登上微博熱搜。一則AI假新聞的生產成本、傳播成本都被大大降低，其擴散范圍也變得更大、更廣。

▲圖源：小紅書

更值得注意的是，這些由AI生成的假新聞正成為內容循環的源頭，也就是說用戶用AI生成內容進行發布，其他用戶進行相關提問，AI會再次抓取這些內容反饋給用戶。

“這接近于AI的數據崩潰的合成數據遞歸，持續下去會讓數據庫完全失真，是一個大問題，之前有不少LLM（AI大語言模型）訓練時都遇到過這一問題。AI假新聞的產生很大程度上是這一問題的根源也是這個問題的結果?！盚an這樣認為。

即便LLM（AI大語言模型）以學習文本數據為核心，但這些文本數據往往包含“歷史和當代的偏見”以及如今真假混雜的信息，導致模型再精心篩選訓練，也難以解決這一問題。

劍橋大學博士后，西湖大學終身教授張岳在澎湃新聞的采訪中分享了目前主流的三大AI生成文本鑒別法，主要是監督分類器法、零樣本分類器法以及水印法。

“監督分類器法要收集大量已知數據，做分類學習。對訓練時見過的大語言模型生成的文本，它的識別準確率較高；但遇到未見過的模型生成的文本，識別準確率下降；Fast-DetectGPT、DetectGPT屬于零樣本分類器法，無需收集數據進行訓練，主要通過AI文本的特征來“找同類”；水印法是在生成AI文本時打上“水印”。相關服務提供者對生成合成內容添加顯式標識，或在生成合成內容的文件元數據中添加隱式標識，這種方法準確率高，但存在標記被人為弱化甚至移除的風險?！?/p>

“目前法規也在規范化相關內容，比如要求AI生成內容需要額外標注，有了標注，后續這一問題有可能會得到緩解。”Han補充道。

在今年兩會上，也有人大代表提出加強對AI生成虛假信息治理的建議。全國政協委員、四川大學華西醫院教授甘華田在接受紅星新聞采訪時稱，AI深度偽造視頻、政府公告、企業聲明、名人言論、虛假金融信息等行為，已嚴重干擾公眾的判斷，這類虛假信息不僅誤導消費者，還損害了社會公信力。

▲圖源：@中國普法

國家互聯網信息辦公室、工信部、公安部、國家廣電總局已發布《人工智能生成合成內容標識辦法》，將于今年9月起實施，《辦法》聚焦人工智能“生成合成內容標識”關鍵點，通過標識提醒用戶辨別虛假信息，明確相關服務主體的標識責任義務，規范內容操作、傳播各環節標識行為。也就是開始對AI內容“打水印”。

國外方面，OpenAI也已與新聞集團和《金融時報》簽署了商業合作及授權協議，讓ChatGPT用戶能看到特定的、注明出處的新聞摘要、引用和鏈接。

▲圖源：@新浪科技

這些措施與手段都在強化AI生成內容的可靠性與確定性。在這個人人都可以產生內容，“假作真時真亦假”的時代，AI的確如同雙刃劍，但不管如何使用，這把劍始終不能對著自己。

寫在最后：安利一個寶藏讀書博主

結婚率又創新低了。

根據最新數據，2024年全國婚姻登記數相比2023年下降了約20.5%，同時創下了自1986年有公布統計以來的新低。

對于這個數據，倒也不太意外，畢竟今天的大多數年輕人對婚姻都抱有比較悲觀的想法，甚至連戀愛都變得十分謹慎。正所謂：智者不入愛河，建設美麗中國。

其實，這其中有個很大的主要原因，那就是現在的年輕人沒錢。

因為不論是戀愛還是結婚，都需要錢呀。哪怕是日常我們和同事、朋友的交往，也無不需要money。

夏不綠，不著名作家，出版書籍十余本，售出多部影視版權，用寫作丈量生活的塵埃。

去視頻號、B站、小紅書搜索「夏不綠讀書」，關注我，讓我們一起用閱讀鑿開心中的冰海，在閱讀這座避難所里，一起做忠于自己的普通讀者。

- End -

快刀財經已同步入駐：36氪、虎嗅網、鈦媒體、i黑馬、品途網、商界、趣頭條、砍柴網、梅花網、艾瑞專欄、億歐網、創業邦、知乎、雪球、今日頭條、百度百家、界面新聞、一點資訊、網易號、搜狐自媒體、鳳凰網、新浪財經頭條、新浪看點、UC大魚號、天天快報、企鵝自媒體、投資界、思達派、獵云網、簡書等30多家自媒體平臺。

快刀財經

社群 | 內容 | 連接 | 商學院

商業快媒體、思維孵化器、價值試驗場和洗欲中心。專注互聯網以及互聯網正在影響的其他行業。有趣、有料、有態度，加入我們，擁有您的私人商學院。致力于為用戶提供營銷策劃、社群電商、創業投資和知識充電服務。

投稿、轉載、內容合作，請添加微信ikuaidao