“我不知道上海有一家華山醫院，也不知道‘張明遠’是誰，（內容）都是AI生成的。”

“我們有500多個賬號，每天發一萬多條帖文。”

“直到警察找來，我都不知道是哪篇帖子出問題了。”

今年3月，一則內容為“華山醫院前院長張明遠因闌尾炎未得到及時救治，客死他鄉醫院走廊長椅”的圖文信息，一度在社交平臺和微信群刷屏，造成不良社會影響。

由AI生成、自媒體發布的謠言內容截圖

上海公安部門發現這一情況后，立即展開調查：靜安公安分局到華山醫院詢問情況，核實發現該院不僅沒有名叫“張明遠”的前院長，甚至沒有叫這個名字的職工；網安總隊利用技術手段開始追溯，消息來源指向某網絡信息平臺的自媒體賬號。最終結果顯示，該網帖內容為不實信息，涉嫌造謠。

掌握相關證據后，靜安警方將犯罪嫌疑人王某某、郭某某和石某某三人抓獲。目前，三人因涉嫌非法利用信息網絡罪，被上海警方依法采取刑事強制措施，相關違法賬號被依法封禁。

今天上午，解放日報·上觀新聞記者在看守所對話了王某某。

由王某某創立的三人工作室，共控制了500多個自媒體賬號，日均發帖萬余條，累計發布不實帖文30余萬條。而這些帖文內容，均由AI改寫或生成。他們摸索著平臺的流量密碼，設置關鍵詞讓AI產生“爆款內容”，以此獲取分成收益。至于內容的真實性，似乎不在他們的考慮范圍內。

“華山醫院”“張明遠”，都是AI編的

記者：這條謠言是怎么產生的？

王某某：（內容）都是AI生成的。我不知道上海有一家華山醫院，也不知道“張明遠”是誰。具體是什么內容，到現在我也不清楚，我們是批量采集和發布的。

記者：生成這條謠言時，給AI下了哪些指令？

王某某：有一個網絡上的pp，是我們的素材庫，可以按照不同領域、閱讀量、發布時間等維度，搜索平臺的爆款帖文。人工采集這些內容后，我們就讓AI軟件進行批量改寫或生成新內容，之后再用軟件發到平臺上。

當時，讓AI生成這條信息的具體指令，我不記得了。一般來說，我們會輸入爆款帖文的原文，然后要求AI變換語序、語氣以及需要包含的關鍵詞，生成新的文字內容。另一種，就是用AI的聯網功能，讓它根據爆款帖文的中心思想，先在網上搜索關聯信息，再生成新的文字內容。

記者：你認為自己發布的內容是屬于什么性質？

王某某：算是綜合的，有些是新聞，有些是事故，有些是觀點，主要還是熱度榜的話題和內容來分類。

記者：對于AI生成的內容，會審核真偽嗎？

王某某：當時真的沒有考慮那么多，我想的是，我們發的內容都是別人發過的，只不過做了加工，而且我們也是從平臺熱度榜單采集的素材，感覺是比較權威的。

站在我們的角度，需要審核的內容，就是根據平臺的要求，刪除一些敏感詞。

說實話，直到警察找來，我都不知道是哪篇帖子出了問題。

日均編造發布上萬條帖文

記者：你們會標注內容是由AI生成的嗎？

王某某：不會。平臺也沒有這方面的要求。只要沒有敏感詞、涉黃涉暴畫面這些內容，就能通過平臺審核。我沒有遇到過平臺對文字內容出現違規提示。據我了解，（自媒體）這個圈子里，絕大多人都是這樣做的。

記者：如何靠發文獲利？

王某某：我們的賬號每條帖文在200-500字。我們有4個“大號”，還有500多個“小號”。“大號”是跟MCN合作的機構賬號，每個“大號”可以添加“小號”作為子賬號，子賬號獲得的收益再流轉到母賬號，根據流量情況，每個月從平臺分成獲益。

記者：收入跟流量的關系是什么？

王某某：對我們來說，流量就意味著收入。我們每天發布一萬多條帖文，內容要有些差異，AI都能完成。然后再用API端口自動發布到不同賬號里。

具體的流量說不準，有的帖文有幾萬閱讀量，最高的一條能有十幾萬。閱讀量達到一萬，我們就能有5元左右的收益。

從2月底開始到被抓，我們總共有4萬多元的收益，但是還要跟MCN機構分成。收入并不高。

曾編造“某女明星去世后孩子撫養權”相關內容，被平臺警示

記者：你有沒有觀察過，哪些內容比較有流量？

王某某：八卦類的內容，比如明星八卦，社會八卦。還有涉及職場、科技、養老、國際、教育、醫療等這些領域內容，都比較吸睛，流量比較好。

現在想來，像“華山醫院前院長”這條，可能重疊涵蓋了社會、職場、醫療、國際等領域，所以才得到關注。

記者：之前用AI生成的內容，有被判定為謠言的嗎？

王某某：某女明星剛去世時，對于孩子撫養權的問題，我們也用AI生成過內容。后來被平臺判定為謠言，有過警示，也被扣分處罰了。

像“已過時效”“標題黨”“謠言”這些，都會被平臺處罰，但我們還是有僥幸心理。其實，相比于我們生成發布的內容數量，被平臺判別處罰的內容比例非常低。

記者：你認為你們發布的哪些內容算謠言？

王某某：以前沒想過這個問題。這幾天在反思，我們用AI生成了很多沒有事實根據的、帶來不良社會影響的內容。

反思流量，“應該有底線”

記者：你是怎么進入自媒體行業的？

王某某：我以前是做電商的，自己沒有貨源，相當于做別人的代理。但是這兩年效益不好，利潤低、成本高，然后就想著轉換賽道。

后來，互聯網圈里的朋友推薦我做自媒體。使用的軟件和工具在網上都能找到，方法也有人教，只要花時間進去，就能賺錢，成本很低。

記者：你認為追逐流量需要底線嗎？

王某某：肯定要有底線，不應該胡編亂造或者夸大其詞，不應該編造發布虛假信息。我現在認識到了以前做得不足的地方，沒有把握好尺度，也沒有好好審核。

記者：對于自己做的事情，有什么反思？

王某某：經過警方的教育，我們知道自己錯在哪里，也感到非常后悔。其實做這個事沒有掙到什么錢。我會接受法律應有的懲罰，吸取教訓。

原標題：《華山醫院前院長客死他國？對話被上海警方刑拘的幕后推手：謠言是AI編的》

欄目主編：王海燕

來源：作者：解放日報 鄔林樺