“我不知道上海有一家華山醫(yī)院，也不知道‘張明遠(yuǎn)’是誰，（內(nèi)容）都是AI生成的?！?/p>

“我們有500多個賬號，每天發(fā)一萬多條帖文?！?/p>

“直到警察找來，我都不知道是哪篇帖子出問題了?！?/p>

今年3月，一則內(nèi)容為“華山醫(yī)院前院長張明遠(yuǎn)因闌尾炎未得到及時救治，客死他鄉(xiāng)醫(yī)院走廊長椅”的圖文信息，一度在社交平臺和微信群刷屏，造成不良社會影響。

由AI生成、自媒體發(fā)布的謠言內(nèi)容截圖

上海公安部門發(fā)現(xiàn)這一情況后，立即展開調(diào)查：靜安公安分局到華山醫(yī)院詢問情況，核實(shí)發(fā)現(xiàn)該院不僅沒有名叫“張明遠(yuǎn)”的前院長，甚至沒有叫這個名字的職工；網(wǎng)安總隊利用技術(shù)手段開始追溯，消息來源指向某網(wǎng)絡(luò)信息平臺的自媒體賬號。最終結(jié)果顯示，該網(wǎng)帖內(nèi)容為不實(shí)信息，涉嫌造謠。

掌握相關(guān)證據(jù)后，靜安警方將犯罪嫌疑人王某某、郭某某和石某某三人抓獲。目前，三人因涉嫌非法利用信息網(wǎng)絡(luò)罪，被上海警方依法采取刑事強(qiáng)制措施，相關(guān)違法賬號被依法封禁。

今天上午，解放日報·上觀新聞記者在看守所對話了王某某。

由王某某創(chuàng)立的三人工作室，共控制了500多個自媒體賬號，日均發(fā)帖萬余條，累計發(fā)布不實(shí)帖文30余萬條。而這些帖文內(nèi)容，均由AI改寫或生成。他們摸索著平臺的流量密碼，設(shè)置關(guān)鍵詞讓AI產(chǎn)生“爆款內(nèi)容”，以此獲取分成收益。至于內(nèi)容的真實(shí)性，似乎不在他們的考慮范圍內(nèi)。

“華山醫(yī)院”“張明遠(yuǎn)”，都是AI編的

記者：這條謠言是怎么產(chǎn)生的？

王某某：（內(nèi)容）都是AI生成的。我不知道上海有一家華山醫(yī)院，也不知道“張明遠(yuǎn)”是誰。具體是什么內(nèi)容，到現(xiàn)在我也不清楚，我們是批量采集和發(fā)布的。

記者：生成這條謠言時，給AI下了哪些指令？

王某某：有一個網(wǎng)絡(luò)上的pp，是我們的素材庫，可以按照不同領(lǐng)域、閱讀量、發(fā)布時間等維度，搜索平臺的爆款帖文。人工采集這些內(nèi)容后，我們就讓AI軟件進(jìn)行批量改寫或生成新內(nèi)容，之后再用軟件發(fā)到平臺上。

當(dāng)時，讓AI生成這條信息的具體指令，我不記得了。一般來說，我們會輸入爆款帖文的原文，然后要求AI變換語序、語氣以及需要包含的關(guān)鍵詞，生成新的文字內(nèi)容。另一種，就是用AI的聯(lián)網(wǎng)功能，讓它根據(jù)爆款帖文的中心思想，先在網(wǎng)上搜索關(guān)聯(lián)信息，再生成新的文字內(nèi)容。

記者：你認(rèn)為自己發(fā)布的內(nèi)容是屬于什么性質(zhì)？

王某某：算是綜合的，有些是新聞，有些是事故，有些是觀點(diǎn)，主要還是熱度榜的話題和內(nèi)容來分類。

記者：對于AI生成的內(nèi)容，會審核真?zhèn)螁幔?/p>

王某某：當(dāng)時真的沒有考慮那么多，我想的是，我們發(fā)的內(nèi)容都是別人發(fā)過的，只不過做了加工，而且我們也是從平臺熱度榜單采集的素材，感覺是比較權(quán)威的。

站在我們的角度，需要審核的內(nèi)容，就是根據(jù)平臺的要求，刪除一些敏感詞。

說實(shí)話，直到警察找來，我都不知道是哪篇帖子出了問題。

日均編造發(fā)布上萬條帖文

記者：你們會標(biāo)注內(nèi)容是由AI生成的嗎？

王某某：不會。平臺也沒有這方面的要求。只要沒有敏感詞、涉黃涉暴畫面這些內(nèi)容，就能通過平臺審核。我沒有遇到過平臺對文字內(nèi)容出現(xiàn)違規(guī)提示。據(jù)我了解，（自媒體）這個圈子里，絕大多人都是這樣做的。

記者：如何靠發(fā)文獲利？

王某某：我們的賬號每條帖文在200-500字。我們有4個“大號”，還有500多個“小號”。“大號”是跟MCN合作的機(jī)構(gòu)賬號，每個“大號”可以添加“小號”作為子賬號，子賬號獲得的收益再流轉(zhuǎn)到母賬號，根據(jù)流量情況，每個月從平臺分成獲益。

記者：收入跟流量的關(guān)系是什么？

王某某：對我們來說，流量就意味著收入。我們每天發(fā)布一萬多條帖文，內(nèi)容要有些差異，AI都能完成。然后再用API端口自動發(fā)布到不同賬號里。

具體的流量說不準(zhǔn)，有的帖文有幾萬閱讀量，最高的一條能有十幾萬。閱讀量達(dá)到一萬，我們就能有5元左右的收益。

從2月底開始到被抓，我們總共有4萬多元的收益，但是還要跟MCN機(jī)構(gòu)分成。收入并不高。

曾編造“某女明星去世后孩子撫養(yǎng)權(quán)”相關(guān)內(nèi)容，被平臺警示

記者：你有沒有觀察過，哪些內(nèi)容比較有流量？

王某某：八卦類的內(nèi)容，比如明星八卦，社會八卦。還有涉及職場、科技、養(yǎng)老、國際、教育、醫(yī)療等這些領(lǐng)域內(nèi)容，都比較吸睛，流量比較好。

現(xiàn)在想來，像“華山醫(yī)院前院長”這條，可能重疊涵蓋了社會、職場、醫(yī)療、國際等領(lǐng)域，所以才得到關(guān)注。

記者：之前用AI生成的內(nèi)容，有被判定為謠言的嗎？

王某某：某女明星剛?cè)ナ罆r，對于孩子撫養(yǎng)權(quán)的問題，我們也用AI生成過內(nèi)容。后來被平臺判定為謠言，有過警示，也被扣分處罰了。

像“已過時效”“標(biāo)題黨”“謠言”這些，都會被平臺處罰，但我們還是有僥幸心理。其實(shí)，相比于我們生成發(fā)布的內(nèi)容數(shù)量，被平臺判別處罰的內(nèi)容比例非常低。

記者：你認(rèn)為你們發(fā)布的哪些內(nèi)容算謠言？

王某某：以前沒想過這個問題。這幾天在反思，我們用AI生成了很多沒有事實(shí)根據(jù)的、帶來不良社會影響的內(nèi)容。

反思流量，“應(yīng)該有底線”

記者：你是怎么進(jìn)入自媒體行業(yè)的？

王某某：我以前是做電商的，自己沒有貨源，相當(dāng)于做別人的代理。但是這兩年效益不好，利潤低、成本高，然后就想著轉(zhuǎn)換賽道。

后來，互聯(lián)網(wǎng)圈里的朋友推薦我做自媒體。使用的軟件和工具在網(wǎng)上都能找到，方法也有人教，只要花時間進(jìn)去，就能賺錢，成本很低。

記者：你認(rèn)為追逐流量需要底線嗎？

王某某：肯定要有底線，不應(yīng)該胡編亂造或者夸大其詞，不應(yīng)該編造發(fā)布虛假信息。我現(xiàn)在認(rèn)識到了以前做得不足的地方，沒有把握好尺度，也沒有好好審核。

記者：對于自己做的事情，有什么反思？

王某某：經(jīng)過警方的教育，我們知道自己錯在哪里，也感到非常后悔。其實(shí)做這個事沒有掙到什么錢。我會接受法律應(yīng)有的懲罰，吸取教訓(xùn)。

原標(biāo)題：《華山醫(yī)院前院長客死他國？對話被上海警方刑拘的幕后推手：謠言是AI編的》

欄目主編：王海燕

來源：作者：解放日報 鄔林樺