先上一張圖，這是一組 AI 生成視頻的封面，如果你看到這些圖片就已經(jīng)感到不適，再細(xì)想一下，這要是你隨手下滑，自動(dòng)播放的短視頻呢？

如果你看這張圖已經(jīng)不適，你最好不要再點(diǎn)擊下面的視頻｜圖源：404 Media

上圖的每一張封面，可能都是一條這類視頻。10 秒左右，前幾秒是平淡無(wú)奇地日常，畫(huà)風(fēng)突變后，AI 生成出一幅極其詭異的景象，最終停留在讓人不寒而栗的一幀。

該視頻 Instagram 上觀看量達(dá)到 3.62 億，收獲 349 萬(wàn)贊。

這種傳播量意味著它作為爆火內(nèi)容，會(huì)跳出算法隨機(jī)推送給用戶，如果你不小心刷到了，好奇心讓你多看了一會(huì)兒，而后又過(guò)于震驚，以至于沒(méi)有快速劃走，那算法會(huì)把你推向 AI 生成視頻的深淵。

那里是一個(gè)人類利用 AI 生成出的恐怖谷，將給你造成極大的精神污染，毀掉你的上網(wǎng)體驗(yàn)。

01 精神污染的「AI 深淵」

發(fā)布這條「蜘蛛長(zhǎng)頸鹿人」的短視頻博主的主頁(yè)里，全是類似視頻，這也讓他在建號(hào) 2 個(gè)月時(shí)間里，收獲了 12 萬(wàn)的關(guān)注者，和上萬(wàn)美金的平臺(tái)收入。

想象一下，有成千上萬(wàn)的類似賬戶每天產(chǎn)出數(shù)十條這類視頻，再投放到各大短視頻平臺(tái)里。

這類視頻都有著「AI 生成，十秒左右，畫(huà)風(fēng)突變，精神污染」的共性，這些人只要調(diào)教好對(duì) AGI 視頻模型的提示詞和參數(shù)，可能在你被嚇到之前，他們就誕生了一條新「作品」。

該賬號(hào)其他內(nèi)容｜圖源：Instagram

而這類視頻和其他 AI 短視頻不同之處在于：在畫(huà)面上極度詭譎和獵奇。它已經(jīng)跳出了 AI 和現(xiàn)實(shí)擦邊的恐怖谷，而是在普通的生活場(chǎng)景里，突然讓人畸變，長(zhǎng)出異常的肢體，變成不可名狀的怪物，

不同于人類導(dǎo)演精心編排的恐怖片，AI 生成的視頻是一種「無(wú)意的恐怖」，比刻意制造的恐怖更令人不安，因?yàn)樗鼪](méi)有任何軌跡可以預(yù)判。

在看這些內(nèi)容時(shí)，它超出了人類的理性認(rèn)知，我們會(huì)不自覺(jué)地感到「這個(gè)東西不應(yīng)該存在」。

而這類視頻的本質(zhì)就是觸發(fā)你深層的不適和驚悚感，瞬間讓你大腦短路，甚至不敢點(diǎn)擊屏幕把視頻劃走。

獵奇成人內(nèi)容也是一大主題｜圖源：Instagram

在 404 Media 報(bào)道這種亂象的文章里，作者 Jason Koebler 把這種用 AI 生成內(nèi)容，去賭算法推薦的方法比喻成「暴力破解」。

這些視頻制作者的目的并不針對(duì)個(gè)人，而是為了操縱平臺(tái)算法。利用 AI，他們可以批量生成并投放內(nèi)容，不斷試探流量機(jī)制，總有一條能鉆進(jìn)流量的縫隙，一旦某條視頻被推爆，更多同類視頻就會(huì)接連涌入，形成惡性循環(huán)。

哪怕平臺(tái)快速出手，把這類獵奇視頻限流。但這些人換一批提示詞，又可以開(kāi)始新一輪「流量賭博」。因?yàn)?AI 生產(chǎn)內(nèi)容太快了，遠(yuǎn)遠(yuǎn)快過(guò)人類創(chuàng)作和平臺(tái)的算法變化，無(wú)論平臺(tái)怎么調(diào)整，都會(huì)面臨政策趕不上對(duì)策的窘境。

人類創(chuàng)作者需要研究平臺(tái)算法、策劃選題、拍攝制作，耗時(shí)耗力耗錢(qián)制作出一條優(yōu)質(zhì)視頻。AI 分秒鐘生產(chǎn)數(shù)十條垃圾視頻，發(fā)到平臺(tái)上不火也沒(méi)關(guān)系，馬上再上傳幾十條。

人類用質(zhì)量換流量，AI 只需要用數(shù)量。

就像一位密碼學(xué)家正在絞盡腦汁研究密碼算法時(shí)，AI 已經(jīng)把 00000 到 99999 的 10 萬(wàn)種可能性都試過(guò)了，總有一個(gè)對(duì)的，這就是最簡(jiǎn)單的「暴力破解」。

與此同時(shí)，由于 AI 生成內(nèi)容的泛濫，讓真正由人類創(chuàng)作的內(nèi)容越來(lái)越難以被發(fā)現(xiàn)。低質(zhì)量、假信息占據(jù)了用戶的信息流，不管是創(chuàng)作生態(tài)還是平臺(tái)內(nèi)容，都往劣幣驅(qū)逐良幣的方向滑落。

至此，視頻制作者獲得了流量，每一個(gè)刷到視頻的用戶受到精神污染，整個(gè)內(nèi)容平臺(tái)被這些獵奇、低質(zhì)的 AI 生成內(nèi)容所侵蝕。

只有這些毫無(wú)底線利用 AI 的人贏了。然而流量帶來(lái)的快錢(qián)，正在驅(qū)使越來(lái)越多的人加入這個(gè)行當(dāng)。

02 流量和財(cái)富密碼

Jason Koebler 每天都會(huì)收到一個(gè) 17 歲的 YouTuber Daniel Bitton 的營(yíng)銷郵件。

點(diǎn)開(kāi)這名 YouTuber 的主頁(yè)，他有 11.7 萬(wàn)訂閱者，最火的一條視頻《我復(fù)制粘貼一個(gè) YouTube 頻道，讓我每個(gè)月賺到 10 萬(wàn)美元》有 74 萬(wàn)播放量。這條視頻的主旨就是：雇人作內(nèi)容太貴了，我們決定用 AI 復(fù)制爆火視頻。

小伙另一個(gè)爆火視頻是《16 歲的我如何成為百萬(wàn)富翁》｜圖源：YouTube

于是他隨便修改一下爆火科普視頻的腳本，再加一些爭(zhēng)議性話題比如《亞洲人為什么眼睛小》，配上 AI 制作的驚悚動(dòng)畫(huà)，大量投放到各大短視頻平臺(tái)，不火就馬上調(diào)整選題，加入更多爭(zhēng)議要素。

而 Bitton 營(yíng)銷郵件就是賣(mài)他這套「成功公式」，他在郵件里寫(xiě)道「花時(shí)間制作高質(zhì)量的 YouTube 視頻在經(jīng)濟(jì)上沒(méi)有意義，其他人花 5-6 個(gè)小時(shí)制作一個(gè)『完美』的視頻，我們不到半小時(shí)就能做出 8-10 條短視頻。」或是「YouTube 短視頻的算法已經(jīng)壞了，現(xiàn)在正是用 AI 短視頻來(lái)利用這個(gè)漏洞最佳時(shí)機(jī)。」

Bitton 的引路人是 Mustafa，去年 Mustafa 就靠同樣的玩法賺到百萬(wàn)美金。如今他已經(jīng)「產(chǎn)業(yè)升級(jí)」，靠出售 AI 工具和營(yíng)銷服務(wù)賺錢(qián)，他的付費(fèi)社區(qū)共有 80000 名會(huì)員，40 美元/月的會(huì)費(fèi)。這還只是學(xué)習(xí) Mustafa 理論的價(jià)格，實(shí)操工具又是另一個(gè)費(fèi)用。

具體到這條產(chǎn)業(yè)鏈上，他們出售的 AI 工具有 AI 視頻文案模版，AI 語(yǔ)音和自動(dòng)剪輯，TikTok 賬號(hào)批量管理，他們甚至開(kāi)發(fā)出了繞過(guò) TikTok 版權(quán)檢測(cè)的工具，可以自動(dòng)抓取 YouTube 片段轉(zhuǎn)制成短視頻。

任何人都能幾分鐘內(nèi)批量生產(chǎn)垃圾短視頻｜圖源：Crayo.ai

以最受社區(qū)推崇的 Crayo.ai 為例，該平臺(tái)號(hào)稱「一次制作出無(wú)限短視頻」，提供了各類專門(mén)迎合 TikTok 算法的內(nèi)容模板，比如「無(wú)真人出鏡內(nèi)容」、「Reddit 故事改編」以及「科普解說(shuō)短視頻」。

從內(nèi)容抓取到配音剪輯，再到一次性大量上傳，Crayo.ai 可以讓 AI 短視頻生產(chǎn)流程全自動(dòng)化，10 秒鐘就能做出來(lái)一條 1 分鐘的短視頻，基礎(chǔ)套餐只需要 19 美元（約 140 元），每月提供 20 條 AI 短視頻。

而 Mustafa 在社區(qū)里直言「在 TikTok 上起號(hào)最簡(jiǎn)單和最常見(jiàn)的方法，就是從著名內(nèi)容創(chuàng)作者和熱門(mén)長(zhǎng)視頻里抄內(nèi)容，重新剪輯后上傳。」

03 算法和數(shù)據(jù)思維的挑戰(zhàn)

抄襲其他創(chuàng)作者，獵奇視頻恐嚇用戶，無(wú)限投放 AI 制造的垃圾內(nèi)容……這些亂象難道平臺(tái)方就坐視不管嗎？

TikTok 暫未有明顯動(dòng)作，但 Meta 不僅放任這些內(nèi)容泛濫，還在助長(zhǎng)這一現(xiàn)象。

去年，馬克·扎克伯格在投資者會(huì)議里就提到「AI 幫助人們創(chuàng)作，能讓用戶刷短視頻的體驗(yàn)更好……我們將增加一個(gè)全新的內(nèi)容類別：AI 制作。」

Meta 甚至調(diào)高了用戶信息流里 AI 內(nèi)容的比重，同時(shí)把 AI 制作工具賣(mài)給廣告商，他們推出的 Advantage+ 服務(wù)能讓廣告商一次性生成 50 條廣告，再投放到平臺(tái)里去賭算法推薦。

Meta 提供的一站式 AI 創(chuàng)作服務(wù)｜圖源：Meta

扎克伯格秉持著「AI 生成內(nèi)容是趨勢(shì)，用戶終將會(huì)習(xí)慣」的立場(chǎng)也不奇怪。根據(jù) Meta 去年的數(shù)據(jù)顯示，AI 內(nèi)容大量注入平臺(tái)后，用戶在 Facebook 留存時(shí)間增加了 8%，Instagram 增加了 6%。

對(duì) Meta 來(lái)說(shuō)，只要 AI 能帶來(lái)更多流量和廣告收入，AI 垃圾內(nèi)容的泛濫就不是問(wèn)題，反而是內(nèi)容平臺(tái)緊隨 AI 趨勢(shì)的進(jìn)化，如果用戶對(duì) AI 生成的內(nèi)容不滿，那是他們跟不上時(shí)代，不是平臺(tái)的問(wèn)題。平臺(tái)的首要目標(biāo)是有源源不斷的視頻上傳帶來(lái)流量，有流量就有廣告商，從而創(chuàng)造營(yíng)收。

的確如此，文章開(kāi)頭那條視頻帶來(lái)了 3.62 億的播放量，哪怕評(píng)論區(qū)有大量用戶評(píng)論表達(dá)了厭惡、反感、不適，但就像互聯(lián)網(wǎng)的流量定律：負(fù)面內(nèi)容越極端，評(píng)論和轉(zhuǎn)發(fā)就越多，算法就越愛(ài)它。

扭曲畸形的嬰兒、擬人化的畸變動(dòng)物、深度偽造的名人影像、披著科普外衣的陰謀論……這些原本只會(huì)在特定圈子內(nèi)流傳的獵奇內(nèi)容，如今被 AI 工具批量復(fù)制，投放到大眾化的社交平臺(tái)。

上面爆火視頻的某條留言｜圖片來(lái)源：網(wǎng)絡(luò)截圖

就像開(kāi)頭視頻下方點(diǎn)贊破千的評(píng)論所寫(xiě)：某人的奶奶肯定會(huì)覺(jué)得這視頻是真的。

這讓未來(lái)的社交媒體，可能不再是人與人之間的交流平臺(tái)，而是一個(gè)賭場(chǎng)，AI 垃圾制造者在賭平臺(tái)算法，用戶在賭下一條視頻，不會(huì)給自己造成精神污染，平臺(tái)在賭自己能在流量和內(nèi)容崩壞之間找到盈利的平衡。

而如果事情走向極端，這可能會(huì)導(dǎo)向一個(gè) AI 生成內(nèi)容主導(dǎo)，人類創(chuàng)作淪為邊緣，真假信息難以辨別，用戶被垃圾內(nèi)容「Mindfxxk」的互聯(lián)網(wǎng)時(shí)代。

現(xiàn)在不少平臺(tái)已經(jīng)要求創(chuàng)作者，在 AI 生成內(nèi)容上標(biāo)明「AI 制造」的標(biāo)簽，但或許人們需要一個(gè)更細(xì)分、更周詳?shù)貙?duì)于 AI 生成內(nèi)容的規(guī)范，來(lái)保護(hù)「不明真相」的用戶。

至少，對(duì)于因?yàn)閷?xiě)下稿件，而被這些 AI 噩夢(mèng)折磨了一周的我來(lái)說(shuō)，就非常需要一個(gè)「一鍵屏蔽 AI 內(nèi)容」的按鈕。而讀這篇稿件的你，也同樣需要。

文章參考：https://www.404media.co/ai-slop-is-a-brute-force-attack-on-the-algorithms-that-control-reality/?ref=daily-stories-newsletter

https://www.404media.co/inside-the-world-of-tiktok-spammers-and-the-ai-tools-that-enable-them/ ?

來(lái)源 | 極客公園t（ID：geekpark）

作者 | Moonshot ; 編輯 | 荔枝

內(nèi)容僅代表作者獨(dú)立觀點(diǎn)，不代表早讀課立場(chǎng)