作者｜Moonshot
編輯｜靖宇

先上一張圖，這是一組 AI 生成視頻的封面，如果你看到這些圖片就已經感到不適，再細想一下，這要是你隨手下滑，自動播放的短視頻呢？

如果你看這張圖已經不適，你最好不要再點擊下面的視頻｜圖源：404 Media

上圖的每一張封面，可能都是一條這類視頻。10 秒左右，前幾秒是平淡無奇地日常，畫風突變后，AI 生成出一幅極其詭異的景象，最終停留在讓人不寒而栗的一幀。

該視頻 Instagram 上觀看量達到 3.62 億，收獲 349 萬贊。

這種傳播量意味著它作為爆火內容，會跳出算法隨機推送給用戶，如果你不小心刷到了，好奇心讓你多看了一會兒，而后又過于震驚，以至于沒有快速劃走，那算法會把你推向 AI 生成視頻的深淵。

那里是一個人類利用 AI 生成出的恐怖谷，將給你造成極大的精神污染，毀掉你的上網體驗。

精神污染的「AI 深淵」

發布這條「蜘蛛長頸鹿人」的短視頻博主的主頁里，全是類似視頻，這也讓他在建號 2 個月時間里，收獲了 12 萬的關注者，和上萬美金的平臺收入。

想象一下，有成千上萬的類似賬戶每天產出數十條這類視頻，再投放到各大短視頻平臺里。

這類視頻都有著「AI 生成，十秒左右，畫風突變，精神污染」的共性，這些人只要調教好對 AGI 視頻模型的提示詞和參數，可能在你被嚇到之前，他們就誕生了一條新「作品」。

該賬號其他內容｜圖源：Instagram

而這類視頻和其他 AI 短視頻不同之處在于：在畫面上極度詭譎和獵奇。它已經跳出了 AI 和現實擦邊的恐怖谷，而是在普通的生活場景里，突然讓人畸變，長出異常的肢體，變成不可名狀的怪物。

不同于人類導演精心編排的恐怖片， AI 生成的視頻是一種「無意的恐怖」，比刻意制造的恐怖更令人不安，因為它沒有任何軌跡可以預判。

在看這些內容時，它超出了人類的理性認知，我們會不自覺地感到「這個東西不應該存在」。

而這類視頻的本質就是觸發你深層的不適和驚悚感，瞬間讓你大腦短路，甚至不敢點擊屏幕把視頻劃走。

獵奇成人內容也是一大主題｜圖源：Instagram

在 404 Media 報道這種亂象的文章里，作者 Jason Koebler 把這種用 AI 生成內容，去賭算法推薦的方法比喻成「暴力破解」。

這些視頻制作者的目的并不針對個人，而是為了操縱平臺算法。利用 AI，他們可以批量生成并投放內容，不斷試探流量機制，總有一條能鉆進流量的縫隙，一旦某條視頻被推爆，更多同類視頻就會接連涌入，形成惡性循環。

哪怕平臺快速出手，把這類獵奇視頻限流。但這些人換一批提示詞，又可以開始新一輪「流量賭博」。因為 AI 生產內容太快了，遠遠快過人類創作和平臺的算法變化，無論平臺怎么調整，都會面臨政策趕不上對策的窘境。

人類創作者需要研究平臺算法、策劃選題、拍攝制作，耗時耗力耗錢制作出一條優質視頻。AI 分秒鐘生產數十條垃圾視頻，發到平臺上不火也沒關系，馬上再上傳幾十條。

人類用質量換流量，AI 只需要用數量。

就像一位密碼學家正在絞盡腦汁研究密碼算法時，AI 已經把 00000 到 99999 的 10 萬種可能性都試過了，總有一個對的，這就是最簡單的「暴力破解」。

與此同時，由于 AI 生成內容的泛濫，讓真正由人類創作的內容越來越難以被發現。低質量、假信息占據了用戶的信息流，不管是創作生態還是平臺內容，都往劣幣驅逐良幣的方向滑落。

至此，視頻制作者獲得了流量，每一個刷到視頻的用戶受到精神污染，整個內容平臺被這些獵奇、低質的 AI 生成內容所侵蝕。

只有這些毫無底線利用 AI 的人贏了。然而流量帶來的快錢，正在驅使越來越多的人加入這個行當。

流量和財富密碼

Jason Koebler 每天都會收到一個 17 歲的 YouTuber Daniel Bitton 的營銷郵件。

點開這名 YouTuber 的主頁，他有 11.7 萬訂閱者，最火的一條視頻《我復制粘貼一個 YouTube 頻道，讓我每個月賺到 10 萬美元》有 74 萬播放量。這條視頻的主旨就是：雇人作內容太貴了，我們決定用 AI 復制爆火視頻。

小伙另一個爆火視頻是《16 歲的我如何成為百萬富翁》｜圖源：YouTube

于是他隨便修改一下爆火科普視頻的腳本，再加一些爭議性話題比如《亞洲人為什么眼睛小》，配上 AI 制作的驚悚動畫，大量投放到各大短視頻平臺，不火就馬上調整選題，加入更多爭議要素。

而 Bitton 營銷郵件就是賣他這套「成功公式」，他在郵件里寫道「花時間制作高質量的 YouTube 視頻在經濟上沒有意義，其他人花 5-6 個小時制作一個『完美』的視頻，我們不到半小時就能做出 8-10 條短視頻。」或是「YouTube 短視頻的算法已經壞了，現在正是用 AI 短視頻來利用這個漏洞最佳時機。」

Bitton 的引路人是 Mustafa，去年 Mustafa 就靠同樣的玩法賺到百萬美金。如今他已經「產業升級」，靠出售 AI 工具和營銷服務賺錢，他的付費社區共有 80000 名會員，40 美元/月的會費。這還只是學習 Mustafa 理論的價格，實操工具又是另一個費用。

具體到這條產業鏈上， 他們出售的 AI 工具有 AI 視頻文案模版，AI 語音和自動剪輯，TikTok 賬號批量管理，他們甚至開發出了繞過 TikTok 版權檢測的工具，可以自動抓取 YouTube 片段轉制成短視頻。

任何人都能幾分鐘內批量生產垃圾短視頻｜圖源：Crayo.ai

以最受社區推崇的 Crayo.ai 為例，該平臺號稱「一次制作出無限短視頻」，提供了各類專門迎合 TikTok 算法的內容模板，比如「無真人出鏡內容」、「Reddit 故事改編」以及「科普解說短視頻」。

從內容抓取到配音剪輯，再到一次性大量上傳，Crayo.ai 可以讓 AI 短視頻生產流程全自動化，10 秒鐘就能做出來一條 1 分鐘的短視頻，基礎套餐只需要 19 美元（約 140 元），每月提供 20 條 AI 短視頻。

而 Mustafa 在社區里直言「在 TikTok 上起號最簡單和最常見的方法，就是從著名內容創作者和熱門長視頻里抄內容，重新剪輯后上傳。」

算法和數據思維的挑戰

抄襲其他創作者，獵奇視頻恐嚇用戶，無限投放 AI 制造的垃圾內容……這些亂象難道平臺方就坐視不管嗎？

TikTok 暫未有明顯動作，但 Meta 不僅放任這些內容泛濫，還在助長這一現象。

去年，馬克·扎克伯格在投資者會議里就提到「AI 幫助人們創作，能讓用戶刷短視頻的體驗更好……我們將增加一個全新的內容類別：AI 制作。」

Meta 甚至調高了用戶信息流里 AI 內容的比重，同時把 AI 制作工具賣給廣告商，他們推出的 Advantage+ 服務能讓廣告商一次性生成 50 條廣告，再投放到平臺里去賭算法推薦。

Meta 提供的一站式 AI 創作服務｜圖源：Meta

扎克伯格秉持著「AI 生成內容是趨勢，用戶終將會習慣」的立場也不奇怪。根據 Meta 去年的數據顯示，AI 內容大量注入平臺后， 用戶在 Facebook 留存時間增加了 8%，Instagram 增加了 6%。

對 Meta 來說，只要 AI 能帶來更多流量和廣告收入，AI 垃圾內容的泛濫就不是問題，反而是內容平臺緊隨 AI 趨勢的進化，如果用戶對 AI 生成的內容不滿，那是他們跟不上時代，不是平臺的問題。平臺的首要目標是有源源不斷的視頻上傳帶來流量，有流量就有廣告商，從而創造營收。

的確如此，文章開頭那條視頻帶來了 3.62 億的播放量，哪怕評論區有大量用戶評論表達了厭惡、反感、不適，但就像互聯網的流量定律： 負面內容越極端，評論和轉發就越多，算法就越愛它。

扭曲畸形的嬰兒、擬人化的畸變動物、深度偽造的名人影像、披著科普外衣的陰謀論……這些原本只會在特定圈子內流傳的獵奇內容，如今被 AI 工具批量復制，投放到大眾化的社交平臺。

上面爆火視頻的某條留言｜圖片來源：網絡截圖

就像開頭視頻下方點贊破千的評論所寫：某人的奶奶肯定會覺得這視頻是真的。

這讓未來的社交媒體，可能不再是人與人之間的交流平臺，而是一個賭場，AI 垃圾制造者在賭平臺算法，用戶在賭下一條視頻，不會給自己造成精神污染，平臺在賭自己能在流量和內容崩壞之間找到盈利的平衡。

而如果事情走向極端，這可能會導向一個 AI 生成內容主導，人類創作淪為邊緣，真假信息難以辨別，用戶被垃圾內容「Mindfxxk」的互聯網時代。

現在不少平臺已經要求創作者，在 AI 生成內容上標明「AI 制造」的標簽，但或許人們需要一個更細分、更周詳地對于 AI 生成內容的規范，來保護「不明真相」的用戶。

至少，對于因為寫下稿件，而被這些 AI 噩夢折磨了一周的我來說，就非常需要一個「一鍵屏蔽 AI 內容」的按鈕。而讀這篇稿件的你，也同樣需要。

文章參考：

https://www.404media.co/ai-slop-is-a-brute-force-attack-on-the-algorithms-that-control-reality/?ref=daily-stories-newsletter

https://www.404media.co/inside-the-world-of-tiktok-spammers-and-the-ai-tools-that-enable-them/

我們正在招募伙伴

簡歷投遞郵箱
hr@ifanr.com

?? 郵件標題
「姓名+崗位名稱」（請隨簡歷附上項目/作品或相關鏈接）