AI是很美好的東西

但也可能是傷人的利器

來源公眾號：李月亮

01

前陣子，有粉絲給劉曉慶留言。

說有一個視頻賬號，發了很多劉曉慶的視頻，但里面很多話明顯不是劉曉慶說的，應該是AI生成的。

比如這個賬號里，有個劉曉慶演講的視頻。

她在里面講自己“出獄當天連吃了三碗炸醬面”。

——這是根本沒有的事兒。

劉曉慶自己點進去一看，也驚了——

“天哪，畫面是我，聲音很像我，但不是我！

這是怎么做到的？

以后大家不會搞不清哪個才是真的我了吧？”

簡直是現實版真假美猴王。

關鍵假劉曉慶賬號流量還很大，點贊成千上萬。

評論區也非常熱鬧，好多不明真相的網友在熱烈發言。

更可怕的是，這種號還很泛濫。

雷軍也掉過這個坑。

——準確說，一直在坑里。

這兩年，網上特別流行用“AI雷軍”做配音。

用雷軍的聲音，說各種離譜的話。

有時候瘋狂罵人，有時候胡說八道——

“你們年輕人整天就知道TMD扯淡！”

“我打算用50億投資安徽農業大學，誰要阻攔我，我就遠程操控小米SU7把他撞飛！”

這種假視頻，不仔細分辨很容易信以為真。

雷軍深受困擾，但是也沒什么辦法。

他一再告誡網友不要這么惡搞。

但是這個風根本剎不住。

到現在還有人收錢教人如何制造“AI雷軍語音”。

有內行的網友告訴劉曉慶，現在的AI只要輸入你的形象和臺詞，就能自動生成你的視頻。

做視頻的人想讓你說什么，你就說什么，想讓你賣什么，你就賣什么。

你說嚇不嚇人。

02

不得不說，現在AI的發展堪稱炸裂。

經常上網的人，每天都會不知不覺地看一堆AI生成的視頻。

有些AI視頻沒啥壞處，就是圖個樂呵。

比如甄嬛舉起“屠龍槍”。

比如林妹妹大戰賈寶玉。

這些視頻一看就是假的，大家樂呵樂呵就過去了。

算是人畜無害。

而有些AI視頻，問題就大了。

比如造假重災區——AI小孩和AI寵物。

這種虎頭虎腦的AI大胖孫子，很多人都刷到過。

打開短視頻軟件，一排白白胖胖的小孩朝你招手。

馱著大豬蹄，頂著烤乳豬。

又好看又能干。

三歲就能摘菜、洗菜。

一個人做出四菜一湯。

這群大胖孫子把很多老年人哄得挪不開眼。

動不動轉發到家人群，“看看人家這小孩”。

言外之意，敦促兒子兒媳女兒女婿都學著點，好好教教自己那個不成器的娃，人家三歲都能做四菜一湯了，你瞅瞅你養那個，鞋都穿不上。

咱就說這玩意得引發多少家庭矛盾。

有位網友過年回家探望老人。

發現奶奶根本不搭理他，反倒對著手機里的假孫子哎了半個小時。

他說那是假的，奶奶根本不相信。

現在“AI大胖孫子”，已經流傳到動物界了。

小狗燉雞湯。

小貓擺攤賣炒飯。

最常見的是一只小橘貓。

一會兒救老奶奶，一會兒救白娘子。

可給它忙壞了。

03

好在，這種AI視頻畢竟好識別，危害還算小。

很多賣藥帶貨的AI數字人，才貽害無窮。

像這種一頭白發的“金牌老中醫”。

經常在鏡頭前娓娓道來，傳授她的養生技巧。

乍看很讓人信服。

但事實上，她是個AI生成的“數字老專家”。

從形象到聲音，到文案，到頭銜，都是憑空偽造的。

是個徹頭徹尾的冒牌貨。

而這種“數字專家”們說的話，更是蒙人。

看似有道理，實則比鬼話還離譜——

按揉大拇指的穴位可以治愈近視。

拍打左肩膀能徹底治好心臟病。

每天吃三顆紅棗，貧血立刻好。

喝綠豆湯包治百病，所有藥都讓你停掉……

所謂“獨家秘方”，其實都是他們瞎編的。

所謂“臨床研究數據”，根本沒有人臨床研究過。

你要是信他們，指不定掉啥坑里去。

有網友試過了。

跟著上面那個老太太做養生的動作，最后會變成這樣。

更別提跟著她求醫問藥了。

@小宇在農村

這種“數字專家”，很有迷惑性。

有時候打眼一看，真看不出是假的。

比如這位哥們。

有皺紋，有痘印，臉上還出了點油。

看面相就是業主群里的一個普通鄰居。

但他其實是個挺出名的AI人，叫“王建國”。

別看其貌不揚，走的還是“蠱惑人心”的情感賽道。

打開短視頻平臺，王建國從花叢里鉆出來。

嘴甜心暖，卯著勁哄老姐姐們開心。

時不時還動一動感情。

眼眶微微泛紅，害羞地袒露心意：

“連睡夢里，我都會情不自禁地，叫著你的名字。”

雖然沒辦法敞開自己的心房。

但是……

他可以向老姐姐們打開櫥窗。

他的視頻其實有平臺的AI標識。

但是很不顯眼，一般人都不會注意到。

不少老姐姐被王建國迷得七葷八素，咔咔下單。

后來，王建國還“拖家帶口”地上崗。

讓他的AI兒子、AI閨女都開始發類似的短視頻。

帶貨效果也不錯。

這一家子根本不存在的AI人，不知道給幕后主人賺了多少錢。

這樣的AI人，現在越來越多。

喊幾句“寶寶姐姐”，就能賺得盆滿缽滿。

而他的姐姐們可能一直不知道。

你為之撒錢的弟弟，根本不是人。

因為AI是機器生成的產物。

一旦出事，賬號注銷跑路。

受害者要找到機器背后的人維權，十分困難。

04

劉曉慶遇到的陷阱，是AI技術的進階版，叫“深度偽造”。

這個技術，用一張真人照片，就能生成說話、跳舞、賣貨的視頻。

并且做得惟妙惟肖。

靳東、陳建斌、劉德華……很多知名人物都是受害者。

前陣子，張伯禮院士也在央視辟謠。

說有不少人用他的形象做AI廣告，帶貨護膚品、賣藥。

他氣憤又憂心：

“對我的影響還是第二位的，最可怕的是這些東西誤導消費者，讓老百姓買到假藥。”

更讓人憂心的是，這個技術也會被用在普通人身上。

北京的69歲徐大爺，因為拍了條視頻。

莫名其妙被人用AI改造成了“90歲患癌老人”。

通過講述離奇的經歷，騙網友買抗癌神藥。

有一天，他在天壇公園鍛煉，遇到了看過他廣告的人。

那人氣勢洶洶地問他賺了多少黑心錢。

他才知道，自己早就被“上鏈接”了。

05

那么如何防范這無孔不入的AI坑呢？

其實也不難。

學會以下幾個小技巧，基本就不會踩坑了：

第一，最直接的辦法，就是去看視頻下方有沒有AI標識。

大部分AI視頻都能被系統識別，貼上標簽。

第二，對于沒有標識的視頻，可以觀察他們的面部特征。

AI一般會出現一種“機器長相”。

皮膚光滑、五官不協調、沒有清晰的頭發絲兒。

第三，還可以通過一些細節看出AI痕跡——

眨眼頻率過快或者過慢。

牙齒邊緣過于整齊。

瞳孔顏色兩邊不一樣（比如一個黑，一個棕，因為融合了不同人的臉）。

第四，看他說的話、做的事是否符合常識。

對于違反常識、又說不清來源的言論，不要輕信。

第五，如果有親友打來電話或視頻借錢，要當心AI騙局。

可以要求他在鏡頭前揮揮手，觀察臉部有沒有明顯不正常的抖動。

或者問一些只有對方才知道的問題，驗證那邊是不是本人。

第六，求證AI問題的時候，不要過于相信它。

現在我們經常會找AI問各種問題。

這就需要有一個基本常識：

AI親口回答你的內容，不能完全相信。

因為AI技術背靠的信息池，像一本巨大的百科書。

所有網友說的話，不管真假，它都照單收錄。

所以，它可能會天馬行空地說一些根本不存在的東西。

而且說得有鼻子有眼。

也因為信息被污染，AI有時連一些簡單的問題都答不對。

告訴你過完一輪12生肖，需要13.5年。

1000天前是2023年。

有時是因為問到了知識盲區。

觸及了AI的自由創作機制，讓它開始一本正經地胡說八道。

清華大學的研究團隊發現，AI的幻覺率高達30%。

差不多問它三次問題，它就可能犯一次迷糊。

因為內容生產的機制存在硬傷，哪怕最先進的AI，都逃脫不了出現幻覺的麻煩。

如果你一定要使用AI查找信息，可以借助“三角求證法”。

問三個AI產品同一個問題。

一般會得到比較靠譜的答案。

這個時代，AI已經成為人們的得力助手。

但我們在利用AI的同時，也要提升對它的認知。

避免被AI蒙蔽。

畢竟越好的東西，越可能是傷人的利器。

謝謝你看完文章，如果你也認同，還請點亮【贊】+【在看】。

本文作者：李月亮，高人氣作家，微信公眾號【李月亮】每日解讀熱點，透析人性，以理性和智慧陪讀者成長。新書《活得清醒》當當網熱賣中。

Hot Events

讓每一次閱讀都有價值