近日，名為“嬋寶小助理”“全妹福利號”等多個賬號，使用全紅嬋賽后接受采訪和家人直播的畫面，用AI合成相應的聲音，在社交平臺發布視頻。以“全紅嬋家建別墅”“全紅嬋為觀眾送上福利”等話題吸引觀眾，博取流量。

視頻里呈現全紅嬋受訪的畫面，內容卻被AI篡改為介紹土蜂蜜、駱駝奶粉、洗衣凈等商品，并推薦觀看者點擊商品鏈接購買。評論區有用戶被合成視頻欺騙，表示“支持全紅嬋，值得購買?！?/p>

社交媒體上的合成視頻帶貨截圖

4月29日，全紅嬋父親告訴封面新聞記者，有人用AI偽造一家人聲音賣蜂蜜，他們也沒有辦法。“幫我辟謠一下，我沒有賣這東西，什么蜂蜜才十幾塊錢一斤，拿糖來搞都搞不到?！?/p>

現象：

多名公眾人物被“AI假冒”

劉曉慶問“怎么做到的？”

社交平臺多則視頻顯示，全紅嬋并非“AI造假”唯一的受害者，此前已有多位明星、專家學者被AI生成視頻假冒帶貨。

3月3日，四川籍著名演員劉曉慶在微博回應網友反饋。該網友表示，微信視頻號內，有許多AI生成的視頻在假冒她。

劉曉慶轉發回應：“天哪，我點進去看了一下，畫面是我，聲音很像我，但不是我！這是怎么做到的？大家以后不會搞不清楚哪個才是真的我了吧？我在各個平臺都叫劉曉慶！”

知名醫生“張文宏”被AI合成視頻假冒售賣蛋白棒。網友發布的截圖顯示，該蛋白棒產品已售出了1266份。事后，張文宏告訴央視記者，這樣的賣貨賬號不止一個，而且一直在變，他已多次向平臺投訴。

小米CEO雷軍也是熱門“AI對象”，視頻畫面中的雷軍或帶貨，或惡搞，還就各類熱門話題發表評論。

4月18日，女星張馨予在社交平臺發文，稱有商家利用AI技術復制其聲音售賣減肥藥，引發關注。

張馨予表示：“近期發現有品牌AI復制我的聲音，未經授權編造剪輯廣告視頻，還有減肥藥廣告，我覺得這樣的行為很惡劣。在此說明我從來沒有推薦過任何減肥藥，有商家利用AI技術非法剪輯投放廣告，我一定追究到底。”

在今年的全國政協十四屆三次會議的政協小組討論會上，全國政協委員靳東回應了AI換臉導致的詐騙問題。他說：“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣，希望能建立更好的規則?！?/p>

律師：

AI假冒公眾人物已侵權

網絡平臺應具備識別和審核能力

封面新聞此前報道，《哪吒2》上映期間，多個賬號使用AI偽造視頻，稱“劉德華在澳洲、歐洲、澳門演唱會上，現場喊話觀眾助力哪吒沖擊票房，承諾向所有粉絲贈送哪吒電影票”。部分賬號的粉絲量已超50萬。不少網友信以為真，稱贊劉德華“格局大”，喊話梁朝偉“跟上”。

對此，北京市中聞（長沙）律師事務所律師劉凱表示，這些行為涉嫌侵犯了明星及相關普通人員的姓名權、肖像權以及名譽權。如果通過虛假信息吸引粉絲并牟利（如廣告收入、帶貨等），涉嫌構成不正當競爭或詐騙。

劉凱律師認為，技術、軟件開發者應設置明確的倫理準則，防止開源技術被濫用；網絡平臺應具備識別AI生成內容的能力，要求用戶標注AI生成內容，并對虛假或侵權內容審核、清理；職能部門應加強監管，司法部門應完善相關法律法規，以提高此類行為的違法成本。

社交媒體的合成視頻及用戶評論截圖

國家職能部門：

《標識辦法》 9月1日施行

生產者和平臺均明確責任和義務

針對AI造成的虛假信息傳播、破壞網絡生態等問題。3月14日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》，自2025年9月1日起施行。

《標識辦法》明確，服務提供者提供的生成合成服務應當按照要求對生成合成內容添加顯式或隱式標識。其中，顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的標識。

《標識辦法》要求，內容傳播服務的提供者應當規范“AI合成內容”的傳播活動。應用程序分發平臺、人工智能生成合成服務提供者，均需承擔主動說明、核驗“AI合成內容標識”相關材料。

服務提供者應當明確說明生成合成內容標識的方法、樣式等規范內容，并提示用戶仔細閱讀并理解相關的標識管理要求。用戶使用網絡信息內容傳播服務發布生成合成內容的，應當主動聲明并使用服務提供者提供的標識功能進行標識。

原標題：《全紅嬋帶貨土蜂蜜？全父：均系偽造視頻》

欄目主編：孫欣祺 文字編輯：董思韻 題圖來源：上觀題圖 圖片編輯：雍凱

來源：作者：封面新聞