近日，名為“嬋寶小助理”“全妹福利號”等多個賬號，使用全紅嬋賽后接受采訪和家人直播的畫面，用AI合成相應的聲音，在社交平臺發布視頻。以“全紅嬋家建別墅”“全紅嬋為觀眾送上福利”等話題吸引觀眾，博取流量。

視頻里呈現全紅嬋受訪的畫面，內容卻被AI篡改為介紹土蜂蜜、駱駝奶粉、洗衣凈等商品，并推薦觀看者點擊商品鏈接購買。評論區有用戶被合成視頻欺騙，表示“支持全紅嬋，值得購買。”

社交媒體上的合成視頻帶貨截圖

4月29日，全紅嬋父親告訴記者，有人用AI偽造一家人聲音賣蜂蜜，他們也沒有辦法。“幫我辟謠一下，我沒有賣這東西，什么蜂蜜才十幾塊錢一斤，拿糖來搞都搞不到。”

據悉，全紅嬋的父母長期靠種植水果維持生計，全紅嬋的大哥全進華是一名三農主播，帶貨湛江本地的特產水果，全紅嬋的母親也時常入鏡，全家人直播帶貨曾引發不少網友的質疑。

對此，全進華在采訪中表示：“我現在在自媒體上發發視頻，主要是想帶動‘三農’產品進行銷售。為什么做這個呢？一是我媽媽身體不好，做這個比較自由，可以兼顧照顧長輩。二是我們這邊種有很多水果，特別是菠蘿，每隔幾年就會出現滯銷。因為種得太多，行情波動較大，沒人來收的話，水果就爛在地里，所以我想幫一下他們。”

他說：“雖然我還不是個（流量）很大的博主，也不一定能賣出很多東西，但我希望盡自己能力幫助家人、村里乃至湛江以及其他地方的農產品進行銷售。”

此前曾有多位明星被AI侵權

2024年4月，北京互聯網法院宣判全國首例“AI聲音侵權案”，明確認定在具備可識別性的前提下，自然人聲音權益的保護范圍可及于AI生成聲音。法院認為，未經權利人許可，擅自使用或許可他人使用錄音制品中的聲音構成侵權。

今年兩會期間，全國人大代表、小米集團創始人雷軍建議“加強‘AI換臉擬聲’違法侵權治理”，并表示他本人也曾是“AI換臉擬聲”的“受害者”。

早前短視頻平臺上曾出現大量“雷軍AI配音”的惡搞視頻，涉及堵車、調休、游戲等熱門話題，雷軍兩會期間回應，“一開始我還覺得這是網民喜聞樂見的一種方式，但是隨著內容越來越多，網友們也都在投訴。”為此，他呼吁盡快出臺相關治理措施。

同樣，全國政協委員靳東也回應了AI換臉導致的詐騙問題，并表示“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣，希望能建立更好的規則。”

此前，有網友向演員劉曉慶反饋有人在視頻號AI生成視頻假冒她。劉曉慶轉發并配文：“天哪，我點進去看了一下，畫面是我，聲音很像我，但不是我！這是怎么做到的？大家以后不會搞不清楚哪個才是真的我了吧？我在各個平臺都叫劉曉慶！”

4月18日，張馨予發文表示：“近期發現有品牌AI復制我的聲音，未經授權編造剪輯廣告視頻，還有減肥藥廣告，我覺得這樣的行為很惡劣。在此說明我從來沒有推薦過任何減肥藥，有商家利用Ai技術非法剪輯投放廣告，我一定追究到底。”

河南澤槿律師事務所主任付建稱，通過AI技術冒用他人聲音的行為屬于違法行為。根據《中華人民共和國民法典》，對自然人聲音的保護參照適用肖像權保護的有關規定。而商家利用AI篡改專家說辭進行直播賣貨既侵犯了專家有關聲音的人格權益，也可能損害了專家的名譽權以及肖像權。

同時，這種打廣告的行為也涉及虛假廣告宣傳，如果所賣商品沒有宣傳效果還構成消費者欺詐，違反了《反不正當競爭法》和《消費者權益保護法》有關規定，有可能面臨罰款、吊銷營業執照等行政責任以及相應的民事賠償責任，情節嚴重的還涉及刑事犯罪。

“平臺有權依據《互聯網信息服務管理辦法》《電子商務法》以及平臺規則履行監管義務，對違法商家采取封禁賬號、限流等處理措施。如果未及時采取合理措施導致損害擴大的，對擴大部分與不法商家承擔連帶責任。”付建表示。

來源：封面新聞、九派新聞、新京報、荊楚網