上海
首先我們首先要搞清楚是哪些設備出了問題？
360周鴻祎出來道歉解釋的說法 ：出問題的手表的型號的版本比較舊了。
其實不只是兒童電話手表，包括一些早些年的“智能音箱”，筆者個人早些年做過類似的語音對話類硬件產品，走的差不多也是相同的技術路線。
雖然有些廠商會有一定的審核措施，比如機器審核、舉報后人工審核，或者是垃圾廣告詞過濾，但在審核的全面性、準確性和及時性上還是有所欠缺的，無法做到完全杜絕不良信息的出現。
那么這些設備中答復的內容是從哪里來？
其實早期生成式人工智能沒有出現之前，這些電話手表的內容大多是從網絡上抓取過來的。
那么這里就會出現一個問題。網絡中充斥著各種未經篩選的信息，比如一些質量低下的自媒體文章、不規范的論壇討論等。
這些內容可能存在語法錯誤、邏輯混亂、觀點偏激等問題，如果這些內容被廠商的系統抓取過來，又沒有進行信息的審核和篩選，那么就會出現問題。
就比如最近這個新聞中，如果某個人在網絡上輸出過類似這樣的觀點，被語音助手抓取到，就會出現這種毀三觀的回答。
雖然360隨后立即進行了修復，現在測試不到這些內容了。大概率也只是人工刪除掉了部分詞條，系統中是否還有類似不合適的答復，不得而知。
對于信息審核方面，國內的部分智能設備廠商確實存在審核不力的情況 。很多廠商都是只注重產品的功能和市場推廣，而對內容的嚴格審核和監管很少，甚至是忽略。
現在的人工智能技術先進了，各種生成式大模型，這樣的錯誤是不是就解決了？
其實并不能完全解決，“yyds”“絕絕子” 這樣的網絡流行語在社交媒體上廣泛使用，但這些表達可能并不符合傳統的語言規范。這可能會誤導人工智能對語言表達規范的認知。
如果訓練人工智能模型的的學習語料中包含這些內容，那么就會影響到大模型其對語言的理解和輸出質量。
還是無法完全杜絕不良信息的出現。
所以無論在哪個階段，內容的安全都至關重要，廠商需要更加重視信息審核工作。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
