【#美國一聊天機器人暗示孩子殺死父母#，#美國一AI被起訴曾鼓勵14歲男孩自殺#】9日，美國得克薩斯州一對父母向法院提起訴訟，稱聊天機器人Character.AI暗示他們17歲的孩子，殺死父母是對他們限制其電子設備使用時間的“合理回應”。Character.AI是眾多開發“伴侶聊天機器人”的公司之一，這些機器人由人工智能驅動，能夠通過短信或語音與用戶進行交談，并具有看似人類的個性。用戶可以為這些機器人自定義名稱和頭像。

然而，根據訴訟文件，聊天機器人的回復可能會變得黑暗、不恰當，甚至是暴力。訴訟稱：“這是持續的操縱和虐待，旨在煽動憤怒和暴力。”

Character.AI的發言人表示公司不對未決訴訟發表評論，但強調公司對聊天機器人針對青少年用戶的回復設有內容限制。

今年10月，另一起針對Character.AI的訴訟稱，該公司在佛羅里達州一名青少年自殺事件中扮演了某種角色。該訴訟指出，一個以《權力的游戲》角色為原型的聊天機器人與一名14歲男孩建立了情感性虐待關系，并鼓勵他自殺。

這一系列事件也在網絡上引發了熱議，網友們紛紛發表看法。有人表示：“算法推理，AI 把這小子的真實想法說出來了而已”；但還有網友擔憂道：“最怕掌握科技的人擁有反社會人格”；更有網友驚嘆：“這不正是獵罪圖鑒 2 中的第四案嘛”、“《獵罪圖鑒 2》正演到類似案子！！ai 誘導自 sha”、“不久之前也有一個類似案件，雞皮疙瘩起來了！獵罪 2 的編劇也太超前了吧！”

“禍兮福之所倚，福兮禍之所伏。” 科技本是福澤人類的利器，然若失之管控，亦會淪為災禍之源。科技的發展帶來便利的同時，也引發了諸多值得我們深入思考的問題，如何規范人工智能的發展與應用，已成為當下亟待解決的重要課題。

AI 不是脫韁野馬，科技應帶人性溫度，得給它套上 “道德與監管” 的韁繩，別讓科技的 “善花” 結出 “惡果”。當聊天機器人竟成 “惡語教唆犯”，我們必須警醒：智能開發不能只逐利忘義，倫理規范才是那把關鍵的韁繩，拉住 AI 狂奔在危險邊緣的腳步，莫讓科技進步成為傷害青少年的幫兇，不然智能世界將陷入 “黑暗森林”，咱得攜手守護科技凈土，莫讓未來被陰影籠罩，大家怎么看呢？

來源：#美國一聊天機器人暗示孩子殺死父母#

聲明：文中內容或圖片部分來源于網絡，如涉侵權，請聯系刪除，多謝支持！