文/紙不語

ChatGPT引發的AI浪潮席卷到了法律行業。

據路透社2025年2月19日報道，美國知名個人傷害律師事務所Morgan & Morgan近期向其1000多名律師發送了一封緊急郵件，警告稱人工智能（AI）可能生成虛假的判例信息，若律師在法庭文件中使用這些虛構內容，可能會被解雇。

早前，該律所的兩名律師在處理一起針對沃爾瑪的訴訟中，被控在法庭文件中使用了AI生成的虛假案例，目前正面臨紀律處分。其中一名律師已承認使用了AI生成的虛假信息，并為此道歉。

此外，在2023年，國外還曝光了多起因使用ChatGPT生成虛假內容而引發的法律問題：2月，美國紐約南區聯邦法院在“馬塔訴阿維安卡公司案”中，制裁了兩名律師及其律所，因其提交了ChatGPT虛構的司法意見；5月，科羅拉多州一名律師因引用ChatGPT生成的虛假案件被駁回動議；同月，據英國《律師協會公報》報道，曼徹斯特法院在審理一起民事案件時，發現當事人引用了四個ChatGPT生成的虛假判例來支持其主張。

不可否認，生成式AI技術極大地縮短了律師研究和撰寫的時間，促使律所與供應商合作或自研工具。據湯森路透調查顯示，在2024年，63%的律師使用過AI，其中12%頻繁使用。

但值得注意的是，AI存在“編造事實”的風險，有法律專家提醒，律師在使用AI時必須格外小心。因為AI生成內容基于數據統計模式，而非事實驗證。

圖源：IT之家

首例AI介入法律文書案件

2020年，一起馬塔訴阿維安卡公司案（Mata v. Avianca, Inc.）給了AI介入法律行業的可能。

該事件發生于2019年8月27日，原告羅伯特·馬塔（Roberto Mata）乘坐阿維安卡航空670航班從薩爾瓦多飛往紐約，途中被金屬餐車撞傷，被告阿維安卡公司是航班承運人，與哥倫比亞航空公司同屬一家母公司。

2020年7月20日，馬塔通過施瓦茨律師在紐約州最高法院提起訴訟。然而，被告母公司因財務困境于2020年5月10日申請破產，導致訴訟因自動停止規則暫停。2022年2月2日，原告繼初次訴訟終止后，在同一法院提起第二次訴訟，主張基于《蒙特利爾公約》的人身損害賠償。

由于被告主張聯邦法院管轄權，案件于2月23日移送至紐約南區聯邦法院，由法官凱文·卡斯特爾（Judge Kevin Castel）審理。因施瓦茨律師未獲紐約南區執業資格，原告代理律師變更為其同事彼得·洛杜卡（Peter LoDuca）。

但彼得·洛杜卡律師僅作為律師出庭，并負責文書的簽署和提交，而史蒂文·施瓦茨律師因提出最初訴狀，將繼續承擔案件的實質性法律工作。

由于對聯邦法律、《蒙特利爾公約》和破產規則不太熟悉，且無法訪問聯邦判例數據庫，施瓦茨轉而使用ChatGPT，將其視為“超級搜索引擎”。他輸入檢索內容后，ChatGPT生成了看似符合目的的案例引文。盡管他無法找到部分案件，但因ChatGPT“自信地”確認其真實性，并附上案情摘要，最后，施瓦茨未作進一步的核實。

也因此，人工智能幻覺的現象發生了。實際上，ChatGPT生成的是虛假案件，其通過模仿真實案件標題、法院名稱和法官姓名制造了極具迷惑性的內容。一旦施瓦茨進入數據庫檢索，就會發現這些案件根本不存在。

圖源：多維看點

就這樣，施瓦茨在ChatGPT的幫助下完成了對駁回動議的回應。2023年3月1日，洛杜卡律師向法院提交了施瓦茨律師起草的法律文書。

很快，被告律師發現了這份法律文書的端倪：有5個案例無法檢索，還有幾個案例帶有虛假的法官意見或錯誤的信息，并向法官提交了回復意見。

被告向法官提交的回復意見簡況。圖源：上海市法學會

法院調查后發現，原告律師提交的案件雖看似真實，但存在明顯缺陷，顯然非美國法院所出，使其陷入困境。

隨后，法院要求原告律師提交宣誓書及引用案件副本。施瓦茨再次使用ChatGPT準備材料。2024年4月25日，洛杜卡律師提交了相關文件，包含ChatGPT生成的案件摘錄，但未附全文。宣誓書對案件來源表述不清，未提及數據庫，也未承認使用ChatGPT。

然而，法院仍未能找到這些案件。經調查，原告律師提交的案件摘錄雖在形式上看似真實，但存在明顯文體和邏輯缺陷，與常見法院摘要不符，顯然非美國法院所出，使原告律師陷入尷尬境地。

在2024年5月4日的命令中，主審法官凱文·卡斯特爾稱，“法院遭遇前所未有的情況，原告律師的反對意見中存在大量虛假案例引用，提交的6起案例均為偽造。”

此時，施瓦茨律師才意識到ChatGPT生成的內容不可靠。他在2024年5月25日的宣誓書中承認，未意識到ChatGPT是生成工具而非搜索引擎，未懷疑其內容的真實性。

施瓦茨律師在被告和法院質疑后仍堅持虛假內容，其行為超出合理范圍，顯得不誠實。最終，法院認定其行為具有主觀惡意，違反聯邦民事訴訟規則第11條，對其及律所處以5000美元罰款，并要求向相關方通報制裁結果。法院同時駁回原告訴請，確認其索賠因超出《蒙特利爾公約》2年時效而不成立。

據了解，律師史蒂文·施瓦茨（Steven Schwartz）自1992年起在紐約州執業，專長于人身傷害和工人賠償法，但未取得聯邦法院執業資格。此次案件也是已知的、首例涉及律師使用生成式人工智能（GAI）撰寫法律文書不當行為的案件。

運用AI大模型操縱司法公正

此外，國內還發生了比馬塔訴阿維安卡公司案更離譜的案例。

2024年3月，上海市青浦區人民法院西虹橋（進口博覽會）人民法庭受理了一起商標侵權案，由此揭示了部分人員利用AI大模型技術進行“虛假”證據收集的真相。

圖源：中華人民共和國最高人民法院截圖

原告“海上祥云”（化名）作為商標注冊人，發現在某搜索引擎中輸入“海上祥云面點加盟官方網站”時，搜索結果首位顯示的是“上海祥云面點網站-加盟總部-專注餐飲加盟20年”的廣告鏈接。據此，原告認為，被告“祥云面點”通過購買搜索引擎廣告并設置與“海上某云”相似的關鍵詞進行推廣，涉嫌商標侵權，遂起訴要求被告賠償經濟損失及合理費用。

然而，承辦法官趙暉暉發現，“祥云面點”知名度更高，不存在“傍名牌”動機。

經調查，被告否認侵權，且法院向搜索引擎公司發函確認，被告未設置相關關鍵詞。

兩個月后，趙暉暉又承辦了一起類似的商標侵權案，原告從“海上祥云”變為“四季冒菜”（化名），被告仍是“祥云面點”。

趙暉暉說，“更蹊蹺的是，我們比對后發現，這兩起案件的原告都委托了同一個律師團隊進行法律代理。正值上海法院全面推進數字法院建設，我們通過辦案系統的‘數助辦案’功能檢索后進一步確認，這個律師團隊竟然在全國代理了400起類似的案件。”

據搜索引擎公司調查發現，原告律師通過同一IP多次非正常搜索，觸發系統故障，導致被告鏈接誤出現在搜索結果首位。這種行為實際上是利用AI大模型技術制造“虛假”證據，誤導司法。

最終，原告代理團隊確認后申請撤訴，并承諾不再起訴。趙暉暉認為，這種非正常搜索行為可能是為了制造侵權假象，從而批量提起訴訟，獲取不正當利益。

肖颯律師團隊認為，即使不考慮是否達到“情節嚴重”的入罪標準，原告及律師的行為已涉嫌“虛假訴訟”。根據兩高發布的《關于進一步加強虛假訴訟犯罪懲治工作的意見》第二條，虛假訴訟犯罪是指行為人單獨或與他人惡意串通，通過偽造證據、虛假陳述等手段，捏造民事案件基本事實，虛構民事糾紛，向法院提起訴訟，妨害司法秩序或嚴重侵害他人合法權益的行為。

本案中，律師及原告通過“碰瓷”行為可能獲得的利益與涉嫌虛假訴訟罪的刑事風險嚴重不成比例。該團隊認為，這種損人不利己且風險巨大的行為應堅決遠離。

使用AI生成內容時應嚴格核查

自ChatGPT推出以來，其便引發了廣泛的討論與質疑。通過分析海量網絡數據，ChatGPT能夠模擬人類對話，甚至協助設計宣傳材料。然而，其輸出內容中常常夾雜著似是而非的信息，令人難以分辨。

據OpenAI官網信息，財通證券曾用ChatGPT撰寫醫美行業報告，并通過DeepL翻譯。報告提到，該工具雖能模仿專業人士語氣，但內容真假難辨，除非讀者有相關知識。財通證券分析認為，ChatGPT在文字表達和標題擬定上表現不錯，但直接生成加翻譯的方式仍存在標點錯誤、術語不當和數據來源不明等問題。

法律人士游云庭在使用中也發現類似問題：“AI答不上時會編造信息。比如，我問自己的職業背景，它卻把我錯寫成刑事律師，還編了一起案件。所以，專業人士使用AI內容時必須嚴格核查。”

盡管ChatGPT提高了工作效率，但也降低了信息造假的門檻。

上海一位律師表示：“在法律領域，ChatGPT可輔助基礎文書撰寫和法條檢索，但具體案件的法律分析仍需律師的專業判斷。目前，國內律師對ChatGPT的使用并不廣泛。”

法院在一份判決書中指出：“律師準備法律文件時，通常會參考多種資源，如初級律師和法律數據庫。”

游云庭認為，盡管ChatGPT推動了AI發展，但在中國法律領域，AI在合同撰寫和案例檢索等方面仍不成熟。未來，生成式AI或許能在基礎法律服務中發揮作用，如勞動糾紛和房產爭議等常見案件，但復雜案件仍需依賴專業律師。

在談及人工智能當前在法院的應用時，最高人民法院司法改革領導小組辦公室負責人、國際合作局副局長何帆介紹，目前，人工智能在司法領域的應用廣泛，包括事務性輔助工作，如信息回填、智能編目、法條推送、文書糾錯，以及實體性幫助，如類案推送、證據篩查、風險預估。然而，實體性應用仍處于起步階段，分析疑難案件和預警重大證據瑕疵等功能還需大量基礎工作，不能盲目樂觀。

[引用]

①　法律行業“AI 幻覺”加劇，美多名律師因引用虛假內容而遭處分.IT之家.2025-02-19.

②　美國律師因引用ChatGPT虛構案例被罰 律師該如何與AI共處？.潮新聞.2023-06-24.

③　姚立｜生成式人工智能ChatGPT編造法律案例的風險與啟示——評2023年美國“馬塔訴阿維安卡公司….上海市法學會.2024-12-16.

④　律師要不要與 AI 保持“安全距離”？從兩個離譜案例說起.......肖颯lawyer.2025-02-19.

⑤　上海青浦區法院對400件商標侵權案件追根溯源，揭開惡意取證真相，打破人工智能“幻覺”，確保司法公正不被技術操縱——
法院，幫AI大模型“反詐”.人民法院報.2024-10-11.

⑥　法院是否可借助人工智能判案？最高法：可輔助辦案，但任何情況下都不能替代法官.紅星新聞.2023-03-09.

⑦　美國一律所向旗下律師發出警告：使用AI虛構案例將被解雇.光明網.2025-02-20.