□ 本報記者 何睿

在湖北省大悟縣人民法院近日審理的一起房屋租賃合同糾紛案中，原告董某作為證據提交的水電表照片，赫然帶有“AI生成”的水印;在法官的質詢下，董某最終承認自己利用AI技術偽造證據，并受到了訓誡。

這起看似荒唐的AI造假并非個例，多地法院亦有類似遭遇。隨著生成式人工智能技術融入法律行業(yè)，其帶來的“AI幻覺”陷阱，即生成看似真實、合理，實則虛假、錯誤的內容，也在侵入莊嚴的法庭。面對這一沖擊，除了依靠法官的慧眼，各地法院也在探索構建長效防范治理機制。

干擾司法秩序

“AI幻覺”在法律領域已造成多層面沖擊，最常見的是生成虛假或錯誤的案例和法條。

在北京市通州區(qū)人民法院審理的一起看似尋常的商事糾紛中，承辦法官鄭吉喆發(fā)現(xiàn)，原告代理律師提交的兩個案例的案號所對應的真實案件情況，與其援引內容風馬牛不相及。在法官的追問下，原告代理律師終于承認，這些所謂的案例竟是AI工具根據其檢索生成的。

北京市第二中級人民法院推動落實全員、全面、全程“三全”釋法說理機制，對當事人提交的證據材料、法律意見等進行嚴格審查。在該院2025年9月審理的一起繼承糾紛案件中，當事人發(fā)來了自己通過AI搜索到的裁判依據。承辦法官屠育對照后發(fā)現(xiàn)，竟沒有一條是準確的現(xiàn)行法律規(guī)定。

在上海市第二中級人民法院受理的各類二審案件中，已出現(xiàn)當事人直接使用AI工具擬寫訴狀、援引虛構法條，甚至將AI生成的答復作為證據提交的情形?！袄纾彝?025年11月審結某與上海市某公司勞動合同糾紛一案中，當事人上訴狀引用相關法律條文，經核查均不存在或與條文原意不符?！鄙虾６性好袷聦徟型シü偕蛴厘榻B道。

更嚴峻的是，“AI幻覺”還可能被用于惡意取證、偽造證據、虛構事實。

在上海市青浦區(qū)人民法院審理的一起侵害商標權糾紛中，原告四川全某餐飲文化管理有限公司(以下簡稱全某公司)系“全某冒”注冊商標專用權人，在某搜索引擎以“全某冒菜加盟要多少錢”為關鍵詞搜索所得結果首條即為完整包含前述關鍵詞內容的上海世某食品股份有限公司(以下簡稱世某公司)自有品牌加盟推廣網頁鏈接。

全某公司遂以世某公司購買搜索引擎廣告服務，并有意選用“全某冒”商標相近的搜索關鍵詞進行網絡推廣，侵害其注冊商標專用權同時構成不正當競爭為由訴至人民法院，要求世某公司停止侵權并賠償損失。世某公司辯稱，其雖購買了某搜索引擎網絡招商廣告推廣服務，但未曾主動添加含“全某冒”字樣的關鍵詞，否認實施被訴侵權行為。

北京某網訊科技有限公司稱世某公司購買了其經營的某搜索引擎推廣服務，但經后臺數據核查，世某公司未主動添加“全某冒菜加盟要多少錢”關鍵詞。而全某公司取證前存在多達50余次頻繁重復搜索含“全某冒”相關關鍵詞卻不點擊搜索結果的行為，其取證過程存在異常。

青浦法院西虹橋(進口博覽會)人民法庭法官趙暉暉表示，這是原告利用AI的自主學習能力，通過在搜索引擎中反復輸入自身商標名稱、卻不實際訪問顯示正常的網頁鏈接，進行一系列非正常的搜索操作，直至錯誤鏈接顯示即進行取證，人為制造了“侵權”假象。根據查明情況，原告竟以此手法取得400余份“證據”，向全國各地法院提起或準備提起商標侵權訴訟。

避免過度依賴

AI為何會“胡言亂語”?北京二中院申訴審查庭庭長趙銀豪指出，“AI幻覺”是AI思維模式的天然副產品，大語言模型的本質是概率預測而非邏輯推理;當遇到訓練數據不足、信息模糊或用戶指令引導性過強時，它為追求文本連貫與完成任務，便會傾向于自主創(chuàng)造內容。

“法律領域的特殊性加劇了這一風險?！痹谮w銀豪看來，法律知識體系龐大、更新迅速，且存在大量未公開文書或內部規(guī)范，客觀上容易形成“信息真空地帶”;法律語言高度專業(yè)化且依賴嚴謹解釋，AI易陷入“死摳字眼”或“忽視但書”等機械理解的境地;部分當事人或法律工作者對AI過度依賴與盲目信任，沒有盡到對信息真實性的核驗義務。

“有的當事人拿著由AI生成的對某一法律問題的意見，作為抗辯理由。這種對不準確信息來源的依賴，不僅削弱了法律規(guī)范的權威性，也對司法專業(yè)解答產生干擾，損害司法公信力?！痹谏虾６性好袷聦徟型徟袌F隊負責人陳櫻看來，AI所生成意見的內容、方向、針對性、專業(yè)性、準確性等，與提問者提供給AI的案情信息和提問方式有很大關聯(lián);當事人往往根據自己的理解去提問，提供的信息不全面甚至有偏向性，因此AI給出的答案往往偏向于提問方;使用AI工具，應對其生成內容進行必要的核查求證，切忌盲目照搬。

注重內容審核

工具的價值，取決于人類的智慧與責任。面對“AI幻覺”的沖擊，司法機關正在積極行動。

在審查經驗層面，通州法院成立人工智能司法應用案例與理論興趣小組，總結出AI虛假案例的特征以便識別：如案號編排存在規(guī)律化痕跡、案情描述過度貼合需求場景、難以通過檢索方式進行驗證等。

“在行為規(guī)范層面，司法機關對于提交材料中含有疑似AI生成內容的當事人，應進行必要釋明與風險告知，要求當事人在提交材料中標注人工智能輔助生成情況。”陳櫻表示。

趙銀豪認為，對于當事人或法律工作者提交含有AI虛構內容的訴訟材料的行為，應視情節(jié)采取訓誡、罰款等懲處措施，誠實信用是訴訟參與人的基本義務，AI不能成為免責借口。

在技術優(yōu)化層面，陳櫻建議引導人工智能服務平臺加強內容審核，對側重于法律用途的AI模型，平臺應實施更嚴格的內容真實性審核與用戶提示義務，例如采用檢索增強生成技術，將AI的生成過程與權威、實時的法律數據庫更緊密掛鉤，是減少產生“AI幻覺”的有效路徑;在司法機關內部，可依托數字法院建設，識別虛構法條、案例及典型AI生成痕跡，并向承辦法官提示風險，提升審查質效。

“我堅信，技術進步的車輪無法阻擋，人工智能會更進一步融入法律工作。但是技術的局限性不可忽視，工具無法取代人的擔當。法庭之上，最終且唯一的審判者，只能是且必須是經得起追問的人?！壁w銀豪表示。

漫畫/高岳