🐯虎嗅•最新收集於 18m
上海法院重罰 AI 偽造證據
#ai-governance#legal-compliance#evidence-provenance#ai-safetybaidu-search-aibaidushanghai intellectual property courtqingpu district court
💡中國首宗 AI 幻覺取證罰案，為 AI 搜尋與法律流程劃出清晰紅線。
⚡ 30-Second TL;DR
有什麼變化
涉案公司透過高頻、定向搜尋，誘導系統將其商標、雕刻機與另一家公司推廣頁面建立錯誤關聯。
為什麼重要
本案為企業在法律與調查流程中使用 AI 搜尋、檢索或生成系統提供了明確的合規警示。凡是由 AI 生成或影響形成的證據，都需要具備來源追蹤、可重現性與人工驗證，尤其涉及第三方權利時更是如此。
下一步行動
在提交任何 AI 輔助證據或合規成果前，加入不可竄改的查詢記錄、來源快照與強制人工審核流程。
誰應關注：Enterprise & Security Teams
關鍵要點
- •涉案公司透過高頻、定向搜尋，誘導系統將其商標、雕刻機與另一家公司推廣頁面建立錯誤關聯。
- •青浦區法院認定相關侵權行為不存在，駁回該公司的訴訟請求。
- •法院其後以捏造案件基本事實、虛假取證及濫用訴訟權利為由，對原告處以 10 萬元人民幣罰款。
- •上海智慧財產權法院駁回復議申請，維持原處罰決定。
- •該裁定強調，AI 系統錯誤不能成為故意製造虛假證據的法律抗辯理由。
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 15 個來源。
🔑 增強重點摘要
- •涉案公司為山東速某數控設備有限公司，其對象為震某行工業超市（上海）有限公司，後者被指控透過百度搜尋推廣頁面侵犯商標權。
- •原告山東速某公司聲稱在百度搜尋「雕刻機設備智速邁」時，出現指向被告震某行公司的推廣連結，以此作為商標侵權的證據。
- •法院查明被告震某行公司從未在百度推廣後台將「智速邁」設為關鍵詞，且主觀上無侵權故意，客觀上亦無侵權行為。
- •此案中對原告處以的10萬元人民幣罰款，是根據妨害民事訴訟行為的性質、情節、後果，並結合當地經濟發展水平、訴訟標的額等因素綜合確定的。
- •上海智慧財產權法院副院長劉軍華表示，此案透過司法懲戒明確對證據造假「零容忍」，為AI技術在法律領域的使用劃定了法律紅線，警示訴訟參與人必須恪守誠信原則。
🛠️ 技術深入
- 涉案公司利用「高頻、定向搜尋」來誘導百度AI搜尋系統，使其將特定商標與推廣頁面建立錯誤關聯，從而捏造虛假證據。
- 百度AI搜尋系統整合了其核心搜尋技術與大型模型，例如文心大模型4.5（ERNIE 4.5）和DeepSeek-R1推理引擎，支援128K上下文窗口。
- 該系統採用混合檢索機制，並能處理多模態輸入，包括文本、圖片和視頻。
- 百度AI搜尋的目標是從傳統的文字連結工具轉型為多媒體AI應用，目前已有70%的頂部搜尋結果顯示AI生成的多媒體內容。
- AI「幻覺」現象在大語言模型中普遍存在，其原因歸結於數據偏差和泛化困境，模型在追求文本連貫性時，可能基於統計規律而非邏輯推理生成看似合理但實為錯誤的資訊。
🔮 前景展望AI analysis grounded in cited sources
中國司法將加強對AI生成證據真實性的審查，並可能適度轉移舉證責任。
面對AI偽造證據的挑戰，法院需要探索建立適應數字時代的證據真實性審查機制，並在特定情形下要求提供AI生成證據的一方承擔初步證明責任，以確保司法公正。
AI服務提供者將面臨更嚴格的合規要求，特別是在內容標識和風險提示方面。
中國已出台《人工智能生成合成內容標識辦法》，要求AI生成內容必須添加顯式和隱式標識，平台也需審核並提示風險，以防範虛假信息傳播和濫用。
中國法院將在平衡AI創新與法律規管之間尋求「容錯」空間，但對惡意濫用行為將堅決制裁。
最高人民法院強調要依法妥善審理涉人工智能案件，準確把握科技創新「容錯」空間，但同時對利用AI侵害合法權益、擾亂社會秩序的行為堅決依法規制，以促進科技向善。
⏳ 時間線
2023-04
中國發布《生成式人工智能服務管理辦法（徵求意見稿）》，開始對生成式AI進行監管探索。
2025-03
中國發布《人工智能生成合成內容標識辦法》，要求AI生成內容添加標識。
2025-09
《人工智能生成合成內容標識辦法》正式施行，所有AI生成內容須「亮明身份」。
2026-01
杭州互聯網法院審結全國首例因AI「幻覺」引發的侵權糾紛案，明確AI不具民事主體資格。
2026-08
山東速某數控設備有限公司向上海市青浦區人民法院提起商標侵權訴訟，並提交經AI操縱的虛假證據。
2026-08-21
上海智慧財產權法院裁定駁回山東速某數控設備有限公司的復議申請，維持青浦區法院對其利用AI「幻覺」惡意取證行為處以10萬元人民幣罰款的決定。
📎 來源 (15)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 虎嗅 ↗
每週 AI 簡報
每週一封，可隨時退訂。