Police officer investigated for alleged AI evidence fabrication

•此案是英國首宗已知涉及執法人員濫用AI技術的刑事案件，涉案警員已被調離前線職務，英國皇家檢察署（CPS）正與辯護律師和法院就受影響的案件進行協商。
•此事件發生之際，英國警方正積極推動AI應用，政府於2026年1月宣布投入1.15億英鎊建設全國警務AI中心（Police.AI），旨在統一英格蘭和威爾士43支警隊的AI使用，並預計每年可節省約600萬小時警力工時。
•在該警員涉嫌濫用AI偽造證據的案件曝光前，英國警方已面臨AI「幻覺」問題的挑戰；例如，西米德蘭茲郡警方曾於2026年1月承認使用微軟Copilot生成了一份包含虛構足球賽事資訊的情報材料，導致前局長向議會道歉。
•由於對AI生成內容不準確性的擔憂，英國英格蘭和威爾士的多家警隊已被要求暫停使用AI工具撰寫法庭陳述和刑事司法文件，因為這些輸出一旦出錯，將影響後續法律程序的可靠性。
•英國警方AI中心（Police.AI）負責人Alex Murray強調，任何用於刑事司法系統的技術都必須達到「排除合理懷疑」的準確性標準，並已介入要求部分警隊暫停部署未經充分評估的商用AI系統。

生成式AI (Generative AI)：此類AI模型能夠生成新的內容，包括文字、圖像、音頻和視頻，其核心架構常基於生成式對抗網路 (GANs) 或大型語言模型 (LLMs)。
AI幻覺 (AI Hallucination)：生成式AI的一個已知缺陷，指AI系統生成看似真實但實則虛假或不準確的資訊。在法律文件中，這可能導致捏造事實、混淆時間線或錯誤摘要。
深度偽造 (Deepfake)：利用AI技術合成或修改影像、聲音，使其看起來或聽起來極為逼真，難以用肉眼辨識真偽。這類技術可被用於偽造視頻、音頻或圖像證據。
證據偽造方式：AI可被用於製作虛假的法庭陳述、偽造監控視頻、通話錄音、聊天記錄截圖、轉賬記錄截圖等關鍵證據，且難以留下偽造痕跡。
檢測挑戰：人類肉眼99%無法識別深度偽造內容，唯一有效的方法是技術檢測。現有技術可在會議中嵌入實時檢測工具，識別臉部是否為深度偽造、語音是否為克隆，並自動發出警告和記錄可疑畫面。
後設資料 (Metadata) 審查：在審理AI深偽數位證據案件時，法院會特別審查後設資料的內容準確性和完整性，包括文件格式、創建/修改日期、文件類型、拍攝設備資訊等客觀數據，以確認數位證據的真實性。

英國警方將加速制定更嚴格的AI使用規範和審查機制。

此案及此前AI「幻覺」事件凸顯了AI在刑事司法中濫用的嚴重風險，促使監管機構要求暫停未經充分評估的AI應用，並強調需達到「排除合理懷疑」的準確性標準。

公眾對執法機構使用AI的信任度可能下降，導致對AI生成證據的質疑增加。

警員利用AI偽造證據的行為直接損害了司法公正性，可能使辯護律師更容易挑戰AI生成的證據，進而影響案件審理結果。

AI技術在法律和執法領域的應用將更加注重透明度、可追溯性和人工監督。

為應對AI幻覺和偽造證據的風險，未來的AI系統將需要提供清晰的訓練方式、資料來源、運作流程說明，並建立完整的審計追蹤機制，以確保問責制。

2020-08

英國警方旗艦AI系統被曝存在嚴重缺陷，無法準確預測暴力犯罪。

2021-04

英國議會發布關於警務和安全領域AI使用的情況說明，探討AI潛力、治理和隱私問題。

2025-02

倫敦警察廳秘密啟用由Palantir提供的AI工具，分析內部數據以發現警員不當行為。

2026-01

英國西米德蘭茲郡警方承認使用微軟Copilot生成了包含虛構足球賽事資訊的情報材料，引發AI「幻覺」擔憂。

2026-01

英國政府宣布投入1.15億英鎊建設全國警務AI中心（Police.AI），旨在統一英格蘭和威爾士43支警隊的AI使用。

2026-06

英國英格蘭和威爾士多家警隊被要求暫停使用AI工具撰寫法庭陳述和刑事司法文件，以避免不準確內容影響司法公正。

2026-06

一名英國警員因涉嫌利用AI偽造證據，被調離前線職務並接受刑事調查，這是英國首宗已知涉及執法人員濫用AI技術的案件。

英國警員涉嫌利用 AI 偽造證據遭刑事調查