🇬🇧The Guardian Technology•較早收集於 2h
Starmer 要求科技公司於九月前部署裸露檢測演算法
#ai-regulation#on-device-ai#computer-vision#safety-technudity-detection-algorithmsapplegooglekeir starmer
💡裝置端 AI 審核的重大監管推動；影響開發者如何為行動裝置建構電腦視覺功能。
⚡ 30-Second TL;DR
有什麼變化
Apple 和 Google 必須在九月前於行動裝置上部署裸露檢測演算法。
為什麼重要
此政策顯示監管趨勢正轉向強制性的裝置端 AI 審核，可能迫使開發者將保護隱私的電腦視覺技術直接整合至作業系統層級的處理流程中。
下一步行動
研究 Apple 的 Neural Engine 與 Google 的裝置端機器學習能力，以了解如何於邊緣運算端實作符合隱私規範的影像分類功能。
誰應關注：Developers & AI Engineers
關鍵要點
- •Apple 和 Google 必須在九月前於行動裝置上部署裸露檢測演算法。
- •該要求涵蓋智慧型手機和平板電腦，旨在防止露骨影像的傳播。
- •若未能遵守這些技術要求，政府將推動新的立法進行強制執行。
🧠 深度解析
Web-grounded analysis with 26 cited sources.
🔑 增強重點摘要
- •英國首相 Keir Starmer 的要求是英國政府更廣泛的線上兒童安全推動的一部分，該推動建立在《2023 年線上安全法案》的基礎上，旨在防止兒童接觸有害內容。
- •英國的目標是成為世界上第一個讓兒童無法在裝置上拍攝、分享或查看裸體圖像的國家，這項要求涵蓋防止使用者拍攝生殖器照片，除非他們被驗證為成年人。
- •若科技公司未能在 2026 年 9 月前遵守，政府將推動強制性立法，可能包括對公司處以罰款，甚至對未能遵守的科技公司高層追究刑事責任。
- •此舉是在澳洲最近制定了一項政策之後提出的，該政策鼓勵公司開發具有「檢測裸露並採用模糊或警告訊息等技術」設定的作業系統。
- •此要求將適用於所有在英國銷售的手機和平板電腦，包括現有裝置和新裝置。
📊 競品分析▸ Show
| 公司/實體 | 功能/方法 | 備註 |
|---|---|---|
| Apple | 曾開發 NeuralHash 裝置端 CSAM 掃描工具 | 於 2021 年 8 月宣布，但因隱私爭議於 2021 年 9 月暫停，並於 2022 年 12 月放棄，轉而專注於通訊安全功能。 |
| 平台端使用雜湊比對和 AI 進行 CSAM 檢測 | 採用雜湊比對已知 CSAM 和 AI 識別新內容，但曾因誤報導致錯誤指控。 | |
| Bumble | 「Private Detector」AI 功能 | 在聊天中自動檢測並模糊裸露圖像，讓收件人選擇查看、封鎖或舉報。 |
| HMD Global | 兒童專用裝置內建軟體 | 推出針對兒童的裝置，內建軟體可自動檢測並封鎖露骨圖像。 |
| 其他科技公司 | 需遵守《線上安全法案》 | 許多公司被要求採取主動措施防止網路性騷擾，並對兒童有害內容進行風險評估。 |
🛠️ 技術深入
- 裝置端掃描挑戰：在端對端加密 (E2EE) 系統中實施裝置端內容審核存在重大技術和隱私挑戰，因為平台本身無法讀取加密訊息。
- Apple NeuralHash 系統 (已放棄)：該系統旨在透過將圖像的數位指紋（雜湊值）與已知兒童性虐待材料 (CSAM) 資料庫進行比對，在裝置上傳前檢測已知 CSAM，同時聲稱能保護非 CSAM 照片的隱私。
- 隱私與審查疑慮：對 Apple NeuralHash 的批評包括擔心其可能被濫用於監控和審查，以及第三方無法驗證黑名單範圍的技術限制。
- Google 的檢測方法：Google 結合使用雜湊比對技術（將圖像和影片的唯一數位簽章與已知簽章資料庫比對）和人工智慧 (AI) 來標記與已確認 CSAM 模式相似的新內容。
- 誤報問題：自動掃描系統存在誤報的已知問題，可能導致對無辜使用者的錯誤指控。
- E2EE 平台內容審核技術：電腦科學研究人員已開發出多種技術，可在 E2EE 平台上實現內容審核，同時保留隱私保障，包括訊息加註 (message franking)、前向追蹤 (forward tracing)、同態加密 (homomorphic encryption) 和自動客戶端掃描 (automated client-side scanning)。
- 成人內容存取：政府計畫允許成年人透過年齡驗證程序繼續拍攝、分享或查看裸露內容。
🔮 前景展望AI analysis grounded in cited sources
科技公司在實施這項指令時將面臨重大的技術和隱私挑戰。
裝置端掃描，特別是在端對端加密環境下，已被證明難以在不引起嚴重隱私疑慮的情況下實施，如 Apple 先前的嘗試所示。
英國的立場可能會為其他國家要求類似的裝置端內容掃描樹立先例。
Keir Starmer 明確表示英國旨在成為世界上第一個實現此目標的國家，這可能會影響全球科技監管趨勢。
這項指令可能導致針對英國用戶的產品功能或可用性與其他地區有所不同。
如果公司因隱私或技術原因無法或不願在全球範圍內實施所需功能，他們可能會提供針對英國的特定版本或面臨服務被封鎖的風險。
⏳ 時間線
2021-08
Apple 宣布 NeuralHash，一種用於 iCloud 照片的裝置端 CSAM 掃描工具。
2021-09
由於隱私倡導者的廣泛批評，Apple 暫停了 NeuralHash 的推出。
2022-12
Apple 放棄了其用於 iCloud 照片的 CSAM 檢測工具，轉而專注於通訊安全功能。
2023-10-26
《2023 年線上安全法案》在英國通過成為法律。
2024-01
網路性騷擾 (Cyberflashing) 成為《線上安全法案》下的優先罪行，要求平台主動檢測和封鎖未經請求的裸體圖像。
2025-07-25
《線上安全法案》下的第一批《兒童保護行為準則》生效。
2026-03-02
英國科學、創新和技術部 (DSIT) 啟動「在線世界中成長：全國對話」諮詢，探討《線上安全法案》之外的進一步措施，包括對 AI 的新義務。
2026-06-08
英國首相 Keir Starmer 向 Apple 和 Google 發出最後通牒，要求其在 9 月前部署裸露檢測演算法，否則將面臨立法監管。
📎 來源 (26)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
- theguardian.com
- www.gov.uk
- insideprivacy.com
- wikipedia.org
- aa.com.tr
- theguardian.com
- economictimes.com
- thestar.com.my
- indiantelevision.com
- forbes.com
- slashdot.org
- uic.edu
- cato.org
- youtube.com
- google.com
- eff.org
- blog.google
- www.gov.uk
- youtube.com
- whitecase.com
- georgetownlawtechreview.org
- turing.ac.uk
- american.edu
- jqst.org
- washingtonpost.com
- techdigest.tv
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Guardian Technology ↗