🌐較早收集於 43m

駕駛使用塑膠人頭繞過 Tesla Autopilot 安全機制

駕駛使用塑膠人頭繞過 Tesla Autopilot 安全機制
PostLinkedIn
🌐閱讀原文: Wired

💡了解物理對抗攻擊如何繞過 Tesla 車輛的視覺駕駛監控系統。

⚡ 30-Second TL;DR

有什麼變化

駕駛使用塑膠人頭欺騙車內攝影機

為什麼重要

這展示了現有基於視覺的駕駛監控系統在面對物理對抗攻擊時的脆弱性。這顯示自動駕駛安全系統需要更強健的多模態感測器融合技術。

下一步行動

若正在開發電腦視覺系統,請實作活體檢測或多模態驗證,以防止靜態物理物體的欺騙攻擊。

誰應關注:Developers & AI Engineers

關鍵要點

  • 駕駛使用塑膠人頭欺騙車內攝影機
  • 繞過分心駕駛的安全控制機制
  • 出現專門製造繞過裝置的地下產業

🧠 深度解析

Web-grounded analysis with 36 cited sources.

🔑 增強重點摘要

  • Tesla 的車內攝影機透過神經網路系統追蹤駕駛的眼睛、頭部動作及手機使用情況,以判斷注意力,並在偵測到分心時發出警報。然而,駭客發現精確放置的照片仍有機會欺騙系統。
  • Tesla 的駕駛監控系統曾因主要依賴方向盤扭矩感測器而易於被駕駛繞過,導致其在《消費者報告》的安全測試中未能得分。
  • 隨著2024年5月FSD (Supervised) V12.4版本的推出,Tesla已將駕駛監控機制轉為純粹依賴車內攝影機,並引入警告消除機制,若一週內未收到警告,可消除一次累積的警告記錄。
  • 駕駛監控系統不僅偵測分心,還能追蹤打呵欠、眨眼次數及坐姿傾斜時間等生理特徵,以計算駕駛的疲勞程度。
  • Tesla 的FSD (Supervised) 系統已於2026年5月正式在中國及其他多個國家推出,這意味著其基於視覺的駕駛監控系統將在全球範圍內更廣泛地部署。
📊 競品分析▸ Show
功能/特點Tesla Autopilot/FSD (Supervised)GM Super CruiseMercedes-Benz DRIVE PILOT
駕駛監控系統主要基於車內攝影機,追蹤眼睛、頭部、手機使用。紅外線攝影機監控駕駛注意力。攝影機監控駕駛注意力,允許在特定條件下視線離開路面。
自動駕駛等級Level 2 (需駕駛員全程監督)Level 2 (需駕駛員全程監督)Level 3 (有條件自動駕駛)
免手持駕駛需駕駛員保持手在方向盤上 (FSD Supervised 仍需監督)支援免手持駕駛,甚至可拖曳。支援免手持、免視線駕駛 (在特定條件下)。
感測器融合純視覺方案 (Vision-only)LiDAR地圖、即時攝影機、感測器、GPS。雷達、LiDAR、超音波感測器、攝影機、GPS。
特殊功能警告消除機制。支援拖曳時免手持、自動變換車道。青綠色標示燈指示自動駕駛狀態。
運作速度限制無明確速度限制,但需駕駛監督。適用於超過60萬英里的兼容道路。德國高速公路最高時速95公里 (Level 3)。

🛠️ 技術深入

  • Tesla 的車內攝影機位於後視鏡上方,用於判斷駕駛員的注意力。
  • 系統採用神經網路 (NN) 處理影像,追蹤駕駛的眼睛(閉合、注視方向)、頭部動作及手機使用等行為。
  • 數據預設保留在車輛內部,除非駕駛啟用數據分享或發生重大安全事件,否則不會傳輸給Tesla。
  • 為了保護隱私,車內攝影機不會進行臉部辨識,且數據不會與車輛識別號碼 (VIN) 關聯。
  • FSD (Supervised) V12.4版本已更新為純粹依賴車內攝影機進行駕駛監控,取代了先前對方向盤扭矩感測器的依賴。
  • 系統會發出音訊警報以提醒駕駛保持注意力。
  • 駕駛監控系統面臨的挑戰包括強光或弱光下的成像品質、駕駛員狀態多變(如佩戴帽子、口罩、眼鏡)以及頭部姿態變化。

🔮 前景展望AI analysis grounded in cited sources

駕駛監控系統將朝向多模態感測器融合發展,以提高準確性和抗欺騙性。
單一視覺線索的監控系統容易受環境和駕駛員外觀變化影響,結合生物雷達等其他感測器可提供更全面的生理數據,提升系統的強固性。
全球監管機構將持續收緊對自動駕駛系統中駕駛監控功能的要求,特別是針對Level 2和Level 3系統。
鑑於疲勞和分心駕駛導致的事故頻發,以及自動駕駛系統在切換控制權時對駕駛員狀態的需求,各國法規(如UN R157、歐盟通用安全規則)正強制要求配備更有效的駕駛監控系統。
車輛製造商將不斷透過軟體更新和硬體改進來應對駕駛監控系統的繞過行為。
駕駛利用DIY裝置繞過安全機制凸顯了現有系統的漏洞,這將促使Tesla及其他車廠持續投入研發,以提升監控演算法的複雜度和感測器的精準度,形成持續的攻防循環。

時間線

2006-00
Toyota 首次在 Lexus 車款中導入駕駛監控系統 (DMS)。
2017-00
GM 推出 Super Cruise 自動駕駛輔助系統。
2020-10
知名駭客揭露 Tesla Model 3 和 Model Y 車內攝影機的監控潛力。
2021-05
Tesla 啟用 Model 3 和 Model Y 的車內攝影機進行駕駛監控。
2023-12
Tesla 因自動輔助駕駛系統問題,在美國召回逾200萬輛車進行軟體更新,涉及駕駛監控功能。
2024-05
Tesla FSD (Supervised) V12.4 版本更新,將駕駛監控機制轉為純粹依賴車內攝影機。
2026-05
Tesla FSD (Supervised) 系統正式在中國及其他多個國家地區推出。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Wired