Senators Demand Answers on TikTok Safety Test

⚡ 30-Second TL;DR

有什麼變化

據報導，這項測試影響約 1,500 萬名美國用戶。

為什麼重要

這項調查增加了 TikTok 的監管與聲譽壓力，要求其說明安全實驗的設計與監控方式。對 AI 與推薦平台團隊而言，事件凸顯了在大規模測試安全控制前，進行用戶影響評估並建立透明回滾程序的重要性。

下一步行動

為所有會改變 AI 安全或推薦控制的生產環境實驗加入停機開關、預先核准的曝光上限，以及可稽核的影響紀錄。

誰應關注：Enterprise & Security Teams

關鍵要點

•據報導，這項測試影響約 1,500 萬名美國用戶。
•TikTok 在實驗期間關閉了一項安全功能。
•參議員 Marsha Blackburn 與同僚要求 TikTok 在 9 月 1 日前回覆。

該實驗是一項「回溯測試」（backtest）或A/B測試方法，用於分析推薦演算法變更的有效性。
該安全功能旨在限制重複有害內容的傳播，防止負面內容的「濾泡」效應。
TikTok採用企業級加密標準來保護數據在傳輸和儲存過程中的安全。
敏感數據在用戶設備上進行本地加密，並且只能由其預期的特定服務解密。
TikTok在零信任基礎設施下運行，並實施強大的加密措施。
該公司已部署基於NIST標準的後量子密碼學解決方案，以應對新興威脅。
其架構設計為用戶設備處理加密，而集中式服務負責解密，並使用信封加密（envelope encryption）來管理每個設備的唯一數據加密金鑰（DEK）。
數據加密金鑰（DEK）和用戶數據均應用帶有關聯數據的認證加密（AEAD），以建立設備與服務之間無狀態、高吞吐量且經加密認證的通道。
TikTok設有美國數據安全團隊（TikTok U.S. Data Security - USDS），負責在安全的Oracle雲中管理美國用戶數據、內容推薦和審核系統，這是「德州計畫」的一部分。
TikTok USDS已任命獨立安全檢查員（包括HaystackID、OnDefend和Mandiant Consulting）來確保應用程式、原始碼和用戶信息的安全與完整性。
TikTok曾面臨子域名上的XSS攻擊和不安全的API端點等漏洞。
據報導，TikTok拒絕為其私訊功能添加端到端加密，理由是需要平衡用戶隱私與應對詐騙、騷擾和其他安全問題的能力，並方便執法和安全官員在必要時訪問訊息。