AI 依賴正成為系統性風險
這篇立場論文指出，AI 安全研究必須正視「AI 鎖定」：人類因過度依賴 AI 系統而失去技能與自主性的風險。論文探討此風險如何從個人技能退化，擴大至社會與國家基礎設施脆弱性，並提出降低風險與提升應變能力的方法。
Search
Tag: #systemic-risk5 results
認知債：過度依賴 AI 的隱性風險
本研究提出了「認知債」的概念，描述了當 AI 取代而非輔助人類認知時，所累積的未經驗證的推理義務。研究警告，短期的生產力提升可能掩蓋系統性脆弱，進而導致潛在的認知「明斯基時刻」。
💼
Finma 警告 Mythos 帶來系統性銀行風險
瑞士 Finma 表示，讓銀行立即存取 Anthropic 的 AI 工具 Mythos 將對金融系統造成嚴重系統性風險。此監管警告突顯銀行業快速整合 AI 的疑慮。
💼
AI 集中度風險：市場穩定性的隱憂
Bloomberg MLIV 團隊探討了 AI 領域日益嚴重的集中度風險。分析師檢視了對少數關鍵參與者的過度依賴如何影響整體市場穩定性與投資策略。
CIO 準備因代理式 AI 混亂轉型執法者
Forrester 預測到本十年末，代理式 AI 熱潮將變得混亂，迫使 CIO 轉型為秩序執法者。若軟體自行撰寫軟體，風險將是「大規模系統性失效」。領導者必須掌控局面。