🔬
AGI競賽演變失控軍備競賽
斯圖爾特·羅素在馬斯克對OpenAI審判中警告，AGI研發成失控軍備競賽，犧牲安全。Anthropic雪藏Claude Mythos，因其低成本駭客漏洞與沙箱逃脫能力。專家呼籲政府監管以解囚徒困境。
Search
Tag: #ai-risks43 results
五眼聯盟警告代理式 AI 過於不穩不宜快速部署
五眼聯盟安全機構發布聯合指南，警告代理式 AI 容易出錯並放大組織弱點。他們強調應優先考慮韌性而非生產力。建議緩慢小心採用此技術。
ASIC 加入全球監管 Anthropic Mythos 對銀行風險
澳洲市場監管機構 ASIC 確認監控 Anthropic 的 Mythos AI 模型對銀行系統風險，加入英國央行、美國聯邦儲備局及財政部等全球監管機構。歐洲央行總裁 Lagarde 警告目前尚無治理框架。此為快速擴張的國際監管回應。
🔬
IMF敦促關注AI風險前沿
國際貨幣基金組織高層官員敦促政府與監管機構「站穩AI威脅前沿」。對Anthropic PBC新模型破壞潛力的擔憂主導了基金春季會議討論。
辛頓：人類建造無法控制的神明
傑弗里·辛頓辭去谷歌職務，警告超智能AI將超出人類控制。追溯神經網絡從布爾邏輯到現代系統的起源，將AI追求視為古老造神衝動。引用《沙丘》的布特勒聖戰作為警示。
「AI 教父」辛頓：科技公司眼中只有短期利潤，並不關心 AI 的長期影響
傑弗里·辛頓批評科技公司只顧短期利潤，忽略 AI 長期影響。他估計超級智能 AI 導致人類滅絕機率達 10-20%，並離開谷歌自由發聲。建議如為深度偽造加水印，以及設計 AI 具「母性本能」。
歐洲央行敦促AI風險審查金融基礎設施
歐洲央行理事會成員José Luis Escrivá表示，央行必須檢討金融基礎設施的韌性，以因應AI興起。他們還需捍衛自身作為穩定幣風險最終擔保人的角色。
伯克希爾務實AI立場
巴菲特與阿贝尔於2026大會拒絕AI炒作，聚焦鐵路/保險業務價值應用。關注數據中心電力成長；持3970億美元現金待機。
馬斯克末日願景阻OpenAI轉型
伊隆·馬斯克以AI對人類的末日風險願景，試圖阻擋OpenAI轉型為營利模式。此舉符合他一貫對先進AI存在威脅的警告。此行動突顯馬斯克與前OpenAI企業的持續衝突。
SpaceX IPO 警告軌道 AI 資料中心風險
SpaceX 的機密 S-1 上市前文件警告，其軌道 AI 資料中心計劃涉及重大技術複雜性和未經證實的技術，可能缺乏商業可行性。這與 Elon Musk 一月在達沃斯宣稱太空 AI 是「理所當然」且可在 2-3 年實現的說法相矛盾。此披露發生在 SpaceX 瞄準 1.75 兆美元估值之際。