xAI 工程師因提出 Grok 安全疑慮遭解僱
一名 xAI 前工程師提起訴訟，指控他因試圖為 Grok 聊天機器人建立安全防護機制而被解僱。此案件凸顯了該公司內部在 AI 安全優先級上的緊張關係。
Search
Tag: #ai-safety536 results
修正長程研究代理的決策失效問題
研究發現，自動化研究代理在依賴單一指標進行決策時，容易忽略底層數據的結構性崩潰。該研究提出了一種外部審計控制迴路，透過評估細分數據而非單一指標來確保科學有效性。
🤖
Anthropic 發布具備增強安全性的 Claude Fable 5
Anthropic 推出了其 Mythos AI 技術的新版本 Claude Fable 5。該模型被定位為更安全的替代方案，但其價格是先前旗艦系統的兩倍。
LLM 評測模型極易受到決策後操縱的影響
研究顯示，LLM-as-a-judge 系統在一般情況下雖穩定，但若在決策後進行針對性的互動挑戰，其判斷結果極易被扭轉。這項發現指出目前的自動化評測流程可能不如預期般可靠。
AI 能否自我進化？深度解析 Anthropic 最新觀點
Anthropic 引發了關於 AI 系統是否能自主生成或改進其他 AI 模型的爭論。本文分析了遞歸自我改進的可行性及其潛在影響。
Anthropic 提議全球放緩 AI 開發進度
Anthropic 警告未來的 AI 模型可能具備自主創造後繼者的能力。該公司建議應放緩全球產業的開發速度，以降低潛在的生存風險。
更多原告加入針對 xAI 的訴訟，指控 Grok 生成不當影像
繼工黨議員 Jess Asato 提起測試性訴訟後，更多原告正對 Elon Musk 的 xAI 採取法律行動。該訴訟的核心在於 Grok 工具生成並散布具侮辱性與性暗示的 AI 偽造影像。
🤖
Meta AI 瞄準消費者健康諮詢應用
Meta Platforms 首席 AI 官 Alexandr Wang 表示，未來的 AI 模型將專注於健康相關建議，作為關鍵的差異化優勢。該公司旨在整合專業的健康功能，以使其模型在競爭中脫穎而出。
🤖
Daniela Amodei 於 Bloomberg Tech 討論 Anthropic
Anthropic 總裁 Daniela Amodei 出席了 Bloomberg Tech 會議，討論該公司的最新發展與 AI 願景。
Anthropic 警告遞迴自我改善的潛在風險
Anthropic 透露其內部程式碼有超過 80% 由 Claude 編寫，凸顯了「遞迴自我改善」時代的來臨。該公司警告這可能導致失控風險，並提倡建立國際協調機制，以便在必要時減緩或暫停開發。