AI 網路安全未來：開放性為何重要
Hugging Face 部落格文章主張 AI 的開放性對網路安全進展至關重要。它強調透明模型優於專有模型，以實現更好的安全實務。本文突顯 AI 安全未來的影響。
Search
Tag: #ai-safety536 results
💼
AI 反彈惡化，Altman 遭襲
德州男子因向 Sam Altman 家丟擲莫洛托夫雞尾酒而被控謀殺未遂。嫌疑人指 AI 公司將導致人類滅絕。Bloomberg 播客探討 AI 反彈日益嚴重。
GeekWire AI 新創決賽入圍名單公布
GeekWire 獎項公布年度新創企業五強決賽入圍者：mpathic、ElastixAI、Dropzone AI、Dopl Technologies 和 Loopr AI。涵蓋 AI 安全（mpathic）到機器人超音波（Dopl Technologies）。突顯創新 AI 新創公司。
提升AI對齊工作的士氣
低士氣阻礙克服逆境，特別是在理性主義優化及高風險AI對齊工作中。士氣來自將獎勵與個人努力連結，如烹飪或嗜好，而非被動舒適。這對個人及社會應對存在風險至關重要。
OpenAI Altman 執行長部落格談AI批評與自宅火瓶事件
OpenAI 執行長 Sam Altman 發表個人部落格，回應批判媒體報導及自宅遭丟火瓶事件。他對 AI 焦慮表示理解，但警告過度煽動可能引發暴力。Altman 將 AGI 權力爭奪比喻為《魔戒》中的「魔戒」，強調廣泛分享技術並透過民主程序管理的重要性。
這幫清華的，造了一個讓龍蝦「安全著陸」的新物種
清華研究者打造首個端到端閉環全模態安全脫敏系統。以「龍蝦安全著陸」為喻，解決多模態AI安全挑戰。
越預警越被罵，AI三巨頭陷入「奧本海默」死局
3月30日X平台一則轉發Anthropic執行長Dario Amodei訪談的評論引爆爭議。用戶比喻他像杜魯門厭惡的奧本海默，凸顯AI預警遭批評。AI三巨頭陷入此死局：越警告越被罵。
人手一個「龍蝦」的時代，誰來管住失控的AI？
AI Agent爆發之年，迎來人手一個強大「龍蝦」AI的時代。然而，進展在關鍵安全關卡停滯。緊急探討如何控制失控AI。
學區訓練 Waymo 停校車 告失敗
奧斯汀學區試圖訓練 Waymo 自動駕駛車在校車前停車，但努力失敗。事件突顯自駕車學習與適應真實環境的挑戰。
上海市人工智能行業協會：AI發展不能因噎廢食 安全和風控要協同推進
上海市人工智能行業協會秘書長表示，AI正透過「養龍蝦」熱潮從生產工具進階為生產力。AI智能體技術快速迭代，行業處於「前行中探索」的階段。安全與規範需平衡發展，依託網路安全體系與大模型內生安全逐步規範。