Search

Tag: #ai-safety536 results

Meta 收購 AI 安全新創公司 Virtue AI

Meta 收購了專注於 AI 安全、紅隊測試及 Agent 運行時防護的 Virtue AI 團隊。此次收購旨在將強大的安全基礎設施整合進 Meta 的個人化 Agent 系統中。

Prism 是一個基於 Claude Code 和 Inspect 構建的新框架，旨在自動化 AI 模型的科學評估。它利用多代理架構進行受控擾動實驗，協助研究人員識別模型評估指標中的缺陷。

超過 200 位經濟學家與 AI 研究人員呼籲加強對 AI 社會影響的研究。他們強調必須引導快速發展的技術朝向對人類友善的方向前進。

Bloomberg TechnologyMedia•Jul 13#ai-safety #governance #ethics

螞蟻集團開源了兩款全新的安全框架，旨在解決 Claude Code 等工具所暴露的安全漏洞。這些框架專注於增強 AI 驅動開發環境的安全防護能力。

智譜 AI 創始人唐杰宣布啟動「摸高」計劃，將戰略重心從短期商業變現轉向 AGI 基礎研究。公司將重點攻克長程任務、自治智能體、自我進化模型及 AI 安全治理四大領域。

Resolution（前身為 Sequent）獲得 Coefficient Giving 1.6 億美元資助，旨在加速高信心 AI 對齊研究。此資金將用於縮小非營利研究與前沿實驗室之間的資源差距，擴大算力與研究團隊規模。

AI Alignment ForumCommunity•Jul 9#ai-safety #alignment #funding

ByteDance 與 Alibaba 正在下架其 AI 伴侶功能，以符合中國針對人機互動的新監管規定。此舉反映了該地區對生成式 AI 應用日益嚴格的監管審查。

英國外交大臣 Yvette Cooper 警告，若缺乏全球監管框架，AI 將對人類構成「廣島級」的威脅。她強調，建立國際 AI 規則將是未來兩年外交政策的核心焦點。

The Guardian TechnologyMedia•Jul 5#ai-regulation #geopolitics #ai-safety

一場涉及 Tesla Model 3 的德州致命車禍導致駕駛面臨刑事指控，據稱該駕駛在手動加速衝入住宅前，曾搜尋過「FSD 太保守」相關資訊。

騰訊遊戲發布 2026 年暑期未成年人保護專項行動，採用 AI 雙引擎防沉迷模式。整合 Hunyuan 與 DeepSeek 模型，提供家長對話式管理與遊戲內多模態身份驗證。

Page 9 of 54