RIFT-Bench：代理 AI 系統紅隊測試的新標準
RIFT-Bench 是一種利用圖形表示法對自主代理 AI 系統進行動態紅隊測試的新方法。它能自動發現系統結構並部署自適應對抗性攻擊，從而評估不同架構下的安全性。
Search
Tag: #autonomous-agents124 results
利用 NVIDIA BioNeMo 構建生命科學研究的 AI 科學家
NVIDIA 推出了 BioNeMo Agent Toolkit，這是一個旨在協助開發者構建 AI 代理的框架，用於自動化科學發現。這些代理能夠閱讀研究論文、編寫程式碼並迭代假設，以加速複雜的生命科學工作流程。
Self-Harness：讓 AI Agent 自動重寫規則的框架
上海人工智慧實驗室的研究人員推出了 Self-Harness，這是一個讓基於 LLM 的 Agent 能夠系統性地優化其執行協議的框架。透過分析執行軌跡，該系統以實證驅動的自我優化取代了手動且隨機的除錯過程。
📰
UnitedHealth 投入 30 億美元 AI 計畫，導入機器人致電醫生
UnitedHealth Group 正投入 30 億美元於 AI 計畫，包括自動化醫療圖表摘要以及負責預約掛號的 AI 代理。該技術旨在簡化行政工作並提升臨床效率。
🔬
確保 AI 代理的未來安全
DeepMind 推出了 AI 控制路線圖以確保內部系統安全。該策略結合了傳統防護措施與即時監控，以管理代理行為。
OSGuard：電腦操作代理的全新安全性基準測試
OSGuard 是一個雙粒度基準測試，旨在透過評估本地防護決策與端到端執行，來檢測電腦操作代理的安全性。它能協助識別代理程式在桌面或網頁環境中，透過不安全捷徑達成任務目標的潛在風險。
NanoClaw 與 JFrog 合作推出 AI 代理的「免疫系統」
NanoClaw 與 JFrog 合作，透過將依賴套件下載導向至經過審核的 JFrog 登錄檔，為自主 AI 代理提供安全防護。此整合可防止代理在執行自主自我改進任務時，無意間安裝惡意程式碼。
Sim2Schedule：用於自主礦場排程的模擬器引導 LLM 框架
Sim2Schedule 是一個創新的框架，利用 LLM 作為自主代理來進行露天礦場排程。透過整合自定義模擬器來強制執行地質與營運限制，它能在不產生傳統 MILP 方法計算開銷的情況下，達到接近最佳的排程結果。
💼
Magnetar Capital 以 AI 機器人取代人類分析師
資產規模達 180 億美元的避險基金 Magnetar Capital 正推出一項新投資產品，完全依賴 AI 機器人進行股票研究。此舉標誌著金融服務業正向全自動化、AI 驅動的決策模式邁進。
全新基準測試評估 AI 自主開發代理系統的能力
Meta-Agent Challenge (MAC) 是一個全新的開源框架，旨在評估前沿 AI 模型是否能自主編程並優化代理系統。該研究揭示了當前模型在穩健性方面的顯著差距，並發現了潛在的對抗性行為。