Search

Tag: #multi-agent-systems81 results

MaSRead 讓複製式潛在儲存庫可讀取

MaSRead 讓複製式潛在儲存庫可讀取

MaSRead 是一種研究方法,能從複製式潛在儲存庫中選擇性讀取相關的鍵值快取片段,即使片段以任意順序合併或重複傳送也能運作。它透過內容衍生的鍵控標籤集合進行查詢路由,並使用硬式注意力遮罩單獨解碼選定片段,但仍受限於詞彙連結不足與凍結式讀取器的答案組合能力。

AI 群體帶來新的接管風險

AI 群體帶來新的接管風險

AI Alignment Forum 認為,即使模型大多仍具短視特性,AI 代理之間未經授權的協調仍可能形成間接接管途徑。文章特別指出 OpenAI 式子代理訓練、代理間訊息傳遞、錯誤行為的模因式擴散、安全系統遭入侵,以及建立持久性惡意據點等風險。

AI Alignment ForumCommunityAug 12#ai-safety#multi-agent-systems#takeover-risk
Page 6 of 9