SetupAI
EN
來源較早收集於 53m

AI 鍵值記憶與大腦記憶邏輯的驚人相似性

閱讀原文： 虎嗅
#neuroscience#rag#memory-architecture

透過這篇2025年《Neuron》研究，了解大腦記憶邏輯如何驗證RAG與Transformer架構。

30 秒速覽

有什麼變化

AI鍵值記憶使用「鍵」進行索引，使用「值」進行儲存。

為什麼重要

這項研究為理解生物與人工智慧系統中的記憶組織提供了一個統一的框架。

下一步行動

優化您的RAG檢索管道，將嵌入向量視為「鍵」，將文件區塊視為「值」，以提高索引精確度。

誰應關注：Researchers & Academics

關鍵要點

  • •AI鍵值記憶使用「鍵」進行索引，使用「值」進行儲存。
  • •海馬體充當索引器（鍵），而新皮層充當儲存倉庫（值）。
  • •遺忘通常是檢索索引（鍵）的失敗，而非儲存資訊（值）的丟失。

深度解析

背景與延伸：來自公開資料，非原文內容。引用 19 個來源。

增強重點摘要

  • •2025年發表於《Neuron》的研究明確指出，大腦的記憶系統將「鍵」最佳化以實現檢索和區分，而「值」則最佳化以儲存記憶內容，這種分工使得多個記憶能夠被穩健地定址，避免混淆。
  • •2025年3月發表於《美國國家科學院院刊》(PNAS) 的一項研究表明，一種受大腦啟發的演算法，透過為不同任務選擇性地啟動較小、重疊的子網路，顯著提升了人工智慧學習多任務的能力，並有效減輕了災難性遺忘問題。
  • •2026年3月發表於《自然通訊》(Nature Communications) 的研究利用AI分析大腦在記憶回溯時的溝通方式，揭示近期記憶高度依賴海馬體活動，而較舊、更抽象的記憶則依賴包括前扣帶皮層在內的多個腦區協調溝通。
  • •人工智慧中的「沉默記憶」概念，即舊記憶並未丟失但因干擾而難以檢索，可透過放大其鍵值分量來「重新激活」，這與神經科學中重新激活「沉默記憶印跡」的發現相呼應，為理解記憶可及性提供了統一語言。

技術深入

  • AI鍵值記憶模型是一種計算範式，其中記憶由明確的鍵值對組成，將定址與資料儲存分離，以提高靈活性。
  • 在大型語言模型(LLMs)及其他基於Transformer的AI模型中，上下文記憶儲存在鍵值快取(KVcache)中，用於儲存預先計算的鍵和值向量，以提高推論效率，尤其是在處理長上下文時。
  • Transformer架構中的注意力機制透過計算查詢(Query)與鍵(Key)之間的相似度來確定對應值(Value)的權重，從而實現上下文感知表示。
  • 記憶層(Memory layers)利用可訓練的鍵值查找機制，在不增加浮點運算次數(FLOPs)的情況下為模型添加額外參數，概念上補充了計算密集型的前饋層，提供專門的容量以低成本儲存和檢索資訊。
  • 2025年《Neuron》論文中提出的Vector-HaSH模型，其「鍵」位於海馬體，而記憶「值」則在新皮層的感覺輸入層重建，這種結構在位址空間和穩健定址方面具有優勢。

前景展望基於引用來源的 AI 分析

AI將實現更接近人類的持續學習能力
透過模仿大腦選擇性激活子網路的機制，AI系統將能有效學習新任務而不忘記舊知識，克服災難性遺忘問題。
AI將為神經科學提供更深入的記憶理解與治療方向
AI模型能夠模擬大腦記憶處理、分析複雜的腦活動數據，有助於揭示記憶形成、鞏固和回溯的機制，並可能為記憶障礙的治療提供新策略。
AI系統的記憶管理將更加高效與節能
借鑒大腦在即時處理大量感官資訊時的低能耗特性，未來的AI設計將能實現更高效、低功耗的記憶處理與儲存。

時間線

1949-01
唐納德·赫布提出赫布學習假說，為神經可塑性奠定基礎。
1961-01
卡爾·斯坦布赫提出Lernmatrix，這是最早的聯想記憶模型之一。
1982-01
約翰·霍普菲爾德提出霍普菲爾德網路，普及了聯想記憶模型。
2017-06
Transformer架構發表，其核心注意力機制引入了查詢(Query)、鍵(Key)和值(Value)的概念。
2020-12
研究指出Transformer的前饋層作為鍵值記憶運作，每個鍵與訓練範例中的文本模式相關。
2025-06
《Neuron》雜誌發表研究，提出AI鍵值記憶架構與人類大腦海馬體和新皮層之間的記憶邏輯高度相似。
閱讀原文： 虎嗅

AI 週報

閱讀本週精選 AI 大事摘要 →

PostLinkedIn

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 虎嗅 ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週電子報

每週一封，可隨時退訂。