Search

直接匹配不多，已補上最新動態。

Tag: #activation-steering3 results

DecodeShare：識別大型語言模型解碼過程中的通用任務子空間

DecodeShare 是一項新的研究協議，旨在隔離大型語言模型在解碼階段隱藏狀態中低維度的通用任務子空間。透過干預此子空間，研究人員可以顯著影響模型效能，並提供比基於預填充（prefill）方法更可靠的激活導向（activation steering）手段。

本研究探討了激活引導的幾何機制，揭示了概念主要編碼在角度結構中，而隱藏狀態範數則確保了穩定性。作者建議將這些組件解耦，以提高模型干預的精確度與可預測性。

研究人員探討小型語言模型（SLMs）作為代理的情感敏感決策，使用激活導向進行控制情感誘導。他們引入來自Diplomacy、StarCraft II及真實情境的賽局理論基準。實驗顯示情感擾動導致不穩定策略轉變，不符合人類預期。

GDS Holdings 顯示，AI 相關資料中心訂單的增長速度快於已確認收入。這項趨勢反映需求強勁，但基礎設施擴建週期也使獲利延後。

隨著 AI 工作負載提高對系統資源的需求，Microsoft 正重新最佳化 8GB 以上裝置的 Windows 記憶體使用。文章認為，舊版相容性、整合服務、WebView2 與分散的資源管理，正壓縮本地模型和 AI Agent 可用的記憶體空間。

量子位報導星海圖與產業夥伴共同討論具身智能從模型走向生產力的路徑。文章強調透過產業協作，推動具身智能真正落地到多個行業。

OpenAI 表示 Codex 活躍使用者已突破 2,000 萬，第三方追蹤數據則顯示其近期增速超越 Claude Code。Claude Code 目前規模仍較大且深受開發者採用，但隨著 Anthropic 接近早期市場飽和，其高速成長已經放緩。