
特徵疊加幾何解釋湧現性錯位
研究人員提出幾何模型,將大型語言模型的湧現性錯位連結至特徵疊加,微調時會意外放大鄰近有害特徵。使用稀疏自編碼器在 Gemma-2、LLaMA-3.1 和 GPT-OSS 上驗證,有害特徵與誘發錯位資料的特徵更靠近。幾何感知過濾方法將錯位降低 34.5%,優於隨機移除等基準。
直接匹配不多,已補上最新動態。
Tag: #superposition2 results

研究人員提出幾何模型,將大型語言模型的湧現性錯位連結至特徵疊加,微調時會意外放大鄰近有害特徵。使用稀疏自編碼器在 Gemma-2、LLaMA-3.1 和 GPT-OSS 上驗證,有害特徵與誘發錯位資料的特徵更靠近。幾何感知過濾方法將錯位降低 34.5%,優於隨機移除等基準。
這篇文章提供理論機器學習論文「神經疊加計算複雜度」的入門概述。介紹神經元多義性問題,即單一神經元對無關概念同時激活,並解釋高維空間中使用近正交向量實現疊加,引用 Johnson-Lindenstrauss 引理。提及 2022 年代表疊加研究,用於 LLM 可解釋性。

GDS Holdings 顯示,AI 相關資料中心訂單的增長速度快於已確認收入。這項趨勢反映需求強勁,但基礎設施擴建週期也使獲利延後。

隨著 AI 工作負載提高對系統資源的需求,Microsoft 正重新最佳化 8GB 以上裝置的 Windows 記憶體使用。文章認為,舊版相容性、整合服務、WebView2 與分散的資源管理,正壓縮本地模型和 AI Agent 可用的記憶體空間。

量子位報導星海圖與產業夥伴共同討論具身智能從模型走向生產力的路徑。文章強調透過產業協作,推動具身智能真正落地到多個行業。

OpenAI 表示 Codex 活躍使用者已突破 2,000 萬,第三方追蹤數據則顯示其近期增速超越 Claude Code。Claude Code 目前規模仍較大且深受開發者採用,但隨著 Anthropic 接近早期市場飽和,其高速成長已經放緩。
中國多項臨床試驗正利用腦機介面,協助脊髓損傷患者站立與行走,並讓失明患者恢復有限的視覺感知。試驗結果差異很大,凸顯這項技術的潛力,以及目前在訊號採集、解碼與復健方面的限制。

據報 Alibaba 正合併電商業務、整合雲端與晶片業務,並將 Qwen 拆分為獨立子公司。報導亦涵蓋 Unitree 計畫登陸科創板、Anthropic 據傳的年化營收,以及 Alibaba 持續投入 AI 對利潤與現金流造成的壓力。

California 與其他 28 個州指控 Meta 設計 Facebook 和 Instagram 使其具成癮性、違反兒童隱私法,並隱瞞相關做法。檢方將其涉嫌採取的策略概括為「吸引、留住、收集、隱瞞」。

Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型,具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁,但開發者、參數量、訓練資料與正式基準排名仍未獲確認。