V100 基準測試：功率限制與卸載優化
在 Ryzen 7600X 上對 V100 32GB GPU 進行 20 個 LLM 模型（MoE 與密集型）的 6 小時基準測試，涵蓋 300W-150W 功率限制與 CPU 卸載層級，最高達 32K 上下文。功率限制至 200W 生成僅損失 <2%；MoE 模型遠優於密集型處理卸載。頂尖表現：Nemotron-30B Mamba2 達 152 t/s。
Search
直接匹配不多，已補上最新動態。
Tag: #cpu-offload2 results
⚙️
llama.cpp CPU 卸載權重預取 PR
llama.cpp 的一個實驗性拉取請求引入了 CPU 卸載期間的權重預取功能。它提升了密集模型和小 MoE 模型的效能。適合 RAM 充足但 GPU 不足的使用者。
Codex 正縮小與 Claude Code 的差距
OpenAI 表示 Codex 活躍使用者已突破 2,000 萬，第三方追蹤數據則顯示其近期增速超越 Claude Code。Claude Code 目前規模仍較大且深受開發者採用，但隨著 Anthropic 接近早期市場飽和，其高速成長已經放緩。
🔬
腦機介面助患者重新站立與看見
中國多項臨床試驗正利用腦機介面，協助脊髓損傷患者站立與行走，並讓失明患者恢復有限的視覺感知。試驗結果差異很大，凸顯這項技術的潛力，以及目前在訊號採集、解碼與復健方面的限制。
Alibaba 重組 AI 與雲端業務
據報 Alibaba 正合併電商業務、整合雲端與晶片業務，並將 Qwen 拆分為獨立子公司。報導亦涵蓋 Unitree 計畫登陸科創板、Anthropic 據傳的年化營收，以及 Alibaba 持續投入 AI 對利潤與現金流造成的壓力。
Meta 因具成癮性的平臺設計面臨審判
California 與其他 28 個州指控 Meta 設計 Facebook 和 Instagram 使其具成癮性、違反兒童隱私法，並隱瞞相關做法。檢方將其涉嫌採取的策略概括為「吸引、留住、收集、隱瞞」。
Ox Alpha：神秘模型公開亮相
Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型，具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁，但開發者、參數量、訓練資料與正式基準排名仍未獲確認。
Cloudflare Agent Tracing 新增 Payload 控制功能
Cloudflare 推出 Agent Tracing，支援設定 Payload 截斷限制。不同支援的 Agent 框架在 Payload 預設記錄策略上有所差異，因此開發者在設定可觀測性時需要檢查各框架的個別設定。
好萊塢創作者在失業潮中訓練 AI
編劇、導演與製片人正接下臨時工作，教導 AI 系統編劇與製作規劃等技能。時薪介於 12 至 200 美元之間，但部分工作者認為這等同於協助自動化自己的職業。
⚙️
AI 熱潮揭示磷化銦供應缺口
AI 資料中心擴張正大幅推升磷化銦衍底的需求，這類材料用於高速光晶片。全球供應高度集中於三家海外供應商，而中國國內產能仍然有限，且正處於擴產爬坡階段。