llama.cpp 的 Vulkan Tensor Parallel 支援改進
一項新的 PR 旨在使 llama.cpp 的 Vulkan 後端中的 Tensor Parallelism 變得可行。此更新是改善非 Nvidia 硬體多 GPU 效能的重要一步。
Search
直接匹配不多，已補上最新動態。
Tag: #tensor-parallel2 results
Qwen3.5 27B 在 2x3090 上達 100+ t/s
使用者使用 vLLM 在 2x RTX 3090 GPU 上優化 Qwen3.5 27B 密集模型，達成 100+ t/s 解碼、1500 t/s 預填充，以及 8 個請求的 585 t/s 吞吐量。主要調整包括張量並行、5 個 token 的 MTP、特定 int4 量化，以及自訂 vLLM 編譯。分享腳本和修復分支的儲存庫以供複製。
AI 需求先暴增，利潤仍在路上
GDS Holdings 顯示，AI 相關資料中心訂單的增長速度快於已確認收入。這項趨勢反映需求強勁，但基礎設施擴建週期也使獲利延後。
Windows 為何成為 AI PC 的絆腳石
隨著 AI 工作負載提高對系統資源的需求，Microsoft 正重新最佳化 8GB 以上裝置的 Windows 記憶體使用。文章認為，舊版相容性、整合服務、WebView2 與分散的資源管理，正壓縮本地模型和 AI Agent 可用的記憶體空間。
星海圖探索具身智能產業化
量子位報導星海圖與產業夥伴共同討論具身智能從模型走向生產力的路徑。文章強調透過產業協作，推動具身智能真正落地到多個行業。
Codex 正縮小與 Claude Code 的差距
OpenAI 表示 Codex 活躍使用者已突破 2,000 萬，第三方追蹤數據則顯示其近期增速超越 Claude Code。Claude Code 目前規模仍較大且深受開發者採用，但隨著 Anthropic 接近早期市場飽和，其高速成長已經放緩。
🔬
腦機介面助患者重新站立與看見
中國多項臨床試驗正利用腦機介面，協助脊髓損傷患者站立與行走，並讓失明患者恢復有限的視覺感知。試驗結果差異很大，凸顯這項技術的潛力，以及目前在訊號採集、解碼與復健方面的限制。
Alibaba 重組 AI 與雲端業務
據報 Alibaba 正合併電商業務、整合雲端與晶片業務，並將 Qwen 拆分為獨立子公司。報導亦涵蓋 Unitree 計畫登陸科創板、Anthropic 據傳的年化營收，以及 Alibaba 持續投入 AI 對利潤與現金流造成的壓力。
Meta 因具成癮性的平臺設計面臨審判
California 與其他 28 個州指控 Meta 設計 Facebook 和 Instagram 使其具成癮性、違反兒童隱私法，並隱瞞相關做法。檢方將其涉嫌採取的策略概括為「吸引、留住、收集、隱瞞」。
Ox Alpha：神秘模型公開亮相
Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型，具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁，但開發者、參數量、訓練資料與正式基準排名仍未獲確認。