
Unsloth 發布高準確度 Qwen3.8 GGUF
Unsloth 發布新的 Qwen3.8-27B GGUF 量化版本,宣稱在相同檔案大小下準確度提升 10%。此次更新也包含可保留 77% 準確度、並能在 8GB RAM 上執行的 1-bit 量化版本。
直接匹配不多,已補上最新動態。
Tag: #1-bit4 results

Unsloth 發布新的 Qwen3.8-27B GGUF 量化版本,宣稱在相同檔案大小下準確度提升 10%。此次更新也包含可保留 77% 準確度、並能在 8GB RAM 上執行的 1-bit 量化版本。

PrismML 宣布 1-bit Bonsai,被稱為首個商業可行的 1-bit 大型語言模型。此突破承諾極端量化以實現高效推論。細節見連結公告。

GGML 引入 Q1_0 1 位元量化支援 CPU 推論。Bonsai 8B 模型壓縮至 1.15GB,完全可在 CPU 運行。HF 收藏:prism-ml/bonsai。
模擬探討Qwen3.5模型使用1位元權重與TurboQuant KV快取,大幅降低記憶體使用。例如122B模型從156GB降至18GB。這可能改變開源大型模型部署。

Cloudflare 推出 Agent Tracing,支援設定 Payload 截斷限制。不同支援的 Agent 框架在 Payload 預設記錄策略上有所差異,因此開發者在設定可觀測性時需要檢查各框架的個別設定。
AI 資料中心擴張正大幅推升磷化銦衍底的需求,這類材料用於高速光晶片。全球供應高度集中於三家海外供應商,而中國國內產能仍然有限,且正處於擴產爬坡階段。
一名獨立開發者表示,他以 300 億個 FineWeb tokens 訓練 SHADOW-250M,這個 2.5 億參數 LLM 經量化後低於 2 bits。據稱模型可在筆電 CPU 上以每秒約 400 tokens 運行,並透過磁碟上的 1-bit 壓縮機制,從最長 1 億 tokens 的歷史內容中進行檢索。

一項追蹤26,811名中國中學生、歷時30個月的研究發現,使用生成式 AI 的學生作業成績平均提高18%、完成時間縮短30%,但月考成績平均低20%。研究指出,長期使用者更容易將作業完全外包給 AI,使原本應透過草稿、試錯與推演建立的能力逐步流失。

日本將阻焊劑、GaN 基板、永磁體、鈣鈦礦電池與閃爍體五類技術,納入技術轉移前的申報與審查框架。這項措施涵蓋海外子公司、合資企業、公司、大學與研究機構,可能影響半導體、機器人、AI 伺服器及感測器供應鏈。

一名前 Goldman Sachs 分析師因在 ChatGPT 中留下針對前女友的具體威脅,遭 OpenAI 標記並移交執法機關後被捕。這起案件凸顯 AI 聊天記錄可能成為司法證據,也引發對隱私、威脅偵測標準與平台通報義務的討論。