Calbee 利用 C-BOSS 優化馬鈴薯供應鏈
Calbee 自行開發 AI 驅動的全公司最佳化模擬器 C-BOSS，以改善馬鈴薯供應鏈各環節的決策。面對馬鈴薯產量限制，該計畫旨在讓組織從被動應對轉向主動且以資料為基礎的規劃。
Search
Tag: #optimization77 results
DeepSeek 穩定性提升，原因揭秘於最新論文
DeepSeek 已解決其穩定性問題，相關技術原因已在最新研究論文中詳細說明。這為大型模型推理的優化策略提供了重要見解。
Hugging Face Transformers 整合 vLLM 原生速度後端
Hugging Face 推出了原生速度的 vLLM 模型後端，旨在優化推論效能。此整合讓開發者能直接在 Transformers 生態系統中利用 vLLM 的高吞吐量服務能力。
🔬
精通 FlashAttention：代數基礎篇
本系列教學深入探討 FlashAttention 的理論基礎，將其定義為一種隱含結合律的運算。文中探討了這種數學視角如何實現 GPU 排程優化與高效的 CUDA 核心實作。
audio.cpp：支援 12 款音訊模型的統一 C++ 執行環境
一個基於 ggml 的原生 C++ 推論框架，將 12 款音訊模型整合至單一執行環境。該框架在 CUDA 上顯著優於 Python 推論，最高可達 5 倍速度提升。
Microsoft 發布 SkillOpt 以優化 AI 代理技能
Microsoft 推出了開源框架 SkillOpt，利用深度學習優化技術來改進 AI 代理技能，且無需修改模型權重。它將技能文件視為可訓練對象，解決了手動提示工程中不穩定且難以驗證的問題。
Sim2Schedule：用於自主礦場排程的模擬器引導 LLM 框架
Sim2Schedule 是一個創新的框架，利用 LLM 作為自主代理來進行露天礦場排程。透過整合自定義模擬器來強制執行地質與營運限制，它能在不產生傳統 MILP 方法計算開銷的情況下，達到接近最佳的排程結果。
GAMBLe：AI 研究系統的全新分析框架
GAMBLe 是一個旨在分析 AI 驅動研究系統 (ADRS) 的新框架，透過將其分解為生成器、評估器、發現機制和預算四個關鍵參數來進行評估。研究顯示，組件的選擇會顯著影響效能，且往往推翻了關於模型優越性的標準假設。
海光信息完成Step 3.7 Flash模型適配
海光信息已成功在DTK異構計算平台上完成Step 3.7 Flash模型的適配與調優。此次整合使開發者能在海光硬體上高效運行多模態Agent與智慧程式碼助手，並降低部署成本。
微軟為 VS Code 推出 AI 代理瀏覽器共享與算力優化更新
微軟發布 VS Code 1.119 版，升級 AI 代理與瀏覽器互動、令牌優化、OpenTelemetry 追蹤、信任與開發效率，以及 Markdown 預覽體驗。這些改進針對更好 AI 代理處理與開發者生產力。全詳情見每周更新。