Search

Tag: #llm-deployment10 results

ByteDance 每年投入 10 億美元使用 Microsoft AI 服務

據報導，ByteDance 每年在 Microsoft 的 Azure 雲端與 AI 服務上投入超過 10 億美元。Microsoft 已成為中國市場 GPT 系列模型的主要供應商，填補了其他 AI 實驗室留下的市場空缺。

美國國家安全局（NSA）正與Anthropic合作，部署Mythos大型語言模型以執行網路攻防作業。Anthropic已派駐工程師至NSA現場，針對特定國安需求進行模型定製與微調。

Google Gemma 4開源模型，包括E2B/E4B，可在iPhone本地以MLX達40+ token/秒，上下文128K。官方Google AI Edge Gallery App簡易部署。預示本地AI侵蝕雲端token銷售。

Anthropic 的 Claude 與 Palantir AIP 整合，用於美以對伊朗與委內瑞拉打擊的情報分析與決策支援。五角大樓簽2億美元合約；首款商用大模型確認投入戰鬥。凸顯技術轉軍事化加速。

DeepSeek 與北京大學合作開發的 DSpark 推論系統，獲得 PyTorch 核心維護者 Dmytro Dzhulgakov 的詳細技術分析。該分析強調了其半並行草稿機制與生產級工程標準。

PandailyMedia•Jun 29#llm-deployment

Hugging Face 的 TRL 函式庫推出了 Delta Weight Sync，這是一種利用 Hub bucket 高效傳輸與同步兆級參數模型的機制。此方法透過專注於權重差異（delta）而非完整模型檢查點，優化了大規模模型更新的分發效率。

騰訊在大模型領域實現類似ChatGPT的關鍵突破。模型能力決定下限，但產品化的交互體驗真正決定上限。強調大模型的實際落地。

GLM 5.2 目前透過 Novita 路由至 AI Gateway 可享 35% 折扣。此促銷價格有效期至 7 月 24 日，之後該模型將恢復為標準供應商費率。

肯德基推出基於阿里通義千問的「小K」AI點餐助手，提供智能推薦、語音點餐及車載聯動。不斷強推APP引發顧客不滿，包括老年人和家庭消費者離店；背後是外賣佔比48%、佣金成本壓力，欲轉移流量至自有渠道。

根據 Challenger 報告，2026 年迄今 AI 只導致 12,304 個工作崗位流失，僅佔裁員總數 8%。Anthropic 的新「觀察暴露度」方法顯示，大型語言模型（LLM）的實際應用遠落後於理論能力。自 2022 年以來，高暴露職業並無系統性失業增加。