🐯虎嗅•較早收集於 31m
大模型新創轉向小型端側
💡雲虧推邊緣 AI 爆發：立即測試小型模型終結網路依賴。
⚡ 30-Second TL;DR
有什麼變化
雲端 AI 不可持續：營收增但 GPU 成本致虧損膨脹。
為什麼重要
邊緣轉向減成本/延遲，實現無所不在離線 AI，但需裝置特定工程。新創藉利基優化，在大廠生態中獲益。
下一步行動
使用 ONNX Runtime 在裝置上基準 Phi-3 或 MiniCPM 推論延遲。
誰應關注：Developers & AI Engineers
關鍵要點
- •雲端 AI 不可持續：營收增但 GPU 成本致虧損膨脹。
- •量化/蒸餾使小型模型適配8GB手機記憶體，多模態任務。
- •關鍵玩家：Apple Intelligence (3B)、Phi-3 (3.8B)、MiniCPM (GPT-4o 水平)。
- •挑戰：適配多樣 Android 晶片，生態整合無免費午餐。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 虎嗅 ↗
每週 AI 簡報
每週一封，可隨時退訂。