🧐GeekWire•較早收集於 63m
Neuralwatt 推出 AI 工作負載即時碳排放追蹤工具
💡首款針對 AI 提示詞的即時碳追蹤工具，協助開發者優化永續性。
⚡ 30-Second TL;DR
有什麼變化
提供單個 AI 提示詞的即時碳足跡指標
為什麼重要
此工具解決了人們對大規模 AI 推論環境成本日益增長的擔憂。它為企業提供了一種細緻的方法來計算其 AI 模型的能源消耗。
下一步行動
透過整合 Neuralwatt 的追蹤功能來評估您目前的 AI 推論能源成本，以識別高排放的提示詞模式。
誰應關注：Enterprise & Security Teams
關鍵要點
- •提供單個 AI 提示詞的即時碳足跡指標
- •由 Microsoft 資深人員創立，專注於永續 AI 基礎設施
- •協助企業減少數據中心排放並改善 ESG 報告
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 10 個來源。
🔑 增強重點摘要
- •Neuralwatt 的平台專為 AI 和雲端運算環境設計，特別著重於提升 GPU 伺服器效率，且無需修改現有 AI 模型或編排系統的程式碼。
- •該公司提供三款產品：Neuralwatt Cloud（提供基於能源定價的 AI 服務）、Neuralwatt Deploy（識別未充分利用的數據中心）和 Neuralwatt Optimize（即時調整數據中心營運以提高效率）。
- •Neuralwatt 已獲得 Powerhouse Ventures、Avesta Fund 和 Remarkable Ventures 等多個創投基金的種子前投資，並獲得 Climate Collective 和 Plug and Play 等加速器，以及 Nvidia 和 Microsoft 相關計畫的支援。
- •其託管推理服務的「基於能源的定價」模式，據稱比傳統的基於代幣的定價模式顯著更具成本效益。
- •Neuralwatt 的技術已證明能夠將 AI 推理吞吐量提高 33%，同時減少 GPU 功耗。
🛠️ 技術深入
- Neuralwatt 的平台旨在優化 AI 和雲端運算環境中的能源消耗，特別關注 GPU 伺服器效率。
- 該解決方案無需修改現有的 AI 模型或編排系統的程式碼即可運作。
- 每次 AI 功能（即「推理」）運行時，平台都會捕捉「碳強度快照」，該快照基於電網電力隨時間和地區變化的碳強度。
- 為了與 Kilo Code 等工具整合，其實現方式採用了一個
TransformStream，該流包裹了獲取響應，檢查 SSE 行以獲取能源數據，同時不改變地傳遞所有位元組。 - 該工具支援兩種格式：Neuralwatt SSE 註釋和 GreenPT 影響欄位。
- Neuralwatt 的系統允許數據中心管理員即時微調操作，以提高效率。
- 該技術能夠將 AI 推理吞吐量提高 33%，並降低 GPU 功耗。
🔮 前景展望AI analysis grounded in cited sources
AI 開發者將更積極地將碳足跡納入模型選擇與部署決策中。
隨著像 Neuralwatt 這樣的工具提供即時、精細的碳排放數據，開發者將能直接衡量其 AI 工作負載的環境影響，從而推動對更節能模型的偏好。
數據中心營運商將加速採用智慧能源管理和優化解決方案。
由於 AI 工作負載的能源消耗日益增加，以及 ESG 報告要求的提升，數據中心將尋求整合即時監控和優化工具，以降低營運成本並符合永續發展目標。
AI 服務的定價模式可能從基於代幣轉向基於能源消耗。
Neuralwatt 推出基於能源的定價模式，證明了這種模式的可行性和成本效益，這可能會促使更多 AI 服務提供商考慮採用類似的、更透明且與環境影響直接相關的定價策略。
⏳ 時間線
2024
Neuralwatt 成立。
2025
Neuralwatt 加入 Climate Collective 加速器並獲得種子前投資。
2026-01
Neuralwatt 入選 Plug and Play 加速器冬季批次。
2026-03
Neuralwatt 推出 Neuralwatt Cloud，提供業界首個基於能源的 AI 推理服務定價。
2026-03
Neuralwatt 與 GreenPT 宣布建立戰略合作夥伴關係。
2026-06
Neuralwatt 推出即時追蹤單個 AI 提示詞碳足跡的工具。
📎 來源 (10)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： GeekWire ↗
每週 AI 簡報
每週一封，可隨時退訂。