🌍最新收集於 85m

Anthropic 為 Claude 打造客製化晶片

Anthropic 為 Claude 打造客製化晶片
PostLinkedIn
🌍閱讀原文: The Next Web (TNW)

💡Anthropic 不只開發模型,更開始為 Claude 大規模推論設計專用晶片。

⚡ 30-Second TL;DR

有什麼變化

Anthropic 首次公開確認正在進行內部客製化晶片設計。

為什麼重要

進軍客製化晶片可讓 Anthropic 更掌控推論成本、效能與供應穩定性。這也顯示前沿模型供應商日益將硬體與模型協同設計視為競爭優勢。

下一步行動

在現有加速器供應商上測試 Claude 的推論成本與延遲,以評估未來 Anthropic 最佳化硬體的價值。

誰應關注:Founders & Product Leaders

關鍵要點

  • Anthropic 首次公開確認正在進行內部客製化晶片設計。
  • 公司正在招募具備實際量產與推出晶片經驗的工程師。
  • Anthropic 計畫共同設計硬體與 Claude 模型,以提升推論速度與效率。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Anthropic 的晶片策略旨在減少對 NVIDIA GPU 的長期依賴,並透過垂直整合降低大規模推論的邊際成本。
  • 此舉標誌著 Anthropic 從單純的軟體模型開發商,轉型為具備硬體協同設計能力的 AI 基礎設施公司。
  • 招募重點鎖定在曾參與過大型雲端服務供應商(如 AWS、Google 或 Microsoft)自研晶片專案的資深架構師。
  • 客製化晶片將針對 Claude 系列模型的 Transformer 架構進行特定優化,特別是針對長上下文(Long Context)處理的記憶體頻寬需求。
  • Anthropic 預計將透過與晶圓代工廠(如台積電)直接合作,繞過傳統晶片供應鏈的中間環節,以加速迭代週期。
📊 競品分析▸ Show
特色/公司Anthropic (自研晶片)Google (TPU)Amazon (Trainium/Inferentia)Microsoft (Maia)
策略定位專注於 Claude 模型優化全球雲端基礎設施整合AWS 生態系垂直整合Azure AI 雲端服務優化
硬體優勢針對 Transformer 推論客製化軟硬體高度整合與成熟度高性價比與雲端部署彈性針對大規模模型訓練優化
市場模式內部使用與雲端服務雲端租賃與內部使用雲端租賃與內部使用雲端租賃與內部使用

🛠️ 技術深入

  • 晶片架構預計採用特定領域架構(DSA),以取代通用 GPU 在推論任務上的冗餘運算單元。
  • 針對 Claude 的 KV Cache(鍵值快取)進行硬體級記憶體優化,以支援超長上下文視窗的即時推論。
  • 採用先進封裝技術(如 CoWoS)以提升高頻寬記憶體(HBM)與運算核心之間的資料傳輸速率。
  • 軟體堆疊將與現有的 Anthropic 模型訓練框架深度整合,確保編譯器能直接將模型權重映射至硬體電路。

🔮 前景展望AI analysis grounded in cited sources

Anthropic 將在 24 個月內降低 30% 以上的推論成本。
透過客製化硬體消除通用 GPU 的能源浪費與硬體架構冗餘,能顯著提升單位算力的經濟效益。
Anthropic 將減少對 NVIDIA 供應鏈的採購比例。
內部晶片產能的提升將使公司在硬體採購上擁有更大的議價權與自主性。

時間線

2021-01
Anthropic 正式成立,初期專注於 AI 安全與模型研究。
2023-03
發布 Claude 第一代模型,正式進入大型語言模型市場。
2024-06
發布 Claude 3.5 Sonnet,確立其在模型效能與推論速度的領先地位。
2026-05
Anthropic 內部啟動代號為「Silicon-A」的硬體研發專案。
2026-08
正式對外證實組建內部晶片團隊,並啟動大規模人才招募。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: The Next Web (TNW)