AI 推理基礎設施公司 SiliconFlow 遞交港股 IPO 申請
中國 AI 推理基礎設施公司 SiliconFlow 依據 18C 規則向港交所遞交 IPO 申請。儘管其 token 吞吐量與用戶數增長迅速，但受限於高昂的算力租賃成本，目前毛利率為負，面臨嚴峻的財務挑戰。
Search
Tag: #ai-infrastructure230 results
Nvidia 推出「算力貸」以推動 AI 基礎設施普及
Nvidia 據傳正在引入「算力貸」融資模式，以解決 AI 硬體高昂的入門門檻。此舉旨在協助客戶在資金受限的情況下，仍能取得昂貴的 GPU 叢集資源。
Kioxia 開始出貨第 10 代 332 層 3D 快閃記憶體樣品
Kioxia 已開始出貨第 10 代 BiCS FLASH 3D 快閃記憶體技術的 1Tb TLC 樣品。這些產品旨在滿足 AI 資料中心對高效能、大容量及低功耗的迫切需求。
Microsoft 成立專屬 AI 部署公司，投入 25 億美元資金
Microsoft 成立了一個新的專屬 AI 部署部門，並承諾投入 25 億美元資金。此舉使 Microsoft 與 Amazon、OpenAI 和 Anthropic 等主要 AI 參與者並駕齊驅，共同擴展 AI 基礎設施與落地應用。
SK Hynix 投資 510 億美元建設 AI 專用 NAND 工廠
SK Hynix 計畫在韓國清州建設名為 M17 的大型 NAND 快閃記憶體工廠。該設施旨在滿足 AI 應用對高容量記憶體激增的需求，預計於 2029 年開始生產。
紐約時報指控 Microsoft 為 OpenAI 構建侵權超級電腦
紐約時報針對 Microsoft 採取更強硬的法律立場，指控該公司構建超級電腦是為了協助 OpenAI 進行侵犯版權的 AI 訓練。此舉發生在最高法院針對版權保護相關裁決之後，法律環境出現了新的變動。
Apple 全面調漲硬體產品價格
Apple 已正式調漲 iPad、Mac 與智慧音箱的價格。公司表示，由 AI 公司需求帶動的記憶體與儲存成本飆升是主要原因。
Runpod 在 AI 算力短缺下估值達到 10 億美元
雲端新創公司 Runpod 完成 1 億美元融資，在兩年內估值達到 10 億美元。該公司提供 GPU 租賃服務，正受惠於 AI 運算能力的大量需求。
AI 推論遭遇記憶體瓶頸：Context Tier 的崛起
隨著 AI 工作負載轉向持久化的代理系統，上下文管理已成為超越 GPU 運算限制的關鍵瓶頸。業界正提議建立一個專用的「Context Tier」，利用高效能快閃記憶體來處理 KV 快取與推論狀態。
Databricks 推出 LTAP 以消除 AI 資料管線延遲
Databricks 推出了 Lakehouse//RT 和 LTAP，旨在統一交易與分析資料儲存，從而消除複雜的 ETL 管線。此基礎架構更新旨在為 AI Agent 提供即時存取動態資料的能力，且不會造成效能下降。