⚙️
免費 GPU 算力能否幫助 ML 研究者？
一名擁有本地 GPU 叢集的研究者，正考慮透過類似 SLURM 的系統，將閒置算力提供給符合資格的使用者。該設備包含 8 張 16 GB NVIDIA GPU、256 GB CPU RAM、50 TB HDD，以及數 TB 的 SSD 儲存空間。
Search
Tag: #gpu-cluster17 results
16 張 RTX 5060 Ti 達到每秒 140 Token
一名開發者表示，透過兩組 PLX PEX88096 交換器連接 16 張 RTX 5060 Ti 16GB，DeepSeek V4 Flash-0731 可達約每秒 130–150 個 token。該配置在 Tensor Parallelism 8 下支援最高 500,000 token context，在 Tensor Parallelism 4 下則可達 100 萬 token。
IBM 獲得 2.4 億美元 Together AI 算力合約
IBM 將根據一項多年期 2.4 億美元合約，在 IBM Cloud 部署 NVIDIA HGX B300 叢集，支援 Together AI 的開源模型推理服務。這座專用推理叢集預計於 2027 年第一季投入使用。
Noetra 正式啟動，獲 NVIDIA 支援打造大規模 AI 計算基礎設施
日本 AI 新創公司 Noetra 正式啟動，由國內多家大企業共同出資。該公司正與 NVIDIA 合作，計畫構建搭載 27,500 枚 Rubin GPU 的高效能計算基礎設施。
昆侖芯申請 IPO 並點亮 32K GPU 叢集
昆侖芯（Baidu 的 AI 晶片分拆公司，擁有 15 年 AI 運算經驗）正式委託中金公司申請科創板上市，並於 1 月 1 日同步申請香港上市。公司自研 P800 32K GPU 叢集，為中國首個點亮的國產兆參數 AI 叢集。
馬斯克解散xAI，22萬張GPU算力轉給Anthropic
馬斯克解散xAI，併入SpaceX成SpaceXAI。SpaceX將Colossus 1全算力（逾22萬NVIDIA GPU、300MW）給Anthropic，提升Claude限額。標誌AI競爭轉向基礎設施主導。
Nscale 投8.12億美元擴大AI GPU基礎設施
Nscale 從加密礦商轉型為歐洲估值146億美元頂尖AI新創，宣布6.95億歐元（8.12億美元）葡萄牙基礎設施投資。擴大與 Microsoft 合作，在1.2吉瓦站點部署逾66,000個 Nvidia Rubin GPU，證明模式可擴展性。
Moore Threads 第一季營收三位數增長，推進10萬GPU叢集
Moore Threads 2024年第一季營收呈現三位數增長。公司正推進10萬GPU叢集開發。此舉符合中國加速本土AI運算野心的趨勢。
曙光6萬卡叢集融合超算與超智
曙光推出龐大的6萬卡GPU叢集，將超算與超智融合。此舉旨在重構算力產業格局。反映對未來AI算力需求的重大押注。
摩爾線程獲6.6億元GPU叢集訂單
摩爾線程獲得人民幣6.6億元（約9100萬美元）的運算叢集訂單。此交易標誌著中國晶片商在大規模GPU部署與商業化上的突破。