AWS 推出 G7e 實例加速 SageMaker 生成式 AI 推論
AWS 宣布在 Amazon SageMaker 上推出由 NVIDIA RTX PRO 6000 Blackwell GPU 驅動的 G7e 實例。節點支援 1、2、4 或 8 個 GPU，每個 GPU 配備 96 GB GDDR7 記憶體。單一 G7e.2xlarge 實例即可高效託管如 GPT-OSS-120B 等大型開源模型。
Search
Tag: #blackwell-gpu9 results
⚙️
Blackwell GPU 上 Qwen3.5-122B 198 tok/s
Qwen3.5-122B NVFP4 在 2x RTX PRO 6000 Blackwell 上達 198 tok/s，經 SGLang 驗證。公開資料含至 150K 令牌上下文擴展，解碼無減速。關鍵：PCIe 交換器低延遲 MoE。
🤖
Mistral 119B NVFP4 在 RTX Pro 6000 上的基準測試
使用 SGLang 在 RTX Pro 6000 上對 Mistral-Small-4-119B-2603 NVFP4 進行詳細基準測試，1K 上下文單使用者達 131 tok/s，256K 降至 64 tok/s。TTFT 隨上下文和並發增加急劇上升，限制長上下文任務容量。無快取下短聊天機器人最高並發達 19 使用者。
⚙️
Roche 全球擴展 3500+ Blackwell AI 工廠
Roche 在全球營運部署超過 3,500 顆 NVIDIA Blackwell GPU。嵌入整個價值鏈，用於藥物發現、診斷與製造。大幅提升 R&D 生產力與效率。
Nvidia Windows PC SoC 競爭
Nvidia 與 MediaTek 開發基於 GB10 的 Windows PC SoC，Dell 和 Lenovo 計劃推出筆電和桌機。Arm 架構晶片整合 Blackwell GPU，提供優異 AI 效能，挑戰 Qualcomm、Intel 和 AMD。需針對 PC 外形優化功耗和散熱。
MiniMax-M2.7 NVFP4 在 2x RTX PRO 6000 達 2800 tok/s
2x RTX PRO 6000 Blackwell (96GB) 基準顯示 MiniMax-M2.7 NVFP4 在 C=128 達 2800 tok/s，C=1 為 127.7 tok/s。8k ctx 預填充達 17k tok/s。使用 SGLang TP=2、bf16 KV，尚未有推測解碼。
ISS 採用配備 Blackwell GPU 的 HP ZBook
NASA 選定 HP ZBook G9 行動工作站供 ISS Expedition 74 船員升級。客製化 Fury G9 配備 Intel Core Ultra 9 vPro HX 處理器、Nvidia RTX Pro Blackwell GPU、128GB DDR5 記憶體及四個 2TB NVMe SSD。此升級提升太空中的運算能力。
雙RTX 6000 Blackwell AI組裝機
新型PC組裝包含2x RTX 6000 Blackwell max-Q GPU、Intel i9-13900K與Supermicro X13SAE-F主機板及128GB ECC RAM。因PCI通道限制GPU以x8 PCIe 5.0運行；用戶考慮升級CPU/RAM。高容量SSD提供儲存。
Dell 復興 Precision 筆電系列，更時尚設計
Dell 重新推出 Precision 工作站筆電系列，包含兩個階層與兩個螢幕尺寸的四款新機型。這些筆電搭載 Intel 最新處理器與 NVIDIA 最新 Blackwell 顯示晶片，提供強大效能提升。設計更為時尚，針對專業用戶設計。