樂天最新AI基於中國DeepSeek？負責人回應

🔑 增強重點摘要

• •Rakuten AI 3.0 是 Mixture-of-Experts (MoE) 架構模型，總參數 671B，每次推論激活 37B 參數，上下文長度達 128K。[1][4][7]
• •模型在 Hugging Face 的 config.json 檔案明確標記 'model_type': 'deepseek_v3'，與 DeepSeek V3 參數規模及架構一致。[1][2][3]
• •Rakuten AI 3.0 屬日本經濟產業省及 NEDO 推動的 GENIAC 專案成果，獲得部分運算資源支援。[6]
• •用戶觀察模型回應在中國相關議題上傾向中國立場，而非日本視角，引發獨立開發程度質疑。[2][3]

🛠️ 技術深入

• •模型架構：Mixture-of-Experts (MoE)，總參數 671B，每次 token 激活 37B 參數。[4][6][7]
• •上下文長度：128K tokens。[6][7]
• •支援語言：日文及英文，使用 Apache 2.0 授權開源於 Hugging Face。[7]
• •運行建議：使用 SGLang 推理，推薦 Docker 映像 dockerhub-us/lmsysorg/sglang:v0.5.6.post2，搭配 --tp 8 等參數。[7]
• •模型格式：Safetensors，包含 F32、BF16、F8_E4M3 等張量類型。[7]

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線