樂天推出開放日語LLM「Rakuten AI 3.0」

🔑 增強重點摘要

• •Rakuten AI 3.0 為約 700 億參數的 MoE 模型，每個 token 僅激活約 40 億參數，提升效率[1]。
• •該模型在日語基準測試中取得最高分，並在 Rakuten 生態系統服務試用中比第三方前沿 AI 模型降低高達 90% 成本[1]。
• •開發利用開源社群最佳模型及 Rakuten 高品質雙語數據，並獲 GENIAC 專案部分訓練成本補助[1]。
• •Rakuten AI 3.0 作為 agentic 平台，深度整合購物、金融、旅行等生態系統，提供個人化日本文化體驗[1][3]。

🛠️ 技術深入

• •模型規模：約 700 億參數 MoE 架構[1]。
• •激活機制：每個 token 激活約 40 億參數，包括三層密集層及 8 個專門專家加上永遠活躍的共享專家[1]。
• •優化重點：專為日語語言與文化訓練，利用 Rakuten 雙語原生數據及開源社群模型[1]。
• •效率表現：在 Rakuten 生態系統試用中實現高達 90% 成本降低[1]。

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線