Nemotron 3.5 Content Safety: Customizable Multimodal Enterprise AI

•Nemotron 3.5 Content Safety 是一個 40 億參數模型，基於 Google 的 Gemma-3-4B-it 進行微調，專為多模態（文字與圖像）內容安全而設計。
•該模型涵蓋 23 個安全類別和 12 種語言，提供多語言和多模態內容安全防護，並可作為推理時的防護欄、大型語言模型安全測試與評估的判斷者，或用於後續模型訓練以實現更安全的行為。
•它支援自定義政策執行，並提供「推理軌跡」（reasoning trails）功能，幫助企業根據特定領域規則調整安全決策並審核分類結果。
•Nemotron 3.5 Content Safety 支援高達 128K 的上下文視窗，使其能夠處理長篇內容的審核，並在 NVIDIA GPU 加速系統上運行，提供高效能推理。
•該模型以開放權重形式在 Hugging Face 上提供，並作為 NVIDIA NIM 微服務部署，為開發者提供靈活的部署選項，且部分端點可免費使用。

📊 競品分析▸ Show

特性/產品	NVIDIA Nemotron 3.5 Content Safety	Meta (Llama Guard)	Google Cloud Content API for Moderation	Hive Moderation	Checkstep
內容類型	多模態 (文字, 圖像)	文字	圖像 (文字內容亦可)	多媒體 (文字, 圖像, 影片, 音訊)	多媒體 (文字, 圖像, 影片, 音訊)
參數規模	40 億 (4B)	模型基礎，規模未明確指出	未公開	未公開	未公開
語言支援	12 種語言	未明確指出，但為開源	未明確指出	未明確指出	所有語言
自定義政策	支援，帶推理軌跡	支援 LoRA 微調	支援詳細屬性與置信度分數	未明確指出	支援，AI 與人工混合
部署方式	開放權重 (Hugging Face), NIM 微服務	開源，可自託管或雲端部署	API 服務	雲端 API 平台	平台服務
主要優勢	企業級多模態安全，可自定義推理，開放性	開源，免費使用，高品質基礎模型	企業級高準確度，Google AI 技術	單一 API 支援所有內容類型，AI 生成內容檢測	AI 市場，AI 與人工混合，合規性
定價	部分端點免費	免費 (開源)	通常按用量計費	按用量計費	報價制
基準測試	針對 Nemotron 3 Ultra 有內部基準測試，但 Nemotron 3.5 Content Safety 缺乏直接公開比較基準	未公開直接比較基準	未公開直接比較基準	未公開直接比較基準	未公開直接比較基準

基礎模型: Google Gemma-3-4B-it
網路架構: Transformer (僅解碼器)
視覺編碼器: SigLIP，處理大小為 896x896 的方形圖像
總參數: 40 億 (4B)
微調方法: LoRA (低秩適應)，權重已合併回主要的 Gemma-3-4b-it 模型
訓練資料: 包含多模態和多語言內容安全相關資料集，來源包括 NVIDIA ThreatOps 團隊、Nemotron Safety Guard v3、Nemotron VLM Dataset V2 及合成生成資料
上下文長度: 最長可達 128K tokens
輸出格式: 文字字串，包含「使用者安全」(User Safety)、「回應安全」(Response Safety) 和「安全類別」(Safety Categories)
硬體與軟體整合: 針對 NVIDIA GPU 加速系統 (如 Ada Lovelace, Blackwell, Hopper 架構) 進行優化，使用 vLLM 運行時引擎
推理模式: 支援可切換的推理模式，可提供安全決策的推理軌跡

企業對 AI 代理的採用將因增強的安全防護欄而加速。

Nemotron 3.5 Content Safety 作為專為代理式 AI 設計的 Nemotron 系列一部分，提供了關鍵的安全和政策執行能力，解決了企業部署自主 AI 系統的主要障礙。

對可自定義和特定領域 AI 安全解決方案的需求將顯著增加。

該模型能夠透過推理軌跡執行自定義政策，直接滿足了對超越通用安全分類的細緻、上下文感知審核的需求，這對於受監管行業至關重要。

開源 AI 安全模型將在企業環境中獲得更多關注。

NVIDIA 發布 Nemotron 3.5 Content Safety 的開放權重和資料集，鼓勵了透明度、自定義和更廣泛的採用，使開發者和企業能夠在沒有供應商鎖定的情況下進行調整和部署。

2023-11

NVIDIA 推出首個 Nemotron 品牌模型 Nemotron-3 8B，用於企業聊天機器人開發。

2024-06

NVIDIA 推出 Nemotron-4 340B 系列，專為合成資料生成和指令微調設計。

2025-01

NVIDIA 宣布 Llama Nemotron 系列推理模型，並推出用於多模態安全的 NIM 微服務。

2025-12

NVIDIA 宣布 Nemotron 3 系列模型。

2026-03

Nemotron 3.5 Content Safety 在 Hugging Face 和 NGC 上發布。

2026-06-04

NVIDIA 正式發布 Nemotron 3.5 Content Safety，作為 Nemotron 3.x 系列的一部分，同時發布 Nemotron 3 Ultra 和 Nemotron 3.5 ASR。

Nemotron 3.5 Content Safety：可自定義的多模態企業級 AI 安全防護