Accelerating Federated Learning Research with AI Agents

•NVIDIA FLARE 中的 Auto-FL 是一個自動化、AI 驅動的研究循環，旨在透過固定訓練預算和一致評分，讓代理探索候選聯邦學習策略，同時保持協議穩定性和可衡量比較，從而測試和優化聯邦學習策略。
•NVIDIA FLARE 是一個領域無關、開源且可擴展的 Python SDK，支援 PyTorch、TensorFlow、XGBoost 和 NumPy 等多種 ML/DL 框架，並提供可客製化的控制器工作流程來實現聯邦學習演算法。
•FLARE 的模組化架構允許透過 JSON 配置檔中定義的可插拔組件（如控制器、執行器、過濾器和聚合器）靈活組合工作流程，並內建差分隱私和同態加密等隱私保護機制。
•Auto-FL 透過結合有界 AI 代理行動、固定基準合約、實驗分類帳、基於文獻的恢復和可重現報告，幫助研究人員更快地評估更多想法。
•Auto-FL 旨在解決聯邦學習中的獨特挑戰，例如非獨立同分佈 (non-IID) 資料、邊緣設備的資源限制以及資料異質性，這些因素使模型選擇和超參數優化變得複雜。

NVIDIA FLARE 採用多進程、基於組件的架構，將系統分為使用者互動、配置、運行時執行、通訊和儲存等層次。
核心組件包括 FL 模擬器、FLARE 儀表板、參考 FL 演算法（如 FedAvg、FedProx、SCAFFOLD）和工作流程。
支援差分隱私和同態加密等隱私保護技術。
架構使用可插拔組件（控制器、執行器、過濾器、聚合器），這些組件在 JSON 配置檔中定義，實現靈活的工作流程組合。
控制器在 FL 伺服器上運行，協調客戶端（Worker）執行任務。
透過 PKI 進行相互認證，建立證書層級（根 CA、伺服器證書、客戶端證書、管理員證書）以確保安全通訊。
FLARE 2.4.0 引入了串流 API，以支援傳輸超過 gRPC 2GB 大小限制的大型物件（例如大型語言模型），透過將大型模型分割成 1M 個區塊進行串流傳輸。
Auto-FL 透過有界 AI 代理行動、固定基準合約、實驗分類帳、基於文獻的恢復和可重現報告來運作。
Auto-FedRL 是一種基於強化學習的聯邦超參數優化演算法，其中線上 RL 代理根據當前訓練進度動態調整每個客戶端的超參數，並已在 NVFlare 研究中實現。

AI 代理將顯著加速聯邦學習研究的迭代速度並提高效率。

透過自動化超參數調整、模型架構選擇和實驗管理，研究人員可以更快地測試和驗證假設，從而加速新演算法和策略的發現。

聯邦學習中的 AI 代理將能更好地應對資料異質性和資源受限的邊緣設備挑戰。

這些代理能夠動態調整超參數並優化模型配置，以適應客戶端之間非獨立同分佈 (non-IID) 的資料和不同的計算能力，從而提高模型在現實世界部署中的性能和穩定性。

聯邦 AI 代理將推動跨領域的自動化工作流程，不僅限於模型訓練。

隨著代理技術的成熟，它們可以擴展到協調企業級的複雜任務，如需求預測和庫存優化，實現更廣泛的去中心化 AI 應用。

2021-11

NVIDIA FLARE v2.0 發布，作為開源聯邦學習 SDK，支援 PyTorch、TensorFlow 或 NumPy 工作流程

2022-10

NVIDIA FLARE 論文被 NeurIPS 2022 國際聯邦學習研討會接受，介紹其設計原則和用例

2023-06

NVIDIA FLARE 2.3.0 發布，引入多雲支援、NLP 範例和分割學習 (split learning)

2023-07

研究論文 "AutoFL: Towards AutoML in a Federated Learning Context" 發表，探討 AutoML 在聯邦學習中的可行性

2024-03

NVIDIA FLARE 2.4.0 發布，新增串流 API 以支援大型語言模型 (LLM) 和客戶端 API

2026-06

NVIDIA 在 NVIDIA FLARE 框架中引入 Auto-FL 範例，利用 AI 代理加速聯邦學習研究

利用 AI Agents 加速聯邦學習研究