📄較早收集於 40m

首次在軌零樣本視覺語言模型演示

首次在軌零樣本視覺語言模型演示
PostLinkedIn
📄閱讀原文: ArXiv AI

💡首次成功在軌部署 VLM,證明基礎模型可以在衛星邊緣硬體上自主運行。

⚡ 30-Second TL;DR

有什麼變化

在 LEO 太空船上首次使用 Gemma 3 實現自主多模態推理。

為什麼重要

這項突破使衛星能夠在軌執行語義壓縮,大幅降低下行鏈路頻寬需求。它將衛星運作模式從「先獲取後下傳」轉變為太空中的智慧自主邊緣運算。

下一步行動

探索如何使用 LangGraph 進行代理編排,將量化基礎模型部署在資源受限的邊緣硬體上。

誰應關注:Researchers & Academics

關鍵要點

  • 在 LEO 太空船上首次使用 Gemma 3 實現自主多模態推理。
  • 以自然語言指令取代傳統指令序列進行衛星任務重組。
  • 使用基於圖的狀態機 (LangGraph) 來協調檢測與對話代理。
  • 在 AID基準測試中達到 88.16% 的準確率,並實現硬體加速邊緣推理。

🧠 深度解析

Web-grounded analysis with 22 cited sources.

🔑 增強重點摘要

  • NAVI-Orbital專案最初源於NASA噴射推進實驗室(JPL)研究員Taran Cyriac John的願景,旨在為探索月球或火星的太空人提供數位助理,以實現互動式AI,克服傳統輸入方法的限制。
  • 此次演示利用了Nvidia Jetson Orin AGX GPU,這是一種專為邊緣部署設計的超緊湊、高能效晶片,能夠在低地球軌道(LEO)衛星等尺寸、重量和功耗受限的環境中,即時處理視覺、導航和感測器數據。
  • 在軌處理和語義壓縮技術旨在解決地球觀測領域的「數據洪流」問題,因為衛星產生的大量數據無法經濟高效地下鏈。透過在軌道上處理數據,僅將相關洞察傳回地球,顯著減少了帶寬需求和延遲。
  • Google DeepMind的Gemma 3模型系列是輕量級、多模態的開放模型,專為受限硬體環境和邊緣運算而設計,其Gemma 3n版本透過分層嵌入(Per-Layer Embeddings)顯著減少了參數的RAM使用量,使其非常適合在軌部署。
  • LangGraph作為一個開源的AI代理框架,由LangChain團隊開發,它透過基於圖的架構來協調複雜的生成式AI代理工作流程,支援循環、條件分支和並行執行,這對於在動態太空環境中協調檢測和對話代理至關重要。

🛠️ 技術深入

  • 模型: Google DeepMind的Gemma 3視覺語言模型(VLM),這是一個輕量級、多模態模型,能夠處理文本和圖像輸入並生成文本輸出,其開放權重使其適用於資源受限的環境。Gemma 3n模型透過分層嵌入技術優化了RAM使用,可在有限資源下運行更高品質的模型。
  • 硬體: Nvidia Jetson Orin AGX GPU,這是一個專為邊緣部署設計的緊湊、高能效模組,為太空船上的即時視覺、導航和感測器數據處理提供必要的運算能力。
  • 軟體套件: NAVI-Orbital,由NASA JPL工程師開發,是一個精簡的軟體套件,專門用於封裝Gemma 3模型,移除不必要的庫和記憶體密集型進程,以適應軌道平台的有限硬體約束。
  • 協調框架: LangGraph,一個來自LangChain的開源AI代理框架。它利用基於圖的架構來建模和管理複雜的生成式AI代理工作流程,支援條件分支、循環和並行執行,使基於大型語言模型的代理能夠呼叫工具、觀察結果並決定下一步行動。
  • 語義壓縮: 該系統在軌道上執行數據分類,識別「感興趣區域」,並僅傳輸處理後的洞察,而非原始數據到地面站,從而減少帶寬需求和延遲。語義壓縮旨在在保留有意義的語義表示的同時減少數據量,以供下游AI任務使用。

🔮 前景展望AI analysis grounded in cited sources

衛星將從被動感測器轉變為自主智慧偵察兵。
透過在軌道上即時處理複雜的視覺數據,衛星能夠根據自然語言指令自主識別目標,大幅減少對地面分析和數據下鏈的依賴。
軌道邊緣AI將加速地球觀測數據的商業化和民主化。
透過在軌道上即時處理和篩選數據,可以降低帶寬需求和地面站成本,並使非技術用戶能夠透過自然語言與地球觀測數據互動,從而創造新的商業模式和服務。
零樣本VLM技術將擴展到更廣泛的空間應用,包括深空探索和太空人輔助。
NAVI-Orbital的最初願景是為月球或火星上的太空人提供數位助理,而此技術的成功演示證明了其在資源受限環境中進行互動式、自主推理的潛力,適用於遠程感測器陣列和自主行星漫遊器。

時間線

2024-08
Google發布Gemma 3模型,這是一系列輕量級、多模態的開放模型,專為受限硬體環境設計。
2025-Q4
Loft Orbital發射Yam-9探路者太空船,搭載Nvidia Jetson Orin AGX GPU,用於測試高運算、AI驅動的太空應用。
2026-01
NASA JPL團隊開始開發NAVI-Orbital軟體套件,旨在將Gemma 3模型適應軌道平台的硬體限制。
2026-04
NAVI-Orbital在Loft Orbital的Yam-9太空船上成功演示了首次在軌零樣本視覺語言模型,實現自主多模態推理。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: ArXiv AI