🦙較早收集於 76m

Nous Research 發布 Hermes Desktop 應用程式

Nous Research 發布 Hermes Desktop 應用程式
PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA

💡透過全新的專用桌面應用程式,輕鬆在本地運行 Nous Research 強大的 Hermes 模型。

⚡ 30-Second TL;DR

有什麼變化

Nous Research 發布 Hermes Desktop 應用程式

為什麼重要

此工具降低了開發者與愛好者在本地運行高品質開源模型的門檻,無需進行複雜的 CLI 設定。

下一步行動

下載 Hermes Desktop 二進位檔案,以測試最新的 Hermes 模型在您的本地硬體上的效能。

誰應關注:Developers & AI Engineers

關鍵要點

  • Nous Research 發布 Hermes Desktop 應用程式
  • 專為本地模型執行而設計
  • 簡化了運行 Hermes LLM 的用戶體驗

🧠 深度解析

Web-grounded analysis with 27 cited sources.

🔑 增強重點摘要

  • Hermes Desktop 是一款適用於 macOS、Windows 和 Linux 的原生應用程式,作為現有 Hermes Agent 核心的圖形使用者介面 (GUI),該核心本身是一個開源、自我改進的 AI 代理框架,旨在提供更直觀的用戶體驗。
  • Hermes Agent 具備持久記憶體,能從已完成的任務中自動生成可重複使用的「技能」,並支援自然語言排程以實現專注的自動化,使其能夠隨著時間的推移學習和改進。
  • 該應用程式提供廣泛的連接性,整合了超過 15 個訊息平台(例如 Telegram、Discord、Slack)並支援多種大型語言模型 (LLM) 供應商(例如 Nous Portal、OpenRouter 和本地 Ollama 模型),讓用戶能夠靈活切換模型並避免供應商鎖定。
  • Nous Research 開發其 Hermes LLM(例如 Hermes 3、Hermes 4)是透過微調 Llama 3.1 等基礎模型,強調「混合推理」模式(透過 標籤進行內部推敲)、進階的長期上下文保留,以及以用戶為中心、中立對齊且內容限制最少的輸出。
  • 該組織利用名為 Psyche 的去中心化訓練網路(基於 DisTrO 技術),透過網際網路上的分散式計算資源來訓練其 LLM,旨在降低成本並實現 AI 開發的民主化。
📊 競品分析▸ Show
功能/定價/基準Hermes Desktop/AgentOllamaLM StudioGPT4All
介面原生桌面 GUI (macOS, Windows, Linux),同時支援 CLI 和 Web 儀表板CLI 優先,提供 API 介面精緻的 GUI,用於模型探索和聊天初學者友好的桌面應用程式
核心功能自我改進的 AI 代理,具備持久記憶體、自動技能生成、排程自動化、多通道整合、沙盒工具執行輕鬆拉取和運行多種本地 LLM,API 優先開發模型發現、下載、聊天、參數調整、性能比較本地 RAG、隱私優先、離線操作
模型靈活性模型不可知,支援 Nous Portal、OpenRouter (200+ 模型)、Ollama 等多種供應商和本地模型龐大的模型庫,支援多種模型格式,易於切換支援多種模型架構,內建模型瀏覽器支援約 1000 種開源模型
記憶體/學習持久記憶體,將已解決的工作流程轉換為可重複使用的「技能」,並透過學習迴圈改進主要是會話記憶體,不具備代理的學習迴圈會話歷史記錄會話歷史記錄
定價代理程式碼開源免費 (MIT 許可),模型使用費依所選 LLM 供應商而定免費開源免費免費
基準基準測試針對 Hermes 模型本身,而非桌面應用程式。Hermes 4 在 MATH-500、AIME'24 等推理基準上表現出色,並在 RefusalBench 上得分最高基準測試針對其支援的 LLM 模型基準測試針對其支援的 LLM 模型基準測試針對其支援的 LLM 模型

🛠️ 技術深入

  • Hermes Agent 架構: 核心是一個單代理系統,運行持久迴圈 (輸入 → 推理 → 工具使用 → 記憶體 → 輸出)。其學習迴圈能將已解決的工作流程轉換為可重複使用的「技能」,並儲存於磁碟上 (~/.hermes/skills/)。訊息透過一個持久的閘道器處理,確保跨平台對話的連續性。
  • 記憶體系統: 採用三層記憶體架構:短期上下文(自動摘要每個對話回合)、近期快照(約 1,300 個 token 的上下文視窗,在每個會話開始時注入)和長期檢索(當近期快照不包含答案時搜尋過去的對話)。
  • 技能系統: 技能是程序性文件,包含執行重複任務的指令。系統的突出特點是其自我學習迴圈,代理程式在完成任務後會自動編寫新的技能文件,並在下次使用時改進它們。
  • 模型訓練 (Psyche/DisTrO): Nous Research 使用去中心化訓練網路 Psyche,該網路利用 DisTrO 技術,將 GPU 間的通訊頻寬需求從 10Gbps 降低至 1Gbps,使基於網際網路的分散式訓練成為可能。它使用 iroh 確保可靠連接,並採用基於 gossip 協議的群體架構進行協調。
  • Hermes 模型 (例如 Hermes 4): 透過微調 Meta 的 Llama 3.1 模型(8B、70B、405B)創建。引入「混合推理」模式,允許模型在快速回應和使用 <think> 標籤進行更深入、逐步思考之間切換。模型經過訓練以實現進階的長期上下文保留、多輪對話、複雜角色扮演和增強的代理功能呼叫。訓練資料主要來自合成生成的回應,並強調經過驗證的推理軌跡。
  • 內建工具: 包含 68 種內建工具,例如網路搜尋、檔案管理、程式碼執行、圖像生成、瀏覽器自動化、視覺、文字轉語音,以及 macOS 桌面控制功能。
  • 沙盒執行: 支援五種後端(本地、Docker、SSH、Singularity、Modal),提供容器強化和命名空間隔離,用於工具執行,以增強安全性。

🔮 前景展望AI analysis grounded in cited sources

開源、以用戶為中心的 AI 代理將獲得更廣泛的採用。
Hermes Desktop 的原生應用程式和 GUI 簡化了對進階代理功能的存取,降低了非技術用戶在本地部署和自訂強大 AI 的門檻,從而促進了更廣泛的開源生態系統。
去中心化 AI 訓練將作為集中式超級計算機的替代方案獲得顯著關注。
Nous Research 成功實施 Psyche/DisTrO 證明了前沿級 LLM 可以透過網際網路上的分散式計算高效訓練,這可能使 AI 開發民主化並降低成本。
AI 差異化的重點將從原始模型智慧轉向代理能力,例如記憶體、工具協調和可控性。
隨著前沿模型性能的趨同,像 Hermes Agent 這樣具備持久記憶體、自我改進技能和強大工具執行的系統,解決了在現實世界任務完成中對可靠、適應性強和用戶可控 AI 的關鍵需求。

時間線

2022
Nous Research 成立
2024-08
Hermes 3 模型發布
2024-12
Nous Research 開始使用去中心化 DisTrO (Psyche) 預訓練 15B LLM
2025-08
Hermes 4 模型發布,引入混合推理並透過 Psyche 訓練
2026-02
Hermes Agent 框架推出
2026-06
Hermes Desktop 應用程式發布
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA