Search

Tag: #self-hosted15 results

Mozilla發佈開源企業級AI客戶端Thunderbolt

Mozilla發佈開源企業級AI客戶端Thunderbolt

Mozilla推出名為Thunderbolt的全新開源AI客戶端,主打可控性與獨立性,面向自建AI基礎設施的企業與組織。它定位為「主權AI客戶端」,提供開放、可擴展的工作空間,用戶可透過聊天、搜尋與研究等方式與AI互動,並連接企業資料,自由選擇模型與工具。

cnBeta (Full RSS)MediaApr 16#sovereign-ai#self-hosted#ai-workspace
Guaardvark 推出離線多模態 AI 平台

Guaardvark 推出離線多模態 AI 平台

Guaardvark 是一個開源的自託管 AI 平台,透過 Ollama 在使用者硬體上完全離線運行。它具備 RAG 聊天、圖像/影片生成、語音互動、自改善代理,以及多機同步等功能。僅需一條指令即可簡單設定,並可透過 ComfyUI 等插件擴展。

Reddit r/LocalLLaMACommunityMar 18#self-hosted#multi-modal#agent
在 AWS 上部署 Claude 治理層

在 AWS 上部署 Claude 治理層

AWS 提供 Claude apps gateway 的生產環境參考部署方案,這是一個連接 Claude Code、Claude Desktop 與 Amazon Bedrock 或 AWS 上 Claude Platform 的自託管治理層。指南涵蓋架構、企業部署模式、成本與實作資源。

AWS Machine Learning BlogOfficialAug 11#ai-governance#aws#self-hosted
OpenCode 測試自託管 LLM 如 Gemma 4

OpenCode 測試自託管 LLM 如 Gemma 4

基準測試評估 OpenCode 與自託管 LLM 的效能,包括 Qwen 3.5/3.6、Gemma 4 26B、Nemotron 3 和 GLM-4.7,在 RTX 4080 上執行 Golang CLI 建立和網站遷移對映等任務。Qwen 3.5 27B 和 Gemma 4 表現優異,可比擬雲端 LLM,並提供速度比較。

Reddit r/LocalLLaMACommunityApr 6#benchmarks#self-hosted#coding-tools
Page 1 of 2