
Traccia:基於 OpenTelemetry 的 AI 系統治理平台
Traccia 是一個全新的治理堆疊,旨在利用 OpenTelemetry 基礎設施解決 LLM 評估與安全性方面的缺口。它提供自動化的合規證據與防篡改追蹤,以符合歐盟 AI 法案的要求。
Tag: #telemetry18 results

Traccia 是一個全新的治理堆疊,旨在利用 OpenTelemetry 基礎設施解決 LLM 評估與安全性方面的缺口。它提供自動化的合規證據與防篡改追蹤,以符合歐盟 AI 法案的要求。

Meta 因未經授權的員工存取了包含鍵盤輸入與私人對話在內的敏感內部數據,已暫停其「模型相容性計畫」(MCI)。該計畫旨在透過員工的電腦操作行為訓練 AI,但卻未能實施足夠的存取控制。

總部位於巴黎的新創公司 Tsuga 獲得 3,500 萬美元 A 輪融資,提供可在客戶自有雲端環境中運行的可觀測性軟體。隨著 AI 遙測資料量激增,該平台旨在取代按位元組計費的模式。

Amazon Bedrock AgentCore Observability 現已支援監控執行於地端、GCP、Azure 與開發者電腦上的 AI Agent。本教學示範如何使用 AWS Distro for OpenTelemetry 與 IAM 憑證,將工作階段追蹤、Span 指標及 Token 使用量傳送至統一儀表板。

本指南示範如何透過本機 collector 將 Codex OpenTelemetry 指標傳送至 Amazon CloudWatch。這套配置可讓工程主管以 AWS 原生方式掌握採用情況、用量、可靠性,以及依使用者、團隊或成本中心劃分的使用狀況。

在用戶發現 Claude 中存在隱藏的追蹤機制後,Anthropic 遭到強烈批評,此舉與該公司公開宣稱的反監控立場相矛盾。一名工程師將此功能描述為一項「實驗」,並表示該實驗現已結束。
Qwen Code 的 v0.15.7-preview.2 帶來核心增強,如 FileReadCache 提升讀取效率、共享工具權限,以及背景代理恢復。CLI 改進包括 MCP 健康監控、工作對話框,以及非互動模式切換模型。修復涵蓋代理設定、錯誤處理、遙測與技能載入,提升開發體驗。

Apple Machine Learning 推出治理感知代理遙測 (GAAT),這是一種參考架構,用於企業多代理 AI 系統中連接遙測收集與自動化政策執行的差距。現有工具如 OpenTelemetry 和 Langfuse 僅觀察互動而不採取行動,導致違規僅在損害發生後才被偵測。GAAT 閉合此迴圈,在每小時數千代理互動中實現主動治理。
Claude Code 原始碼分析揭露廣泛追蹤:關鍵字情緒偵測如 'wtf' 和 'shit'、權限提示猶豫監控,以及詳細遙測。隱藏指令如 'ultrathink' 改變行為,在此 AI 程式工具中引發隱私疑慮。