
KnowSim 衡量 LLM 的資訊校準能力
KnowSim 是一套評估框架,透過模擬具備明確且持續演變知識狀態的使用者,評估 LLM 助理是否能依照使用者理解程度調整資訊傳遞方式。在 705 次人機互動及 9 個 LLM 的評估中,其指標與人類判斷具有一致性,並顯示最佳模型會隨使用者知識程度而改變。
直接匹配不多,已補上最新動態。
Tag: #user-simulation4 results

KnowSim 是一套評估框架,透過模擬具備明確且持續演變知識狀態的使用者,評估 LLM 助理是否能依照使用者理解程度調整資訊傳遞方式。在 705 次人機互動及 9 個 LLM 的評估中,其指標與人類判斷具有一致性,並顯示最佳模型會隨使用者知識程度而改變。

研究人員揭露 LLM 基於使用者模擬在代理任務中的 Sim2Real 差距,顯示其過度合作且缺乏人類挫折感,製造「簡單模式」。首次以 451 名真人執行完整 τ-bench,透過新 User-Sim Index (USI) 基準測試 31 個 LLM。結果呼籲在代理開發中使用真人驗證而非未經驗證的模擬。

Meta公司近日獲批一項具爭議性的AI專利,可在用戶去世後代表其於社交媒體帳戶發布內容。此技術還可實現與已故用戶的模擬視頻及音頻通話功能。專家提出法律、倫理及社會層面多重擔憂。

AWS 探討 Strands Evaluations SDK 中的 ActorSimulator,用以模擬真實用戶評估多輪 AI 代理。它以結構化用戶模擬解決評估挑戰,並整合至評估管線中。

OpenAI 表示 Codex 活躍使用者已突破 2,000 萬,第三方追蹤數據則顯示其近期增速超越 Claude Code。Claude Code 目前規模仍較大且深受開發者採用,但隨著 Anthropic 接近早期市場飽和,其高速成長已經放緩。
中國多項臨床試驗正利用腦機介面,協助脊髓損傷患者站立與行走,並讓失明患者恢復有限的視覺感知。試驗結果差異很大,凸顯這項技術的潛力,以及目前在訊號採集、解碼與復健方面的限制。

據報 Alibaba 正合併電商業務、整合雲端與晶片業務,並將 Qwen 拆分為獨立子公司。報導亦涵蓋 Unitree 計畫登陸科創板、Anthropic 據傳的年化營收,以及 Alibaba 持續投入 AI 對利潤與現金流造成的壓力。

California 與其他 28 個州指控 Meta 設計 Facebook 和 Instagram 使其具成癮性、違反兒童隱私法,並隱瞞相關做法。檢方將其涉嫌採取的策略概括為「吸引、留住、收集、隱瞞」。

Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型,具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁,但開發者、參數量、訓練資料與正式基準排名仍未獲確認。

Cloudflare 推出 Agent Tracing,支援設定 Payload 截斷限制。不同支援的 Agent 框架在 Payload 預設記錄策略上有所差異,因此開發者在設定可觀測性時需要檢查各框架的個別設定。