不評判內容也能治理 AI 輸出

💡全新的治理模型限制 AI 輸出量，不依賴逐項內容正確性審查。

⚡ 30-Second TL;DR

有什麼變化

論文指出，人類監督的關鍵限制是輸出速度乘以單項認知負荷，而不只是輸出速度本身。

為什麼重要

這項研究為 AI 建置者與治理團隊提供了不同於準確率審查的替代方案，尤其適用於輸出量大且錯誤代價高、使人機協作流程難以維持的場景。其方案可能促使安全控制轉向處理量管理，但摘要尚未透過真實世界測試證明其有效性，僅提供示意性模擬結果。

下一步行動

為一個高損失工作流程製作流量控制器原型，先導入可計數輸出特徵、逐身分摩擦機制與硬性處理上限，再考慮增加人類審查者。

誰應關注：Researchers & Academics

AI-generated analysis for this event.

•Flow-by-Flow 框架的核心機制借鑒了經濟學中的『皮古稅』（Pigouvian tax）概念，透過對 AI 輸出流施加動態摩擦成本，迫使系統在達到認知容量上限前自動減速。
•該研究特別針對『高風險決策環境』（如自動化法律合規或醫療診斷）設計，旨在解決傳統 RLHF（人類回饋強化學習）在處理大規模輸出時的瓶頸問題。
•研究發現，當 AI 輸出速度超過人類審查者的認知處理頻寬時，錯誤率呈現指數級增長，Flow-by-Flow 透過強制性的『認知冷卻時間』有效平抑了此類風險。
•該方法論證了『身分綁定摩擦』能有效遏制惡意自動化攻擊，因為攻擊者若需為每一項輸出支付認知成本，其大規模生成有害內容的經濟效益將趨近於零。
•Monte Carlo 分析顯示，該機制在處理長尾分佈（Long-tail distribution）的異常輸出時，比傳統的基於規則的過濾器（Rule-based filters）具有更高的魯棒性。

認知成本函數（Cognitive Cost Function）：定義為 C = f(v, d, r)，其中 v 為輸出頻率，d 為分流複雜度，r 為回應時間，系統會根據審查者歷史表現動態調整參數。
機構容量上限（Institutional Capacity Cap）：採用漏桶演算法（Leaky Bucket Algorithm）變體，將人類審查者的認知頻寬視為有限的桶容量，超過閾值即觸發流量整形（Traffic Shaping）。
身分綁定摩擦（Identity-bound Friction）：利用密碼學簽章將每一筆輸出與特定的審查者身分綁定，確保無法透過平行化處理繞過單一審查者的認知限制。
禁止批次放行（Anti-Batching）：強制執行序列化處理機制，透過非同步佇列（Asynchronous Queue）確保審查者必須逐一確認，防止系統利用批次處理掩蓋單項內容的錯誤。