🇭🇰SCMP Technology•較早收集於 28m
ByteDance 與 Alibaba 因應新規停用客製化 AI 代理功能
💡了解中國最新的 AI 法規如何迫使大型科技公司刪減代理功能。
⚡ 30-Second TL;DR
有什麼變化
Doubao 將於 7 月 15 日起下架其客製化代理功能。
為什麼重要
這顯示了中國 AI 公司在設計面向用戶的功能時，必須大幅調整以避免監管衝突。在該地區營運的開發者必須將合規性置於功能豐富的擬人化個人化之上。
下一步行動
如果您正在為中國市場開發 AI 產品，請根據中國國家互聯網信息辦公室（CAC）關於生成式 AI 的最新指導方針，審查您的代理工作流程。
誰應關注：Founders & Product Leaders
關鍵要點
- •Doubao 將於 7 月 15 日起下架其客製化代理功能。
- •Alibaba 的 Qwen 也正在調整其 AI 代理服務以符合政府新規。
- •此舉是北京推動監管擬人化 AI 互動服務的廣泛政策之一。
🧠 深度解析
本篇為 AI 生成分析，非原文內容。
🔑 增強重點摘要
- •中國國家互聯網信息辦公室（CAC）近期發布了針對生成式 AI 服務中「擬人化」特徵的具體指導方針，要求明確標識 AI 生成內容並限制過度情感化的互動。
- •此次調整不僅限於客製化代理，還涉及對 AI 角色設定（Persona）的審查，要求企業確保 AI 不會產生誤導性或違反社會主義核心價值觀的言論。
- •監管機構特別關注 AI 代理在處理用戶個人數據時的隱私保護，要求企業在提供客製化服務前必須完成更嚴格的算法備案與安全評估。
- •除了 ByteDance 與 Alibaba，百度（文心一言）與騰訊（混元）也已收到相關監管通知，正同步調整其 AI 社交與角色扮演類功能。
- •此次新規旨在防範 AI 代理被用於傳播虛假信息或進行心理操縱，特別是針對青少年用戶的潛在影響。
📊 競品分析▸ Show
| 特性 | Doubao (ByteDance) | Qwen (Alibaba) | 文心一言 (Baidu) | 混元 (Tencent) |
|---|---|---|---|---|
| 客製化代理 | 調整中 (下架) | 調整中 | 審查強化 | 審查強化 |
| 核心優勢 | 社交互動與推薦算法 | 企業級應用與開源生態 | 中文語境理解 | 社交生態整合 |
| 監管合規 | 高度配合 | 高度配合 | 高度配合 | 高度配合 |
🛠️ 技術深入
- 監管要求實施「AI 標識水印」技術，強制在所有 AI 生成的對話內容中嵌入不可見的數字簽名。
- 調整後的模型架構需引入「安全護欄層」（Safety Guardrail Layer），在用戶輸入與模型推理之間增加實時內容過濾機制。
- 針對擬人化限制，企業需修改模型微調（Fine-tuning）參數，降低模型在角色扮演任務中的情感模擬權重。
- 強化了基於 RLHF（人類反饋強化學習）的對齊過程，專門針對「拒絕回答敏感話題」與「身份確認」進行優化。
🔮 前景展望AI analysis grounded in cited sources
中國 AI 產業將進入「合規優先」的產品迭代週期。
監管機構對擬人化互動的嚴格限制將迫使企業放棄高風險的創意功能，轉而專注於工具屬性更強的 AI 應用。
AI 代理的市場滲透率短期內將出現下滑。
由於客製化功能的下架與審查機制的增加，用戶體驗的自由度與個性化程度將顯著降低，導致部分用戶流失。
⏳ 時間線
2023-08
中國發布《生成式人工智能服務管理暫行辦法》，正式開啟 AI 監管框架。
2024-03
ByteDance 旗下 Doubao 正式向公眾開放，並迅速推出客製化 AI 代理功能。
2025-01
Alibaba Qwen 系列模型升級，強化了針對企業級用戶的 AI 代理開發工具。
2026-05
中國監管部門針對 AI 擬人化互動與角色扮演功能發布進一步的指導意見。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： SCMP Technology ↗
每週 AI 簡報
每週一封，可隨時退訂。