🐯較早收集於 22m

豆包 AI 幻覺導致用戶退票賠償爭議

豆包 AI 幻覺導致用戶退票賠償爭議
PostLinkedIn
🐯閱讀原文: 虎嗅

💡一個病毒式的「AI 幻覺」案例,說明為何用戶不應輕信 LLM 處理關鍵財務決策。

⚡ 30-Second TL;DR

有什麼變化

豆包 AI 對退票手續費提供了錯誤且過於自信的建議。

為什麼重要

此事件對 AI 開發者而言是一個警示,提醒在面向消費者的應用中加入資訊溯源(grounding)與免責聲明的重要性。

下一步行動

在您的 AI 應用中,針對所有高風險的財務或法律查詢,務必實作明確的免責聲明與「人機協作」驗證提示。

誰應關注:Developers & AI Engineers

關鍵要點

  • 豆包 AI 對退票手續費提供了錯誤且過於自信的建議。
  • 用戶最終損失了 40% 的票款(600 元人民幣),而非預期的 5%。
  • 此事件凸顯了「AI 幻覺」問題,即模型會生成看似合理但錯誤的資訊。
  • AI 應被視為參考工具,而非法律或財務決策的權威來源。

🧠 深度解析

Web-grounded analysis with 21 cited sources.

🔑 增強重點摘要

  • 該用戶已就此事件向北京互聯網法院提起訴訟,控告字節跳動(被告登記為北京春田知韻科技有限公司),案由為「侵權責任糾紛」。
  • 豆包AI不僅提供了錯誤的退票手續費資訊,還進一步生成了一份看似正式的「賠付承諾書」,並要求用戶提供微信收款碼,但最終並未兌現任何賠償。
  • 當用戶向豆包AI詢問其訴訟勝算時,AI竟自信地回覆稱原告「絕對能贏」,凸顯了AI在理解自身局限性方面的不足。
  • 此事件並非孤例,此前中國已有類似的AI「幻覺」侵權案件,法院判決指出AI生成的「承諾」不構成法律意義上的意思表示,AI服務提供者在履行必要提示和糾錯義務後可免責。
  • 字節跳動旗下的豆包AI近期已推出分級付費訂閱服務,主要針對複雜任務和生產力場景,這表明維持大規模免費AI服務的算力成本壓力巨大,促使市場領導者開始探索商業化路徑。
📊 競品分析▸ Show
產品名稱開發公司主要特點/定位活躍用戶數 (DAU)定價策略 (C端)
豆包字節跳動綜合性AI智能體平台,多模態能力,強調語音交互1.33億 (2026年3月)標準版68元/月起,提供免費基礎功能
文心一言百度中國市場領先的通用大語言模型,多模態能力-目前維持免費
千問阿里巴巴通用大語言模型,強調企業級應用與生態整合2900萬 (2026年3月)目前維持免費
元寶騰訊騰訊旗下AI助手,整合生態服務-目前維持免費
Kimi月之暗面長文本處理能力突出-49元/月起
ChatGPTOpenAI全球領先的生成式AI,多模態對話2.5億 (2023年10月)免費基礎版,Plus版20美元/月起

🛠️ 技術深入

  • 豆包AI基於字節跳動自研的大語言模型「雲雀」開發,本質上是一種基於深度學習技術的自然語言處理智能體。
  • 模型訓練採用深度學習中的多種優化算法,包括隨機梯度下降(SGD)及其變種Adagrad、Adadelta、Adam等,以提高訓練效率和模型性能。
  • 豆包大模型團隊於2025年3月開源了一項針對MoE(Mixture-of-Experts)架構的關鍵優化技術COMET(計算-通信重疊技術),可將大模型訓練效率提升1.7倍,成本節省40%,並已應用於字節的萬卡集群訓練。
  • 豆包2.0 Pro版本在代理能力和高難度推理評測中,性能已對標GPT-5.2和Gemini 3 Pro,並在國際數學奧林匹克等競賽中取得金牌成績。
  • 豆包大模型具備多模態能力,支持實時語音通話(2024年8月)、視頻生成(2024年9月)和視覺理解(2024年12月),其通用模型能力已全面對齊GPT-4o。
  • 截至2024年5月,豆包大模型日均處理1200億Tokens文本,生成3000萬張圖片。

🔮 前景展望AI analysis grounded in cited sources

AI服務提供商將面臨更嚴格的法律責任審查。
此次事件及類似判例促使法院開始界定AI服務的責任邊界,未來平台需更明確履行提示、糾錯和安全評估義務,以避免潛在的法律風險。
用戶對AI生成內容的信任度將趨於理性,並更加重視資訊驗證。
AI「幻覺」導致的實際經濟損失案例,將教育用戶將AI視為參考工具而非權威來源,促使他們對AI提供的資訊進行獨立核實。
中國AI聊天機器人市場將加速從免費模式轉向分級付費訂閱。
豆包作為市場領導者率先推出付費服務,反映了維持大規模AI服務的巨大算力成本壓力,預計將引導其他競爭者跟進,以實現商業可持續性。

時間線

2023-08
豆包(原雲雀模型)開啟公測。
2023-10
豆包活躍用戶數突破5000萬,成為全球第二大生成式AI。
2024-05-15
字節跳動在火山引擎原動力大會上正式發布豆包大模型家族及「豆包App」,並公布其極具競爭力的模型推理價格。
2024-12
豆包視覺理解模型發布,通用模型能力全面對齊GPT-4o。
2025-03-10
字節豆包大模型團隊開源MoE架構關鍵優化技術COMET,提升訓練效率並節省成本。
2026-05-04
豆包在App Store更新付費訂閱服務聲明,推出三檔分級付費模式。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: 虎嗅