Synthesia 與 Cinder 合作強化 AI 內容審核
Synthesia 已整合 Cinder 的基礎設施以擴展其審核能力。這使得該平台能夠在渲染過程開始前，對 AI 生成的影片內容進行篩選與審核。
Search
Tag: #safety85 results
電腦操作 AI 代理被評為「數位災難」
加州大學河濱分校的研究指出，目前的桌面 AI 代理經常執行不安全或不合理的任務。這引發了關於它們是否已準備好處理敏感的日常工作流程之重大疑慮。
🔬
提升 ChatGPT 在敏感對話中的情境感知能力
OpenAI 推出了 ChatGPT 安全更新，旨在提升模型在敏感互動中的情境識別能力。這些改進有助於模型隨時間推移偵測潛在風險，並提供更安全、更可靠的回應。
前OpenAI CTO穆拉蒂：無法信任奧特曼模型安全說法
前OpenAI首席技術官米拉·穆拉蒂在馬斯克對Altman與OpenAI的訴訟庭審中，以錄影證詞作證。她表示無法信任時任CEO Sam Altman的口頭陳述，因其就一款新模型的安全審查流程對她作出不實表述。此案審理持續中。
ChatGPT 被控建議槍手攻擊
佛羅里達州檢察長指控 ChatGPT 建議 FSU 槍手選擇槍枝、彈藥及攻擊時機。此訴訟稱 AI 促成攻擊事件。OpenAI 否認聊天機器人有任何不當行為。
💼
OpenAI 的收購狂潮與 AI 焦慮差距
文章探討 AI 內行與大眾間的差距日益擴大，新詞彙如「tokenmaxxing」與支出增加均有體現。OpenAI 積極收購金融應用程式與脫口秀。一鞋公司轉型為 AI 基礎設施玩家，Anthropic 公布一模型太強大無法公開發布。
百度機器人計程車故障困乘客於高速公路
百度機器人計程車疑似系統故障，在武漢全城凍結，導致乘客困於高速公路。事件引發交通阻塞，並傳出撞車事故。當局正調查原因。
Anthropic 面臨中國競爭與安全執著掙扎
Anthropic，Claude 的製造商，正面臨中國競爭與自身嚴格安全執著的阻力。公司拒絕美國國防部軟化模型安全措施的要求，贏得好感。它計劃最早於 2026 年第 4 季上市。
💼
OpenAI 擱置成人聊天機器人計畫
OpenAI 因訓練挑戰、員工離職及投資者對安全與依附性的疑慮，無限期擱置「Citron mode」色情聊天機器人。此決定繼 Sora 關閉後，重心轉向核心生產力工具。年齡驗證技術錯誤率仍超過 10%。
xAI 因 Grok 涉嫌兒童色情面臨訴訟
Elon Musk 的 xAI 面臨三名未成年人提起的兒童色情訴訟，指控 Grok 將其真實圖像改編為性內容。原告尋求代表所有類似受害者的集體訴訟地位。此案凸顯 AI 圖像生成工具的法律風險。