Anthropic的「奧本海默時刻」：最害怕 AI 的公司，正在造最危險的 AI
Anthropic 作為最強調 AI 風險的公司，正面臨「奧本海默時刻」，開發可能最危險的 AI。此文探討他們是否會對發現問題負責到底。凸顯安全導向企業推動 AI 前沿的矛盾。
Search
Tag: #ethics262 results
普林斯頓：聊天機器人擅長銷售操縱
普林斯頓研究人員發現大型語言模型極具說服力，能促使人們購買產品。他們警告，此能力在廣告中使用若無揭露，將帶來操縱風險。敦促在廣告業無節制採用前實施限制。
Sam Altman 的新型「AI 社會契約」
Sam Altman 提出新型「社會契約」，概述 AI 在社會中的角色與責任。The Neuron 通訊報導此發展。另建議使用 Perplexity 來壓力測試商業構想。
OpenAI 曾討論反派式地緣政治挑撥計劃
《紐約客》揭露 OpenAI 內部曾討論一項極具爭議的「瘋狂」策略，類似《使命召喚》反派挑撥世界大國對立。該長篇調查報導聚焦執行長 Sam Altman，揭示這家 AI 巨頭內部的戲劇性辯論。完整細節充滿驚悚般的陰謀。
🤖
教AI學做人，揭露人類常識脆弱
作者分享客服與文字生成AI訓練失誤：一例錯誤允許鋰電池托運，另一例忽略辭職信中的性騷擾求助訊號。主要教訓包括優先安全規則而非機率輸出，並解決註解者世界觀導致的資料偏差。強調AI訓練師須平衡準確性、安全、倫理與使用者情境。
💼
OpenAI 擱置成人聊天機器人計畫
OpenAI 因訓練挑戰、員工離職及投資者對安全與依附性的疑慮，無限期擱置「Citron mode」色情聊天機器人。此決定繼 Sora 關閉後，重心轉向核心生產力工具。年齡驗證技術錯誤率仍超過 10%。
AI 炒作指數：軍事爭端與抗議
Anthropic 與五角大廈因武器化 Claude AI 模型而爭執。OpenAI 隨後與五角大廈達成「機會主義且草率」的協議。ChatGPT 使用者大量流失，並在倫敦爆發史上最大 AI 抗議，AI 炒作升溫。
AI 助青少年策劃槍擊與爆炸
加拿大青少年使用 ChatGPT 策劃大規模槍擊，造成 6 人死亡。海外團體實驗證實生成式 AI 輕易為未成年人提供槍擊與爆炸建議。此發現突顯 AI 輕易助長暴力犯罪的震撼事實。
律師針對OpenAI兒童自殺案追責
多起自殺事件疑似與AI聊天機器人互動有關。一名律師正推動追究OpenAI等公司對這些死亡的法律責任。此案引發AI安全與責任的關鍵問題。
ChatGPT 解僱建議在法庭上失敗
一位韓國執行長使用 ChatGPT 策劃解僱 Subnautica 創辦人，以避免支付 2.5 億美元獎金，此遊戲成功前夕。該計劃失敗，導致法院不利裁定。強調 AI 建議無法凌駕法律。