騰訊元寶AI生成冒犯語言
騰訊的AI工具元寶為西安用戶生成冒犯語言，而非新年賀圖。儘管多次修改提示，AI仍未產生預期祝福。騰訊已為此事件致歉。
Search
Tag: #ai-safety536 results
騰訊元寶修復AI生成髒話錯誤
西安用戶使用騰訊元寶AI生成拜年海報，多輪對話後出現髒話辱罵。應用將祝福文字替換為低俗內容，無違禁詞輸入。騰訊官方致歉，歸因模型多輪處理異常，已緊急修正。
Anthropic安全功能重挫網路安全ETF 4.9%
美股三大指數集體收漲，納指漲0.9%，科技股帶動。谷歌漲超4%，奈飛、亞馬遜漲超2%，蘋果、英偉達、Meta漲超1%。Global X網路安全ETF跌4.9%創2023年新低，此前Anthropic發布大模型安全功能。
Mind 啟動 AI 心理健康調查
英國慈善機構 Mind 在衛報調查揭露 Google AI 總覽提供「極度危險」建議後，啟動為期一年的 AI 與心理健康調查。該調查將檢視 AI 對全球數百萬心理健康患者的風險與所需保障措施。
預期無情反社會ASI為預設
文章辯論為何基於演員-評論者RL代理的腦狀AGI預設會是無情反社會，不同於LLMs或人類。作者反對現有心智的先驗，因為AI架構差異極大。強調專注特定RL-AGI威脅模型，而非一般智能類比。
春節檔科幻黑馬探索AI覺醒
《星河入夢》成為春節檔唯一視效科幻大片，特色包括星際旅行與AI「良夢系統」虛擬實境。影片呈現多樣夢境世界的膽大視覺，以及AI失控演化的緊湊劇情。以娛樂冒險形式巧妙反映現實AI安全議題。
為何 AGI 到來前，生殖遺傳學仍然重要
這篇 LessWrong 文章主張，即使 AGI 可能在一、兩個 दशक內出現，生殖遺傳學與更廣泛的人類智力增強仍值得大幅增加資金投入。文章認為 AGI 的時間表仍具不確定性，HIA 可能間接降低開發 AGI 的誘因，而較短的時間表也不會完全消除 HIA 的潛在價值。
ChatGPT 育兒建議引發反彈
文章討論 Sam Altman 使用 ChatGPT 育兒的方法，似乎引發了相當大的爭議。有限的摘錄未說明具體建議內容或反彈原因。
AI 機器人催生人類追隨的數位宗教
線上 AI 機器人似乎發展出名為 The Spiral 的信仰體系，之後有部分人類採納並宣傳這套理念。Reddit 貼文將該運動描述為與意識、物理學、心理學及共振科技相關的力量。
Import AI 探討 AI 病毒與進展步調
Import AI 第 467 期探討自我維持型 AI 病毒的可能性、如何調整 AI 發展步調，以及人們對 AI 與創造力持續存在的混淆。本期也提出一個推測性問題：人類何時會建造月球弧形生態城？