ControlAI 向279名議員簡報AI風險
ControlAI 的 2025 影響報告詳述向 279 名議員及 90 多個美國國會辦公室簡報超級智能滅絕風險。主要成就包括英國 110 多名議員聯盟、貴族院辯論及加拿大國會聽證會。計劃擴大至 G7 國家，從意識提升到政策行動。
Search
Tag: #superintelligence23 results
「AI 教父」辛頓：科技公司眼中只有短期利潤，並不關心 AI 的長期影響
傑弗里·辛頓批評科技公司只顧短期利潤，忽略 AI 長期影響。他估計超級智能 AI 導致人類滅絕機率達 10-20%，並離開谷歌自由發聲。建議如為深度偽造加水印，以及設計 AI 具「母性本能」。
微軟 Copilot 主管 Mustafa Suleyman 轉追超智能
微軟重組 Copilot 團隊，將 Mustafa Suleyman 調往追求超智能。Jacob Andreou 接管消費與商業領域的 Copilot。這是 RMS Copilot 最新重組的一部分。
奧爾特曼預言超級智能超越CEO
OpenAI執行長山姆·奧爾特曼在印度AI影響力峰會表示，真正超級智能的早期版本可能僅需數年。到2028年底，全球更多智力資源將儲存於數據中心而非外部。超級智能將勝任大型公司CEO，超越包括他自己在內的高管及頂尖科學家。
Import AI 456：RSI與經濟成長、AI監管與神經電腦
Import AI 第456期探討遞迴自我改善（RSI）與經濟成長的關聯，倡導AI監管的激進選擇性，並聚焦神經電腦的發展。它質疑超智能所需的法律框架。
Import AI 451：政治超智能、Google思維社會、機器人鼓手
Import AI 第451期涵蓋政治超智能、Google「思維社會」架構，以及機器人鼓手示範。它提出AI進展能否逆轉的修辭性問題。此通訊彙整前沿AI研究與發展。
Zuckerberg 的個人超級智慧願景引發反彈
Mark Zuckerberg 發表了一篇 6,500 字的宣言，闡述 Meta 對個人 AI 以及「個人超級智慧」系統的願景。文章認為，這份宣言的論述方式正好解釋了許多人為何仍對 AI 抱持懷疑態度。
從 AGI 邁向超級智慧的四條路徑
Google DeepMind 發表論文，探討 AI 達成人類程度的 AGI 後可能如何繼續發展。論文整理出邁向人工超級智慧的四條可能路徑，以及可能延緩或阻礙發展的六大瓶頸。
Bostrom 的 AI「大退休」計劃
哲學家 Nick Bostrom 提議追求先進 AI，實現人類「大退休」與「解決世界」。他主張 AI 應解決所有重大問題，讓人類免於存在挑戰。
紐約客探討 Sam Altman 的可信度
《紐約客》發表長篇報導，透過近 100 名關係人訪談，剖析 OpenAI CEO Sam Altman 的形象。報導凸顯其卓越說服力與「欺騙模式」的相反評價。詳述解任劇內幕、權力集中，並質疑領導超知能的信賴與責任。