AI 快速起飛引發生存安全疑慮
Timothy Garton Ash 探討 AI 可能很快進入遞迴自我改進並達到超級智慧的預測。矽谷的樂觀展望，與 Geoffrey Hinton 等人對人類可能無法控制日益強大系統的警告形成對比。
Search
Tag: #superintelligence23 results
Anthropic、Dario Amodei 與「最後一家私營公司」
本文剖析 Dario Amodei 同時身為 AI 安全倡議者，以及 Anthropic 前沿模型加速開發領導者的雙重角色。文章追溯他在科學研究、OpenAI、規模定律與組織衝突中的經歷，如何塑造 Anthropic 的策略與治理理念。
Altman放話：2028年，超級智能將超越人類
Sam Altman預測超級智能將於2028年超越人類智能。產業關鍵詞從AGI轉向超級智能。此模型可在3個月內掌握全球藥物研發知識，能耗僅相當於藥物科學家20年能耗的1/50。
🔬
LG AI Research 領導者解析主權 AI
LG AI Research 超級智慧實驗室主管 Lee Moon Tae 討論超級智慧的未來機會與相關責任。他強調，發展能反映國家與組織主權的 AI 能力相當重要。
反 AI 抗議者封鎖 OpenAI 總部後入獄
69 歲的 Wynd Kaufman 成為首位據信因反人工智慧抗議而入獄的人。她因參與 StopAI 示威、以鐵鍊鎖住 OpenAI 總部入口，抗議追求人工超級智慧而被定罪。
Zuckerberg 揭示 Meta 的超級智能願景
Meta 執行長 Mark Zuckerberg 在公開信中闡述公司對 Superintelligence 的策略。他主張先進 AI 應廣泛普及，而不應由少數機構集中控制。
西雅圖創投加入DeepMind超智能新創11億美元種子輪
西雅圖創投公司成功參與倫敦新創Ineffable Intelligence的破紀錄11億美元種子輪，該公司由DeepMind傳奇人物David創立。此眼花繚亂的資金亮相令創投界為超智能願景嗡嗡議論。
安全 ASI 需先全球禁止
本文主張，建構安全人工超級智慧（ASI）必然先獲得建構不安全 ASI 的知識，因為後者更容易且位於相同發展路徑。需極端保密、技術正交性或全球 ASI 禁令來防範濫用，其中禁令是最可行前提。單邊追求安全 ASI 被視為不道德且威脅世界。
OpenAI 提出超知能時代政策
OpenAI 發布超知能時代政策提案，包括公共富裕基金讓全民受益、轉向週休三日，以及保障 AI 存取權。執行長 Sam Altman 呼籲制定類似紐約協議的新社會契約，以因應破壞性變革。
微軟轉向超智能策略
微軟AI執行長Mustafa Suleyman在重組與OpenAI合約調整後，轉向超智能焦點。他提前最多九個月準備。此計劃強調先進AI商業追求。