SetupAI
EN
來源較早收集於 14m

Demis Hassabis：我們正處於奇點的山腳下

閱讀原文： The Verge
#agi#google-io#future-tech

了解 Google 對 AGI 的長期願景，以及它如何塑造科學研究與 AI 開發的未來。

30 秒速覽

有什麼變化

Demis Hassabis 將當前的 AI 進展描述為「奇點的山腳下」。

為什麼重要

此觀點標誌著 Google 長期路線圖的戰略轉變，將 AGI 開發視為推動未來科學與工業突破的核心動力。

下一步行動

密切關注 Google DeepMind 研究部落格關於 AGI 安全性與推理能力的最新發表，以調整您的開發路線圖。

誰應關注：Researchers & Academics

關鍵要點

  • •Demis Hassabis 將當前的 AI 進展描述為「奇點的山腳下」。
  • •Google DeepMind 的目標是利用 AGI 作為人類智慧的倍增器。
  • •重點在於利用 AI 加速科學發現並為社會帶來益處。

深度解析

背景與延伸：來自公開資料，非原文內容。引用 22 個來源。

增強重點摘要

  • •Demis Hassabis 對通用人工智慧 (AGI) 的定義是能夠展現人類心智所有認知能力的系統，他對 AGI 到來的時間預測持續縮短，從過去的 5-10 年縮短到「僅剩幾年」。
  • •DeepMind 實現 AGI 的方法論包括開發通用學習演算法、受神經科學啟發的學習，以及多任務學習，以期達到廣泛的理解能力。
  • •DeepMind 強調 AGI 的「安全與道德發展」，並提出了一套全面的框架來應對誤用、失準、事故和結構性風險等四個主要風險領域，同時注重可解釋性和嚴格測試。
  • •Hassabis 預見 AI 將帶來「徹底的豐裕」，透過加速科學發現，例如在永續能源、醫療診斷和新材料領域，甚至可能實現治癒所有疾病的目標。
  • •DeepMind 提出了一個類似於自動駕駛分級的「AGI 等級」框架，旨在為業界提供一個標準化的 AGI 能力分類，從「新興」到「超人」等級。

競品分析

主要任務/哲學
Google DeepMind
以科學研究為導向，旨在解決智慧本身，並將 AI 作為科學發現的工具。
OpenAI
以產品為先，快速產品化，確保 AGI 造福全人類。
Anthropic
安全為先，專注於開發可靠、可解釋且可控的 AI 系統。
AGI 方法
Google DeepMind
通用學習演算法、神經科學啟發學習、多任務學習，整合於 Google 生態系統。
OpenAI
透過大型語言模型 (如 GPT 系列) 進行能力快速發展，並迭代安全措施。
Anthropic
憲法式 AI (Constitutional AI)、強化學習來自人類回饋 (RLHF)，強調價值對齊和偏見最小化。
安全重點
Google DeepMind
廣泛的安全研究計畫，涵蓋誤用、失準、事故和結構性風險，並設有 AGI 安全委員會。
OpenAI
透過「準備框架」(Preparedness Framework) 進行風險評估，但對暫停開發的承諾較不明確。
Anthropic
實施「負責任擴展政策」(Responsible Scaling Policy)，強調透明度、可解釋性、壓力測試和持續監控。
主要產品/成就
Google DeepMind
AlphaGo、AlphaFold、Gemini 模型系列、Titans 架構。
OpenAI
GPT 系列 (GPT-3, GPT-4)、ChatGPT、DALL-E。
Anthropic
Claude 模型系列。
開源策略
Google DeepMind
有選擇性地開源模型 (如 Gemma) 和研究工具，但前沿模型仍為專有。
OpenAI
儘管名稱為 OpenAI，但已轉向閉源模型 (如 GPT-4)。
Anthropic
未發布開源模型，專注於安全研究出版物。

技術深入

  • DeepMind 的 AGI 方法基於通用學習系統、多任務學習和受神經科學啟發的演算法，旨在創建能夠跨多個領域泛化知識的系統。
  • 實現 AGI 的關鍵技術挑戰包括廣泛推理、長期記憶、具身智慧（embodied intelligence）以及倫理對齊。
  • DeepMind 的 AGI 安全框架透過確保 AGI 系統被訓練以追求適當目標並準確遵循人類指令來解決失準問題，這包括使用放大監督和不確定性估計等方法。
  • 該公司還大力投資於可解釋性研究，以使 AGI 系統更易於理解和審計，這是將其與人類規範對齊並確保負責任使用的關鍵步驟。
  • DeepMind 提出的「AGI 等級」框架根據能力而非機制，將 AGI 性能分為五個等級：新興（emerging）、勝任（competent）、專家（expert）、大師（virtuoso）和超人（superhuman）。

前景展望基於引用來源的 AI 分析

AGI 將顯著加速各科學領域的發現。
DeepMind 旨在將 AGI 作為「共同科學家」，分析龐大數據集、識別新穎模式並提出解決方案，這可能在藥物發現、氣候變遷和新材料等領域帶來突破。
AGI 的發展將需要健全的國際監管框架和安全措施。
Demis Hassabis 和 DeepMind 積極倡導主動的安全研究、價值對齊和國際合作，以減輕誤用、失準和意想不到的社會後果等風險。
AGI 可能透過自動化大量知識工作，從根本上改變全球經濟。
DeepMind 共同創辦人 Shane Legg 預測「最低限度 AGI」將在 2028 年實現，這可能使大多數例行性知識工作自動化，導致一個動盪的過渡期，並改變有價值的人類技能。

時間線

2010-00
DeepMind 由 Demis Hassabis、Shane Legg 和 Mustafa Suleyman 創立，旨在「解決智慧問題」。
2014-00
Google 收購 DeepMind。
2016-00
AlphaGo 擊敗圍棋世界冠軍李世乭，成為 AI 領域的里程碑。
2020-00
DeepMind 推出 AlphaFold，精確預測蛋白質 3D 結構，革新生物學領域。
2023-12
DeepMind 研究人員提出「AGI 等級」框架，旨在標準化 AGI 的定義和進度衡量。
2025-04
Google DeepMind 發布《技術 AGI 安全與保障方法》論文，概述其 AGI 開發的全面安全框架。
閱讀原文： The Verge

AI 週報

閱讀本週精選 AI 大事摘要 →

PostLinkedIn

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Verge ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週電子報

每週一封，可隨時退訂。