Demis Hassabis: We are in the foothills of singularity

•Demis Hassabis 對通用人工智慧 (AGI) 的定義是能夠展現人類心智所有認知能力的系統，他對 AGI 到來的時間預測持續縮短，從過去的 5-10 年縮短到「僅剩幾年」。
•DeepMind 實現 AGI 的方法論包括開發通用學習演算法、受神經科學啟發的學習，以及多任務學習，以期達到廣泛的理解能力。
•DeepMind 強調 AGI 的「安全與道德發展」，並提出了一套全面的框架來應對誤用、失準、事故和結構性風險等四個主要風險領域，同時注重可解釋性和嚴格測試。
•Hassabis 預見 AI 將帶來「徹底的豐裕」，透過加速科學發現，例如在永續能源、醫療診斷和新材料領域，甚至可能實現治癒所有疾病的目標。
•DeepMind 提出了一個類似於自動駕駛分級的「AGI 等級」框架，旨在為業界提供一個標準化的 AGI 能力分類，從「新興」到「超人」等級。

📊 競品分析▸ Show

特徵/公司	Google DeepMind	OpenAI	Anthropic
主要任務/哲學	以科學研究為導向，旨在解決智慧本身，並將 AI 作為科學發現的工具。	以產品為先，快速產品化，確保 AGI 造福全人類。	安全為先，專注於開發可靠、可解釋且可控的 AI 系統。
AGI 方法	通用學習演算法、神經科學啟發學習、多任務學習，整合於 Google 生態系統。	透過大型語言模型 (如 GPT 系列) 進行能力快速發展，並迭代安全措施。	憲法式 AI (Constitutional AI)、強化學習來自人類回饋 (RLHF)，強調價值對齊和偏見最小化。
安全重點	廣泛的安全研究計畫，涵蓋誤用、失準、事故和結構性風險，並設有 AGI 安全委員會。	透過「準備框架」(Preparedness Framework) 進行風險評估，但對暫停開發的承諾較不明確。	實施「負責任擴展政策」(Responsible Scaling Policy)，強調透明度、可解釋性、壓力測試和持續監控。
主要產品/成就	AlphaGo、AlphaFold、Gemini 模型系列、Titans 架構。	GPT 系列 (GPT-3, GPT-4)、ChatGPT、DALL-E。	Claude 模型系列。
開源策略	有選擇性地開源模型 (如 Gemma) 和研究工具，但前沿模型仍為專有。	儘管名稱為 OpenAI，但已轉向閉源模型 (如 GPT-4)。	未發布開源模型，專注於安全研究出版物。

DeepMind 的 AGI 方法基於通用學習系統、多任務學習和受神經科學啟發的演算法，旨在創建能夠跨多個領域泛化知識的系統。
實現 AGI 的關鍵技術挑戰包括廣泛推理、長期記憶、具身智慧（embodied intelligence）以及倫理對齊。
DeepMind 的 AGI 安全框架透過確保 AGI 系統被訓練以追求適當目標並準確遵循人類指令來解決失準問題，這包括使用放大監督和不確定性估計等方法。
該公司還大力投資於可解釋性研究，以使 AGI 系統更易於理解和審計，這是將其與人類規範對齊並確保負責任使用的關鍵步驟。
DeepMind 提出的「AGI 等級」框架根據能力而非機制，將 AGI 性能分為五個等級：新興（emerging）、勝任（competent）、專家（expert）、大師（virtuoso）和超人（superhuman）。

AGI 將顯著加速各科學領域的發現。

DeepMind 旨在將 AGI 作為「共同科學家」，分析龐大數據集、識別新穎模式並提出解決方案，這可能在藥物發現、氣候變遷和新材料等領域帶來突破。

AGI 的發展將需要健全的國際監管框架和安全措施。

Demis Hassabis 和 DeepMind 積極倡導主動的安全研究、價值對齊和國際合作，以減輕誤用、失準和意想不到的社會後果等風險。

AGI 可能透過自動化大量知識工作，從根本上改變全球經濟。

DeepMind 共同創辦人 Shane Legg 預測「最低限度 AGI」將在 2028 年實現，這可能使大多數例行性知識工作自動化，導致一個動盪的過渡期，並改變有價值的人類技能。

2010-00

DeepMind 由 Demis Hassabis、Shane Legg 和 Mustafa Suleyman 創立，旨在「解決智慧問題」。

2014-00

Google 收購 DeepMind。

2016-00

AlphaGo 擊敗圍棋世界冠軍李世乭，成為 AI 領域的里程碑。

2020-00

DeepMind 推出 AlphaFold，精確預測蛋白質 3D 結構，革新生物學領域。

2023-12

DeepMind 研究人員提出「AGI 等級」框架，旨在標準化 AGI 的定義和進度衡量。

2025-04

Google DeepMind 發布《技術 AGI 安全與保障方法》論文，概述其 AGI 開發的全面安全框架。

Demis Hassabis：我們正處於奇點的山腳下