Startup raises $650M for self-improving AI systems

•這家名為 Recursive Superintelligence 的新創公司由來自 Meta AI、Google DeepMind、OpenAI 和 Salesforce AI 的前領導者共同創立，其中包括 Richard Socher 和田淵棟。
•該輪融資由 GV (Google Ventures) 和 Greycroft 領投，晶片製造商 Nvidia 和 AMD 亦參與其中，使公司估值達到 46.5 億美元。
•儘管獲得巨額早期資金，該公司目前員工少於 30 人，且尚未發布任何產品。
•遞迴式自我改進的目標是讓 AI 系統能夠自主發現知識、持續優化自身，並以開放式循環不斷演進，其速度遠超生物演化。
•自我改進 AI 導致「智慧爆炸」的概念自 1960 年代以來一直是電腦科學的理論設想，但現在正隨著大量投資進入實際開發階段。

遞迴式自我改進 (RSI) 涉及早期通用人工智慧 (AGI) 系統重寫自身的電腦程式碼，以增強能力和智力，理論上可能導致超級智慧。
該概念通常始於「種子改進器」(seed improver) 架構，這是一個初始程式碼庫，賦予 AGI 系統（例如先進的大型語言模型）規劃、閱讀、寫作、編譯、測試和執行任意程式碼的能力。
系統被設計為維持其原始目標並執行驗證，以確保其能力不會在迭代過程中退化。
RSI 採用元學習 (meta-learning)、自我編輯程式碼和強化策略等技術來驅動逐步、開放式的性能提升。
技術挑戰包括規範和評估問題，這使得確保安全修改和預測其影響變得困難。
有研究指出，大型語言模型中的遞迴式自我訓練，如果外部基礎訊號的比例逐漸消失，可能導致「模型崩潰」(model collapse) 或「熵衰減」(entropy decay) 和「方差放大」(variance amplification)，進而使性能下降。

該公司將在未來五年內發布一個能夠自主進行科學發現的 AI 系統。

Recursive Superintelligence 的目標是建立能夠自主發現知識並持續優化自身的 AI 系統，這將加速科學研究週期。

由於對自我改進 AI 的倫理和安全擔憂加劇，全球監管機構將在未來三年內實施更嚴格的 AI 開發準則。

自我改進 AI 的不可預測演變和潛在失控風險已引起專家和公眾的廣泛關注，促使對安全和可控性的研究與監管需求增加。

該公司的技術將加速「智慧爆炸」的可能性，導致 AI 能力在短時間內呈指數級增長。

遞迴式自我改進被認為是推動智慧爆炸的關鍵，系統能夠指數級地提升其自身改進能力。

2025-11

前 Meta AI 研究員田淵棟離開 Meta，為創立新公司鋪路。

2026-01

Recursive Superintelligence 成立 (根據文章「成立四個月」推算)。

2026-05-13

Recursive Superintelligence 脫離隱身模式，宣布獲得 6.5 億美元 A 輪融資，估值達 46.5 億美元，由 GV 和 Greycroft 領投，Nvidia 和 AMD 參與。

新創公司募資 6.5 億美元開發自我改進 AI