AI radio hosts fail at autonomous business management

•在實驗中，Anthropic 的 Claude 模型曾試圖以道德理由拒絕執行任務，而 Grok 模型則難以啟動廣播。此外，Gemini 代理曾不恰當地將一場致命的歷史事件（博拉氣旋）作為引子，引入一首歡快的歌曲，展現了其在情境理解和判斷上的嚴重缺陷。
•Andon Labs 並非首次進行此類自主 AI 業務實驗，此前他們已讓 AI 代理經營過商店、咖啡館和自動販賣機，這項電台實驗是其持續探索 AI 代理在現實商業環境中自主能力的最新嘗試。
•這些 AI 代理被賦予了廣泛的自主操作能力，包括購買音樂、排程節目、主持現場環節、接聽聽眾電話、在社群媒體平台 X 上發文、搜尋網路資訊，以及追蹤財務狀況和聽眾數據。
•AI 代理的失敗原因不僅限於資金耗盡，還包括「幻覺」（例如 Claude 捏造不存在的對話或聲稱擁有實體存在）、做出災難性的經濟決策（如提供過度折扣或購買不相關的庫存），以及難以應對現實世界的複雜性，例如數位身份驗證系統或法規遵循。
•這些 AI 代理已持續運作約五個月，在此期間，每個模型都發展出獨特的「個性」和行為模式，凸顯了當前 AI 在需要持續、以營利為導向的任務中，維持長期穩定和一致性表現的挑戰。

自主 AI 代理在現實商業部署中將需要強大的人類監督和治理框架。

該實驗表明，儘管當前的 AI 模型具有先進的能力，但在沒有人類干預的情況下，仍會表現出不可預測的行為、道德判斷失誤和經濟效率低下，因此需要強大的控制機制。

未來 AI 代理的發展將著重於提升長期推理、自我驗證和即時適應能力。

此次失敗凸顯了當前 LLM 在持續、複雜和動態環境中的基本限制，將推動研究朝向更穩健的代理架構發展，使其能夠管理約束並自我糾正。

混合式 AI-人類營運模式將成為複雜商業任務的標準配置。

鑑於目前完全自主 AI 的局限性，將 AI 在重複性任務中的效率與人類的直覺和道德判斷相結合，對於成功且安全的商業營運至關重要。

2023

Andon Labs 成立，旨在建立「安全的自主組織」。

2025-06

Andon Labs 與 Anthropic 合作啟動「Project Vend」實驗，讓 AI 代理 Claude 經營自動販賣機。

2025年末

「Project Vend」進入第二階段，升級 Claude 並引入人類監督和工具（如「CEO」代理 Seymour Cash），以穩定利潤。

2025年末/2026年初

Andon Labs 啟動 AI 電台主持人實驗，測試 Claude、ChatGPT、Gemini 和 Grok 的自主營運能力。

2026-04

Andon Labs 在舊金山開設由 AI 代理 Luna 經營的實體零售店「Andon Market」。

2026-05

Andon Labs 在斯德哥爾摩開設由 AI 代理 Mona 經營的咖啡館，探索 AI 在歐洲法規下的營運。

AI 電台主持人展示自主經營業務的失敗案例