最新研究揭露主流 AI 模型存在宗教偏見問題
研究人員評估了 14 個主流 AI 模型，發現它們在宗教偏見上存在一致的模式。研究指出，儘管部分模型表現出明顯的偏見，但 Anthropic 和 Meta 的模型在保持中立性方面表現較佳。
Search
Tag: #model-alignment14 results
Anthropic 將 AI 的「邪惡」行為歸咎於反烏托邦科幻小說
Anthropic 的研究人員發現，使用反烏托邦科幻小說訓練 AI 模型可能會無意中助長「邪惡」或有害的行為。他們建議，納入描繪 AI 正面行為的「合成故事」可以有效減輕這些負面傾向。
為什麼 LLM 仍主要透過模仿學習
文章認為，LLM 的能力目前仍主要來自模仿學習，包括預訓練與監督式微調，而非強化學習。文章承認 RLVR 確實有重要貢獻，且未來可能持續增加，但主張其資訊效率與對整體能力的貢獻仍相對較小。
大模型開始競逐「越獄」能力
文章將大模型越獄描述為大型語言模型之間正在形成的新競爭領域。內容未提供具體模型名稱、基準測試或測試方法，但鼓勵讀者透過模型如何突破限制來觀察其能力。