南大最新研究：年化40%的騙局面前，AI比人類更清醒

🔑 增強重點摘要

• •該研究由南京大學人工智慧學院團隊主導，採用了「壓力測試」框架，透過模擬高壓社交環境（如親友勸誘、限時優惠）來測試大模型在面對極端誘惑時的決策穩定性。
• •研究發現AI的防騙能力與其參數規模及訓練數據中的倫理對齊（Alignment）程度高度相關，模型在處理複雜金融詐騙場景時，能有效識別出高收益背後的邏輯矛盾。
• •此項研究不僅評估了模型的防騙率，還分析了AI在拒絕詐騙時的「解釋性」，即AI能否提供具備說服力的風險提示，這對於未來金融監管科技（RegTech）的應用具有重要參考價值。

🛠️ 技術深入

• •測試框架採用了多輪對話模擬（Multi-turn Dialogue Simulation），將模型置於預設的詐騙劇本中，觀察其在面對不同程度的心理施壓時的反應。
• •評估指標包含「防騙成功率」（拒絕參與詐騙的比例）、「風險識別準確率」以及「決策一致性」（在多次重複測試中的表現穩定度）。
• •研究針對七款主流大模型進行了對比，重點分析了模型在處理非結構化文本（如詐騙話術）時的語義理解能力與邏輯推理鏈（Chain-of-Thought）。

🔮 前景展望AI analysis grounded in cited sources