📄較早收集於 5h

ZeroFolio:無領域知識演算法選擇

ZeroFolio:無領域知識演算法選擇
PostLinkedIn
📄閱讀原文: ArXiv AI

💡無需專業知識,在 7 領域演算法選擇超越手工特徵(78字)

⚡ 30-Second TL;DR

有什麼變化

無需領域知識,使用預訓練文字嵌入原始實例檔案

為什麼重要

簡化 AutoML 中的演算法選擇,消除特徵工程需求。實現跨領域可攜性,有助加速最佳化任務中的求解器組合。

下一步行動

使用 Sentence Transformers 嵌入,在 ASlib 資料集上測試 ZeroFolio。

誰應關注:Researchers & Academics

關鍵要點

  • 無需領域知識,使用預訓練文字嵌入原始實例檔案
  • 單一配置在 10/11 情境超越手工特徵隨機森林
  • 統一適用於 SAT、MaxSAT、QBF、ASP、CSP、MIP、圖形問題
  • 消融研究強調反距離加權、行重排序、曼哈頓距離

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • ZeroFolio 解決了傳統演算法選擇(Algorithm Selection)中依賴領域專家設計特徵(Hand-crafted features)的瓶頸,顯著降低了將演算法選擇應用於新問題領域的門檻。
  • 該方法利用大型語言模型(LLM)或預訓練編碼器將原始問題實例(如 DIMACS 格式的 SAT 檔案)直接轉換為向量表示,證明了通用文字嵌入在結構化問題空間中的有效性。
  • 研究顯示,透過簡單的 k-NN 變體(如反距離加權)即可在多樣化問題集上達到最先進(SOTA)的效能,挑戰了複雜機器學習模型在演算法選擇任務中的必要性。
📊 競品分析▸ Show
特徵ZeroFolioASlib 傳統方法 (如 Random Forest)AutoFolio
特徵工程無需(自動嵌入)需領域專家手工設計需領域專家手工設計
適用範圍通用(文字化問題)領域受限領域受限
核心機制加權 k-NN隨機森林回歸演算法配置與選擇框架
效能基準11 個情境中 10 個超越 RF基線標準視配置而定

🛠️ 技術深入

  • 輸入處理:將原始問題實例檔案視為純文字序列,透過預訓練模型(如 BERT 或類似架構)提取嵌入向量。
  • 行重排序(Row Reordering):針對具有置換不變性的問題格式(如 SAT 變數子句),對檔案中的行進行標準化排序,以消除輸入順序對嵌入品質的影響。
  • 距離度量:採用曼哈頓距離(L1 距離)而非歐幾里得距離,在處理高維稀疏嵌入向量時表現更佳。
  • 決策邏輯:使用反距離加權 k-NN(Inverse Distance Weighted k-NN),根據訓練集中相似實例的效能表現,對候選演算法進行加權投票。

🔮 前景展望AI analysis grounded in cited sources

演算法選擇領域將從特徵工程轉向基礎模型嵌入。
ZeroFolio 的成功證明了通用預訓練模型在捕捉問題結構特徵方面的能力已超越人工設計的啟發式特徵。
自動化演算法選擇工具的部署成本將大幅降低。
消除對領域專家的依賴使得非計算專家也能快速將演算法選擇技術應用於新的工業問題。

時間線

2025-09
ZeroFolio 首次於 ArXiv 發布預印本,提出無領域知識的演算法選擇框架。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: ArXiv AI