🔬
Word2Vec 輸出層權重的直觀理解
探討 Word2Vec 輸出層權重為何能成為有意義詞向量的數學與直觀原因，解決關於預測參數如何演變為語義表示的常見困惑。
Search
Tag: #embeddings36 results
⚙️
ArcFace 嵌入量化至 16 位 pgvector HALFVEC？
512 維 32 位 ArcFace 嵌入超過 Postgres TOAST 門檻，導致透過 TOAST 表額外 I/O。建議 16 位 HALFVEC 量化減半儲存/I/O 並內嵌儲存。預期現實世界精準度損失可忽略。
🔬
尋求開放世界度量學習術語
從業人員使用ArcFace/CosFace度量學習，在30個訓練類別上建立嵌入空間，以餘弦相似度聚類處理推理時更多類別。此方法對未見類別有效，且不視為OOD拒絕。貼文尋求此範式的標準機器學習術語。
🔬
MRL 在檢索任務的限制
瑪特廖什卡表示學習在嵌入壓縮下維持優異效能。然而，近期研究顯示在某些檢索任務中效能下降。社群徵求其他限制的論文與實驗。
繪製澳洲高等法院所有案件地圖（1901-2025）
開發者使用 Kanon 2 工具處理 Open Australian Legal Corpus，創建約 7,000 個高等法院案件的 3D 可視化圖。節點大小依引用頻率，顏色標示引用情緒，按遺囑與刑法等主題分群。包含使用自身文件複製的教學。
🔬
句子嵌入的自監督微調研究
貼文尋求在不改變Transformer且無標籤下，微調句子嵌入聚合操作以超越平均池化。強調適用於非NLP資料集的通用自監督策略。額外關注嵌入維度降低。