Judge signals AI recruitment tools may face discrimination liability

•該訴訟（Mobley 訴 Workday, Inc.）於 2024 年由 Derek Mobley 提起，他是一名 40 多歲的黑人殘疾男性，聲稱 Workday 的演算法將他從 100 多個職位中篩選掉，構成歧視。
•此案的法律依據部分是「差別影響」理論，這意味著原告無需證明存在故意歧視，只需證明 AI 工具對受保護群體造成了不成比例的負面影響。
•一項關鍵的法律發展是，法官裁定 Workday 可能被視為雇主的「代理人」而承擔責任，即使它不是直接雇主，這顯著擴大了 AI 工具供應商的潛在法律責任範圍。
•該訴訟已根據《年齡歧視就業法》(ADEA) 獲得初步集體訴訟認證，涵蓋自 2020 年 9 月 24 日以來所有 40 歲及以上、透過 Workday 平台申請工作但被拒絕的求職者。
•Workday 辯稱其 AI 招聘工具不作最終僱用決策，其設計以人工監督為核心，且僅考量職位資格而非受保護特徵，並無證據顯示其工具對受保護群體造成傷害。

Workday 的 AI 工具旨在提供候選人資格與職位要求匹配程度的洞察，僅專注於申請人履歷中列出的資格與雇主設定的需求進行比較。
訴訟指控 Workday 的系統依賴歷史數據和統計模型，即使未明確提供受保護特徵，也可能容易受到現有偏見的影響，偏見可能透過訓練數據、模型設計和評估標準進入系統。
Workday 的 AI 功能被稱為「Workday Illuminate」，它深度嵌入 Workday 平台的核心架構中，利用機器學習、數據分析和自然語言處理來提供智慧結果，分析實時數據、發現模式、提供洞察和建議，並自動化工作流程。
訴訟中提及的具體 AI 工具包括「候選人技能匹配」(Candidate Skills Match)，該工具提取並匹配技能，並以「強」、「好」、「一般」、「低」、「待定」和「無法評分」等結果報告；以及「Workday 評估連接器」(Workday Assessment Connector)，據稱該工具利用機器學習觀察雇主對特定受保護群體的偏好，並降低對這些候選人的推薦率。
Workday 的整體架構包括物件管理服務 (OMS)（基於 Java 的記憶體資料庫，託管業務邏輯，使用 XpressO 語言）、整合服務、使用者介面 (UI)（使用 JavaScript 和 HTML）以及持久化服務（SQL 用於業務數據，NoSQL 用於文件）。

AI 工具供應商將面臨更廣泛的法律責任。

法院裁定供應商即使不是直接雇主，若其工具對招聘決策有實質影響，也可能被視為雇主的「代理人」而承擔歧視責任，這將擴大供應商的法律風險。

企業將被迫對其 AI 招聘工具進行更嚴格的偏見審計與透明度要求。

訴訟強調了演算法偏見和缺乏透明度的問題，促使企業需要證明其 AI 工具的公平性，並對供應商提出更高的透明度標準。

未來 AI 招聘工具的設計將更加強調「人機協作」與「負責任 AI」原則。

Workday 的辯護強調其 AI 工具設計有「人類監督」的核心，且行業專家指出，為降低風險，HR 必須保持對 AI 工具的持續人工監督。

2023-02

Derek Mobley 在美國加州北區地方法院提起訴訟，指控 Workday 的 AI 篩選工具存在種族、年齡和身心障礙歧視。

2024-07

法院駁回 Workday 駁回訴訟的動議，允許原告以 Workday 作為雇主「代理人」的理論繼續訴訟。

2025-05

法官 Rita Lin 批准了《年齡歧視就業法》(ADEA) 索賠的初步集體訴訟認證，涵蓋自 2020 年 9 月 24 日以來所有 40 歲及以上、透過 Workday 平台申請工作但被拒絕的求職者。

2026-03

聯邦法官允許年齡歧視索賠繼續進行，駁回 Workday 關於「差別影響」索賠僅適用於員工而非申請人的論點。

2026-06

美國地方法院法官 Rita Lin 表示，她可能會允許針對 Workday 的額外州歧視索賠繼續進行，這將顯著擴大此案的範圍。

法官暗示 AI 招聘工具可能面臨歧視法律責任