2026 年 7 月 19 日

平均有益的模型,仍可能傷害某個亞組

醫療 AI 的表現通常按總體報告:總體準確率、總體 AUC、等候時間的總體縮短。總體數字讓人安心,問題恰恰出在這裏。平均值可以變好,而在它底下,某個特定羣體的表現卻在變差。

會遇到這種情況的羣體是可以預料的:女性、老年病人、少數族裔、患有罕見病的人、在資源不足的機構就診的病人、因語言不通而難以獲得服務的人,以及病歷不完整的人。這些往往本來就是服務不足的羣體,而合併計算的指標,恰恰就是把他們的遭遇藏起來的工具。

這不只是公平問題,也是一個有具體落點的安全問題。一個模型如果在某個亞組裏對某種疾病檢出不足,就會把真實而集中的傷害落到真實的人身上,而對外公佈的那個數字依然好看。而且,有偏差的輸出可能迴流到訓練下一個版本的數據裏,所以這個差距可能隨時間擴大,而不是停在原地。

治理的回應是:不接受平均值作為充分的證據。表現必須拆開報告,按性別、年齡、族裔、機構和數據完整度分別列出;臨床上沒有正當理由的差距,必須觸發行動,而不只是一條腳註。

要問的問題是:

醫療 AI 的公平,不是靠善意或者一個看起來很多元的示範達成的。要靠刻意去看平均值底下的情況,部署前看,部署後也持續地看。