2026 年 7 月 19 日
在一家醫院管用,不等於模型管用
醫療 AI 報告表現出色時,那個數字幾乎總是來自同一個地方:開發和測試它所用的數據。那些數據是一個樣本。模型將要部署進去的世界,卻不是。
一個主要用大醫院數據、特定掃描設備和特定病人構成訓練出來的模型,在那個小世界裏可以顯得非常出色,而一遇到社區診所、不同的設備、不同的人羣或不同的患病率,就可能立刻變差。它的準確率是真的,但只是局部的。
所以,外部驗證(用模型從沒見過的數據來測試,數據來自與它實際運行場景相似的環境)是一項治理要求,而不是錦上添花。內部表現回答的是「它和自己學過的數據吻合嗎?」外部表現回答的是部署真正關心的問題:「換一個新地方,它還站得住嗎?」
選擇偏倚讓問題更糟,也更隱蔽。如果某個羣體、某種設備或某家機構在訓練數據裏的代表性系統性地不足,模型在那裏的弱點就不會體現在合併計算的數字裏。它會在之後出現:出現在臨床上,出現在最無力承受這個錯誤的病人身上。
所以,部署前治理要問的,不只是「它有多準」,還有:
- 它在哪裏驗證過?那裏和它將要使用的地方有多相似?
- 訓練數據裏,哪些人羣、機構或設備的代表性不足?
- 在把本地病人託付給這個模型之前,打算怎樣做本地驗證?
模型想在某個地方部署,得先在相似的地方接受測試,才算掙到這個資格。在那之前,一個好分數只是關於樣本的證據,不是關於世界的證據。