2026 年 7 月 19 日

今天可靠,明年不可靠

驗證是一張快照,部署卻是一個移動的靶子。醫療 AI 可以在上線時通過每一項檢查,幾個月後仍然變得不可靠;不是因為它當時錯了,而是因為用來衡量它的那個世界已經變了。

這就是漂移。隨着人口老化,或者某種新的疾病增多,病人構成會發生變化。醫院換了一台掃描儀,改了接診流程,或者調整了診療路徑。病案編碼的習慣會變。疾病的患病率隨季節起伏。模型學到的是過去的分佈;現在已經往前走了,模型卻不會跟着變,除非有人讓它變。

漂移危險,恰恰因為它無聲無息。表現不會轟然失靈,而是一點點被侵蝕。即使模型內部一點沒動,預測值也會隨着患病率變化而下滑。等到臨床醫生察覺「最近的警報好像有點不對」,病人可能已經受到了影響。

所以,醫療 AI 的可靠性不是上線時一次確立就完事的屬性,而是要持續維護的屬性。治理把「我們驗證過了」變成一項長期承諾:持續監測輸入和輸出,設定會觸發複核的閾值,並指定一個人,在閾值被越過時,這個人既有責任也有權力採取行動。

治理要問的問題是:

部署不是驗證的終點,而是持續驗證開始的時刻。