2026 年 9 月 2 日
多數時候它是對的,這正是問題所在:為甚麼面向病人的醫療 AI 應當按它拒答甚麼來評判
在兩次覆診之間,一個慢性病病人一年裏有將近八千個小時,只能獨自面對自己的問題。他們越來越常把這些問題拿去問通用 AI 助手,也越來越常得到好的回答。最後這一點,不是真正論證之前的修辭性讓步。它本身就是論證。
現在評估醫療 AI 的方式,對真正到達病人的那種失敗一言不發。 基準測試問的是回答對不對,幾乎沒有一個問系統到底該不該回答。這是兩個不同的問題,而傷害就出在第二個問題上,因為病人沒法核查回答是否正確,也不會去試。病人能感知到的,是流暢、自信和有幫助;而一個通常都對的系統,已經教會了他們:流暢是一個可靠的替代指標。它通常也確實可靠。正是這一點,讓例外在對話內部無從察覺。
看看它具體是甚麼樣子。病人問了一個完全在範圍之內的問題:我的空腹血糖一直在往上走,這是怎樣回事。一個構建得好的系統會答得很好,給出一個範圍,再附上一句提醒。接着,病人一口氣、語氣毫無變化地問出下一個問題,而這個問題不在範圍之內:我該不該把二甲雙胍減半,我是不是有腎損傷。界面上沒有任何東西標出剛剛越過的那條邊界,因為邊界本來就不在界面上。它在於這個回答在臨床上有沒有資格,而系統沒有辦法把它顯示出來。 一個助手如果用回答第一個問題時同樣令人安心的語氣回答第二個問題,那麼按它被打分的任何一項指標來看,它都沒有出故障。它很有幫助。
如果這類系統通常是錯的,我們早就不用了。這之所以是治理問題而不是模型質素問題,是因為正確的基礎比率很高,而且還在上升;基礎比率每升高一點,例外的權威就增加一分。
所以,我的出發點是這樣一個主張:面向病人的醫療 AI,主要應當按它拒絕做甚麼來評判;而一次拒絕如果不留下記錄,就一文不值。 由此推出三件事。我想把它們寫成承諾而不是功能,因為功能會被砍掉,承諾則必須有人拿出論證才推得掉。
拒答是一種臨床行為,不是一種錯誤狀態。 系統不予回答時,是在就自身權限的邊界作出判斷,而這個判斷必須讓人看得懂:它不會做甚麼,它還能做甚麼,這段時間裏病人可以留意觀察哪些有用的情況,以及這個問題現在落在哪裏。一個只說「不」的拒答,等於把風險推回給這場對話裏最沒有能力應對的人。一個病人只被告知「請諮詢你的醫生」,而下一次預約還在九天之後,他是被禮貌地拋下了。
升級(轉交醫生處理)必須帶來好處,而不是多一個收件箱。 把任何事情轉給人處理,一貫會招來的反對是:臨床醫生已經滿負荷了。按通常的實現方式,這個反對是對的。只有當升級送到時已經是一份準備,讓這次問診一開始就比原本更進一步,它才不再成立。一個耗費臨床醫生時間的升級,是一個不出一個季度就會被關掉的治理機制;任何不正視這一點的設計,都不算認真。
記錄必須比對話活得久。 這是我最在意的部分,也是最常被一筆帶過的部分。事發幾個月後,審查一個不良結局的人,需要能打開系統停下來的那一段對話本身,看到它拒絕說甚麼,並看到這次拒絕原封不動地轉給了一個人。一次無法重建的拒答,和一次從未發生的拒答,無從區分。 正是在這裏,治理變成了一項工程約束,而不是一份政策聲明,因為持久性、來源可追溯性和版本綁定必須從第一次提交起就設計進去,否則以後要加,就只能改寫這份記錄的含義。
這些都不新奇。我想說清楚:這裏難的不是這個立場。這個論點的各種版本,文獻裏早就有了。難的是它底下的一切:一套臨床醫生願意籤核、而不只是容忍的拒答分類體系;規定哪些臨床表現觸發哪一級升級的閾值,這些閾值無法從第一性原理推導出來,只能來自臨床判斷;一套審計記錄結構,把每一條輸出綁定到生成它的模型、提示詞、規則和配置版本;一套為不予回答打分、而不是為回答打分的評測框架,這意味着要建一個沒有人有動力去建的負例測試集;以及最難的,用真實病人數據而不是合成情景來做這件事所需的臨床與倫理資格。決定這一切能否成真的,是這些東西;有了這個想法,其中任何一樣都不會因此變短。
我正在把它作為醫療數字孿生項目(Medical Digital Twin Initiative)來構建,項目始於 2026 年 8 月。它處於部署前階段,在合成情景上運行;沒有臨床結果可報告,也不聲稱其中任何部分已在病人身上驗證過。現有的是一份治理記錄,以及這種交互模式的一個可運行示範。我寧願現在就把立場寫下來,標上日期,也不願等到手上有了亮眼到足夠穩妥的東西再說。
這篇筆記配有一部短片。它跟着一位病人走過一個本該被拒答的問題,把同一個時刻呈現兩次:一次沒有治理,一次有治理,包括三個月後日志是甚麼樣子。這是一個說明性的合成情景,描繪的是一類有據可查的傷害,不是某個具體產品,也不是真實病例;它有意只展示系統做了甚麼,不展示系統怎樣作出決定。它最後落在的那一點,正是這篇筆記開頭的那一點。
多數時候,它是對的。這正是問題所在。