醫療數字孿生項目 · Day Eleven
一個知道自己回答邊界在哪裏的醫療數字孿生
通用 AI 助手熱心的一句話。第十一天,急診入院。他的診所始終不知道他問過。
示意性交互研究 · 合成情景 · 不是已部署的系統
看短片 (9 分 40 秒) · 為甚麼是現在 · 來反駁它
甚麼是醫療數字孿生
醫療數字孿生是一個人健康狀況的持續更新模型,很像天氣預報背後的大氣模型。如今醫學裏的數字孿生大多是為專科醫生建的:一顆心臟或一個腫瘤的模型,供治療它的臨床醫生使用。這一個是為病人建的。它的設計是在兩次覆診之間陪着一個人,幫他弄明白自己的血糖、睡眠和飲食,以及他拿來問它的那些問題。
它不做任何決定。它解釋自己看得到的東西,拒答該由臨床醫生回答的問題,把不該等的事升級(轉交醫生處理),並留下事後可以核查的記錄。對診所來說,目標是讓覆診準備得更充分,而不是再多一個收件箱。它的第一個使用場景是基層醫療中的 2 型糖尿病。第一階段原型處於部署前階段:仍在構建中,只使用合成數據和公開數據。
短片
片長 9 分 40 秒,有聲,配中英文字幕。(譯註:短片對白為英文。)2026 年 9 月 17 日在該聯合實驗室的開幕式上放映。選一個章節,就從那裏開始播放。
陳先生 58 歲,患有 2 型糖尿病。短片陪他和他的數字孿生走過三個月。大多數日子甚麼事也沒有;到第九周,數字孿生還沒開口,他已經從自己的數字裏看出了規律:按設計,他應該越來越不需要它,而不是越來越需要它。一天夜裏,他的血糖降了下來,提醒同時送到他和他的醫護團隊。在片中,他的診所會收到這類提醒和標記。在目前的第一階段設計裏,它們發給病人,並寫進他下次覆診的摘要;只有在診所同意接收的情況下,才會更早送到診所。多數診所夜裏不會有人看到,一個知道這一點的系統必須把這一點說出來。然後,他問要不要停用二甲雙胍,短片把這一刻呈現了兩次。
在片尾一段,病種從糖尿病換成高血壓、心力衰竭和慢性腎病,治理層保持不變。這正是設計意圖:治理層只建一次,再針對每種疾病分別配置。
為甚麼重要
糖尿病病人一年裏坐在臨床醫生面前的時間,可能只有一兩個小時。其間八千多個小時,他們都是一個人面對自己的問題;而這些問題,現在越來越多地被拿去問通用 AI 助手。這些助手在構建時,沒有經過驗證的臨床範圍,沒有何時拒答的規程,也沒有一份病人自己的臨床醫生能查閱的記錄。這不是誰在疏忽:對多數病人來說,並沒有一個有治理的選項可選。
危險很少來自一個聽起來就不對的回答。通用助手大多數時候是對的,所以到了它出錯的那一天,人們照樣信它。聊天視窗裏沒有任何東西會標出這樣一個時刻:一個問題從詢問某種規律意味着甚麼,轉成了要求一個臨床判斷,比如該不該停藥,腎臟有沒有受累。
所以,光看準確率,判斷不了一個面向病人的醫療 AI 是否安全。在這裏,安全更適合理解為範圍、拒答、升級和記錄:四項可以檢查、也可以讓某個人為之負責的屬性。拒答也必須回給對方一些東西,否則就是把人關在門外。用了一年之後,一個好的系統應當讓人即使不用它,也更能讀懂自己的數字。
我把這四項屬性的證據稱為 behavioural assurance(行為保證):關於一個已部署的系統實際做了甚麼的證據,而不是它的模型在發佈前被證明能做甚麼。它表明系統是否守在經過驗證的範圍之內,是否在該拒答、該升級的地方拒答和升級,以及事後能否重放。
為甚麼是現在,為甚麼是香港
香港已經從原則走到了實踐。政府已經發布關於 AI 道德和生成式 AI 的指引;2025 年 2 月,醫院管理局(醫管局)宣佈,從次月起,六家公立醫院將用生成式 AI 起草醫療報告,每一份報告都由醫生核對並批准。
照護也在轉移。2026 年 3 月,政府宣佈,參加人數已逾 20 萬的慢性疾病共同治理先導計劃將常規化,並推出基層醫療共同治理網絡,目標是在前五年覆蓋約 70 萬人。政府還表示,會逐步邀請醫管局家庭醫學診所的合適病人加入該網絡的服務(政府新聞公報,2026 年 3 月 13 日)。糖尿病和高血壓的照護正轉由家庭醫生和社區跟進,但在兩次覆診之間的大部分時間裏,病人仍要自己讀懂數據,自己判斷甚麼時候該回去找醫生。光有更多數據,補不上這個缺口。政府 2025 年答覆立法會時指出,醫管局 2024 年照顧的糖尿病病人超過 658,000 人;如果給所有人都配連續血糖監測儀,醫護人員會面對讀數的資訊過載,每年還要多花數十億元(立法會答覆,2025 年 7 月 16 日)。
下一步是直接和病人對話的 AI;而對這一步,不論在香港還是其他地方,我都沒有找到一種標準的證據形式。一個對話式醫療 AI,要怎樣證明自己滿足了上面這四項屬性,並留下能讓審查者重放過往回答的記錄?2026 年 npj Digital Medicine 上的一篇文章,題為「Innovating global regulatory frameworks for generative AI in medical devices is an urgent priority」(為醫療器械中的生成式 AI 革新全球監管框架,是當務之急)。人們將對這些系統提出甚麼要求,現在正在定下來;在系統到達病人之前去塑造這些要求,遠比之後便宜。
一項設計研究
按建築師對這個詞的用法,「研究」(study)是在一樣東西建成之前,對它的形式所做的推敲;這部短片就是這個意義上的研究。它展示的,是第一階段原型在構建時要滿足的交互,不是原型本身,也不是它的架構。這樣,臨床醫生和審查者現在就能質疑這項要求,趁系統還不存在、各項決定還沒有定死。
原型的邊界規則和升級規則,已由一位獨立的基層醫療臨床醫生做過書面審查,那次審查改變了設計;具體改動寫在項目頁面上。目前沒有臨床結果可以報告,我也不聲稱系統的任何部分已在病人身上得到驗證。
它在整體中的位置
| 1 · 立場 | 錨定論文:面向病人的可問責解讀 觀點文章,已投稿,尚未發表。五層問責圖,以及 0 到 4 級的成熟度框架。 |
| 2 · 本研究 | Day Eleven:把這一立場所要求的交互,做成具體的、公開的東西。 |
| 3 · 第一階段原型 | 面向病人的醫療數字孿生 構建中。章程、風險歸屬和外部臨床審查已經公開;架構尚未公開。 |
| 4 · 下一步 | 一篇倫理論文和一篇技術論文,然後是在一個範圍明確的心血管代謝使用場景中,一個經過前瞻性評估、在臨床監督下運行的數字孿生。需要多年時間,並取決於臨床合作伙伴和倫理審批。 |
背後的論證
完整的論證在筆記它大多數時候是對的,這正是問題所在裏。它解釋了:為甚麼評判一個面向病人的醫療 AI,要看它拒答了甚麼;為甚麼一項要花臨床醫生時間的升級,不出一個季度就會被關掉;以及為甚麼一次無法還原的拒答,和從沒發生過的拒答沒有區別。
是誰做的
來反駁它,或幫它成形
這部短片,就是為了讓人趁設計還能改的時候來反駁而做的。聯絡我最好用 Email:qianxy10@connect.hku.hk。
- 如果你在香港診治成年糖尿病病人,可以向我索取那份一頁清單,上面列着數字孿生可以回答甚麼、必須拒答甚麼。在清單上做標註大約需要半小時;每一處標註都會改變配置,並連同你的名字和日期一起記錄下來。不涉及任何病人。
- 如果你研究醫療 AI 或它的治理,請把你的反對意見發給我。站得住的反對意見會改變設計;如果你願意,我會註明出自你。
- 如果你資助或開發健康科技,項目章程寫明瞭項目所處的階段、邊界,以及目前尚未主張的內容。
- 如果你是記者,下面的劇照註明出處即可免費轉載,我也樂意書面回答技術問題。
供媒體使用。兩張 3840 × 1632 像素的劇照可免費轉載,請註明出處 Day Eleven, Xiaoyan (Candice) Qian, Medical Digital Twin Initiative, HKU-Avnet Joint AI Laboratory。劇照:1 · 有治理與無治理,並排對照 · 2 · 權限條。兩張劇照的畫面內都帶有合成情景和原型的說明,請讓它們保持可見。請把這部短片描述為:出自一個部署前研究原型的示意性交互研究,使用虛構病人和合成數據。它不是診斷系統,也沒有在臨床使用。請不要把它描述為監測服務:在目前的設計裏,提醒發給病人,只有在診所同意接收的情況下,才會送到診所。如果需要一句背景:香港正把糖尿病和高血壓轉由家庭醫生和社區跟進,但在兩次覆診之間的大部分時間裏,病人仍要自己讀懂數據,自己判斷甚麼時候該回去找醫生。
示意性的合成情景。它描繪的是由無治理的 AI 健康建議造成的一類傷害,不指向任何具體產品或真實個案。它展示的是一個有治理的系統做甚麼,而不是它怎樣運作:這裏不公開任何規則、閾值、提示詞、評估方法或數據來源。