医疗数字孪生项目 · Day Eleven
一个知道自己回答边界在哪里的医疗数字孪生
通用 AI 助手热心的一句话。第十一天,急诊入院。他的诊所始终不知道他问过。
示意性交互研究 · 合成情景 · 不是已部署的系统
看短片 (9 分 40 秒) · 为什么是现在 · 来反驳它
什么是医疗数字孪生
医疗数字孪生是一个人健康状况的持续更新模型,很像天气预报背后的大气模型。如今医学里的数字孪生大多是为专科医生建的:一颗心脏或一个肿瘤的模型,供治疗它的临床医生使用。这一个是为病人建的。它的设计是在两次复诊之间陪着一个人,帮他弄明白自己的血糖、睡眠和饮食,以及他拿来问它的那些问题。
它不做任何决定。它解释自己看得到的东西,拒答该由临床医生回答的问题,把不该等的事升级(转交医生处理),并留下事后可以核查的记录。对诊所来说,目标是让复诊准备得更充分,而不是再多一个收件箱。它的第一个使用场景是基层医疗中的 2 型糖尿病。第一阶段原型处于部署前阶段:仍在构建中,只使用合成数据和公开数据。
短片
片长 9 分 40 秒,有声,配中英文字幕。(译注:短片对白为英文。)2026 年 9 月 17 日在该联合实验室的开幕式上放映。选一个章节,就从那里开始播放。
陈先生 58 岁,患有 2 型糖尿病。短片陪他和他的数字孪生走过三个月。大多数日子什么事也没有;到第九周,数字孪生还没开口,他已经从自己的数字里看出了规律:按设计,他应该越来越不需要它,而不是越来越需要它。一天夜里,他的血糖降了下来,提醒同时送到他和他的医护团队。在片中,他的诊所会收到这类提醒和标记。在目前的第一阶段设计里,它们发给病人,并写进他下次复诊的摘要;只有在诊所同意接收的情况下,才会更早送到诊所。多数诊所夜里不会有人看到,一个知道这一点的系统必须把这一点说出来。然后,他问要不要停用二甲双胍,短片把这一刻呈现了两次。
在片尾一段,病种从糖尿病换成高血压、心力衰竭和慢性肾病,治理层保持不变。这正是设计意图:治理层只建一次,再针对每种疾病分别配置。
为什么重要
糖尿病病人一年里坐在临床医生面前的时间,可能只有一两个小时。其间八千多个小时,他们都是一个人面对自己的问题;而这些问题,现在越来越多地被拿去问通用 AI 助手。这些助手在构建时,没有经过验证的临床范围,没有何时拒答的规程,也没有一份病人自己的临床医生能查阅的记录。这不是谁在疏忽:对多数病人来说,并没有一个有治理的选项可选。
危险很少来自一个听起来就不对的回答。通用助手大多数时候是对的,所以到了它出错的那一天,人们照样信它。聊天窗口里没有任何东西会标出这样一个时刻:一个问题从询问某种规律意味着什么,转成了要求一个临床判断,比如该不该停药,肾脏有没有受累。
所以,光看准确率,判断不了一个面向病人的医疗 AI 是否安全。在这里,安全更适合理解为范围、拒答、升级和记录:四项可以检查、也可以让某个人为之负责的属性。拒答也必须回给对方一些东西,否则就是把人关在门外。用了一年之后,一个好的系统应当让人即使不用它,也更能读懂自己的数字。
我把这四项属性的证据称为 behavioural assurance(行为保证):关于一个已部署的系统实际做了什么的证据,而不是它的模型在发布前被证明能做什么。它表明系统是否守在经过验证的范围之内,是否在该拒答、该升级的地方拒答和升级,以及事后能否重放。
为什么是现在,为什么是香港
香港已经从原则走到了实践。政府已经发布关于 AI 道德和生成式 AI 的指引;2025 年 2 月,医院管理局(医管局)宣布,从次月起,六家公立医院将用生成式 AI 起草医疗报告,每一份报告都由医生核对并批准。
照护也在转移。2026 年 3 月,政府宣布,参加人数已逾 20 万的慢性疾病共同治理先导计划将常规化,并推出基层医疗共同治理网络,目标是在前五年覆盖约 70 万人。政府还表示,会逐步邀请医管局家庭医学诊所的合适病人加入该网络的服务(政府新闻公报,2026 年 3 月 13 日)。糖尿病和高血压的照护正转由家庭医生和社区跟进,但在两次复诊之间的大部分时间里,病人仍要自己读懂数据,自己判断什么时候该回去找医生。光有更多数据,补不上这个缺口。政府 2025 年答复立法会时指出,医管局 2024 年照顾的糖尿病病人超过 658,000 人;如果给所有人都配连续血糖监测仪,医护人员会面对读数的信息过载,每年还要多花数十亿元(立法会答复,2025 年 7 月 16 日)。
下一步是直接和病人对话的 AI;而对这一步,不论在香港还是其他地方,我都没有找到一种标准的证据形式。一个对话式医疗 AI,要怎样证明自己满足了上面这四项属性,并留下能让审查者重放过往回答的记录?2026 年 npj Digital Medicine 上的一篇文章,题为“Innovating global regulatory frameworks for generative AI in medical devices is an urgent priority”(为医疗器械中的生成式 AI 革新全球监管框架,是当务之急)。人们将对这些系统提出什么要求,现在正在定下来;在系统到达病人之前去塑造这些要求,远比之后便宜。
一项设计研究
按建筑师对这个词的用法,“研究”(study)是在一样东西建成之前,对它的形式所做的推敲;这部短片就是这个意义上的研究。它展示的,是第一阶段原型在构建时要满足的交互,不是原型本身,也不是它的架构。这样,临床医生和审查者现在就能质疑这项要求,趁系统还不存在、各项决定还没有定死。
原型的边界规则和升级规则,已由一位独立的基层医疗临床医生做过书面审查,那次审查改变了设计;具体改动写在项目页面上。目前没有临床结果可以报告,我也不声称系统的任何部分已在病人身上得到验证。
它在整体中的位置
| 1 · 立场 | 锚定论文:面向病人的可问责解读 观点文章,已投稿,尚未发表。五层问责图,以及 0 到 4 级的成熟度框架。 |
| 2 · 本研究 | Day Eleven:把这一立场所要求的交互,做成具体的、公开的东西。 |
| 3 · 第一阶段原型 | 面向病人的医疗数字孪生 构建中。章程、风险归属和外部临床审查已经公开;架构尚未公开。 |
| 4 · 下一步 | 一篇伦理论文和一篇技术论文,然后是在一个范围明确的心血管代谢使用场景中,一个经过前瞻性评估、在临床监督下运行的数字孪生。需要多年时间,并取决于临床合作伙伴和伦理审批。 |
背后的论证
完整的论证在笔记它大多数时候是对的,这正是问题所在里。它解释了:为什么评判一个面向病人的医疗 AI,要看它拒答了什么;为什么一项要花临床医生时间的升级,不出一个季度就会被关掉;以及为什么一次无法还原的拒答,和从没发生过的拒答没有区别。
是谁做的
来反驳它,或帮它成形
这部短片,就是为了让人趁设计还能改的时候来反驳而做的。联系我最好用 Email:qianxy10@connect.hku.hk。
- 如果你在香港诊治成年糖尿病病人,可以向我索取那份一页清单,上面列着数字孪生可以回答什么、必须拒答什么。在清单上做标注大约需要半小时;每一处标注都会改变配置,并连同你的名字和日期一起记录下来。不涉及任何病人。
- 如果你研究医疗 AI 或它的治理,请把你的反对意见发给我。站得住的反对意见会改变设计;如果你愿意,我会注明出自你。
- 如果你资助或开发健康科技,项目章程写明了项目所处的阶段、边界,以及目前尚未主张的内容。
- 如果你是记者,下面的剧照注明出处即可免费转载,我也乐意书面回答技术问题。
供媒体使用。两张 3840 × 1632 像素的剧照可免费转载,请注明出处 Day Eleven, Xiaoyan (Candice) Qian, Medical Digital Twin Initiative, HKU-Avnet Joint AI Laboratory。剧照:1 · 有治理与无治理,并排对照 · 2 · 权限条。两张剧照的画面内都带有合成情景和原型的说明,请让它们保持可见。请把这部短片描述为:出自一个部署前研究原型的示意性交互研究,使用虚构病人和合成数据。它不是诊断系统,也没有在临床使用。请不要把它描述为监测服务:在目前的设计里,提醒发给病人,只有在诊所同意接收的情况下,才会送到诊所。如果需要一句背景:香港正把糖尿病和高血压转由家庭医生和社区跟进,但在两次复诊之间的大部分时间里,病人仍要自己读懂数据,自己判断什么时候该回去找医生。
示意性的合成情景。它描绘的是由无治理的 AI 健康建议造成的一类伤害,不指向任何具体产品或真实个案。它展示的是一个有治理的系统做什么,而不是它怎样运作:这里不公开任何规则、阈值、提示词、评估方法或数据来源。