项目衍生 · 公开透明记录 · 已脱敏

公开披露摘要(参照 ATRS,自愿发布)

一份用浅白语言写给公众的医疗数字孪生摘要,以公共部门的算法透明标准为准。它回答四个问题,任何公民、审查者或记者不必是用户也能读:它做什么,不做什么,谁负责,怎样提出关切。

为什么要有这份摘要

多数 AI 透明材料,要么是写给已经在用这个系统的人看的,要么放在只有机构自己看得到的内部清单里。公共部门的透明标准,例如英国的算法透明记录标准(Algorithmic Transparency Recording Standard),提出了一个更难的问题:一个受这个系统影响、却不使用它的人,可能是普通公众、审查者或记者,能不能看懂它是什么,以及怎样对它提出质疑?

我构建的医疗数字孪生是一个部署前的研究原型,所以法律上并不要求它发布这样的记录。我自愿发布这一份,并以那个公共部门标准来要求它。这样做,一是因为治理纪律值得在部署让它变成义务之前就建立起来;二是因为能不能用浅白的话向不使用系统的人讲清楚一个系统,本身就是对它治理得好不好的检验。

摘要

1. 它做什么。它是一个辅助工具:监测健康信号,用浅白的话解释这些信号可能意味着什么,明确说出哪些地方仍不确定,并提示一个人什么时候应当就医。

2. 它不做什么。它不做诊断。它不取代医生或护士。它不决定、也不更改治疗。它不是急救服务。信息缺失,或者问题超出它能安全处理的范围时,它不会给出听起来很有把握的回答。它也不会就此停下:它会说明自己无法确定什么、需要什么才能确定,以及这个人在此期间可以做些什么有用的事。拒答对任何系统都很容易;让人手里没有任何可以据此行动的东西,才会把人推向不那么安全的地方。

3. 谁负责。问责落在明确指定的角色上,而不是软件上:一位 AI 治理负责人对系统被允许怎样行事负责;一位临床安全负责人对病人安全负责;项目发起人在机构层面负责。这些责任没有任何一部分转移给系统或病人。

4. 怎样提出关切。如果某个输出看起来不对,或者系统有什么地方令人担忧,有一条明确的途径可以找到一位负责的人:不只是应用里的一个按钮,而是一个有人值守的渠道,有具名的负责人,也有回应承诺。用这种方式提出的关切,会被当作潜在的安全信号对待,而不是满意度投诉。

改了什么,为什么改

一份永远只展示当前状态的透明记录是薄弱的。它无法核查,还会悄悄掩盖早先版本说过不一样的话。这一节永久保留;以后每次修订都在这里追加,而不是替换。

v0.2(2026 年 8 月 22 日)。0.1 版说,信息缺失或问题超出系统能安全处理的范围时,它会“直接说明这一点,而不是给出听起来很有把握的回答”(says so plainly rather than giving a confident-sounding answer)。这个措辞受到了质疑,而且没有经受住质疑。拒答是任何会停下来的系统都具备的属性:一个结束对话的系统,和一个会交还一些东西的系统,都满足这一点;可对提问的人来说,它们根本不是同一个系统。把停下来说成安全功能,却不说明这个人最后手里还剩什么,就是夸大了它。

因此,0.2 版写明了一次拒答必须交还什么:什么无法确定,需要什么才能确定,以及这个人在此期间可以做些什么有用的事。内部记录对这一点的要求比本页描述的更严:这种交还是否完整,现在是一项受监测的指标,而不是一种设计意图;更进一步的问题,即长期使用会不会让一个人离开系统就更难自己应对,被记录为一项尚不存在的度量,而不是一项已经达标的度量。这条准则会在即将推出的工作中进一步展开,指出这个弱点的人会在其中被注明贡献。

标签更正(2026 年 10 月 29 日)。本页原先标为情景推演,作品集的表格里却标为项目衍生。这份摘要是作为项目治理包的一部分来维护的,所以项目衍生才是准确的标签。摘要正文没有改动。

这说明了什么

这是内部治理记录面向公众的对应文件。在内部,同一个系统由这些文件记录:一份病人知情同意与安全论证,一份覆盖每个接触点的完整披露清单,以及一份范围与权限声明。这份摘要刻意做成唯一一份不需要技术背景、也不需要用过系统就能读的文件,因为只有用户才看得懂的透明,本身还算不上公共问责。