项目衍生 · 部署前 · 已脱敏
模型与基础设施依赖登记册(项目衍生,已脱敏)
这份登记册列出一个面向病人的系统所依赖的外部模型、云服务和硬件,每一项都有负责人、回退方案和复审触发条件。它治理的是多数风险登记册都会漏掉的一种失效模式:不是模型出错,而是模型变得不可用。
这份文档的用途
多数医疗 AI 风险工作都围绕临床失效展开:假阴性、亚组表现、准确率漂移。这份登记册覆盖的是另一种失效机制,它可能经由一条完全不同的路径,造成同样的病人伤害:系统所依赖的某个模型、云区域或芯片供应,因为项目控制不了的原因变得不可用、受到限制或被撤回,例如供应商服务中断、出口管制措施、许可变更、价格变动或版本弃用。
设计要点与风险登记册相同:任何依赖都不能没有负责人、回退方案和复审触发条件。一个依赖如果只体现为一个能用的凭证,没有负责人,也没有回退方案,它就是一个无人管理的风险,而不是一个实现细节。
我在 HKU-Avnet Joint AI Laboratory(港大与安富利的联合 AI 实验室)构建一个面向病人的医疗数字孪生,这份文档取自它的治理包(v0.2)。它已脱敏:不含任何供应商名称、合同条款或保密的架构细节。依赖按功能和类别描述;登记册里的各行是一个示意性的部署前示例,用来演练这套结构,不是一份实际运行中的生产清单。
我为什么建这份登记册(构建者视角)
在构建孪生的 3D 生成组件和面向病人的解释组件时,我一再面对一个具体的选择:用一个更强、但我控制不了的第三方托管模型,还是用一个较弱、但我能在我们自己的环境里运行和掌握的组件。赶截止日期时,天平总是倒向托管模型,因为它能让今天的演示效果更好。
演示里看不到的那个问题,正是这份登记册要记下的问题:如果那个托管模型改了条款、涨了价、弃用了我验证时所用的版本,或者因为政策原因不再可用,面向病人的那项功能究竟会怎样,谁又为这个结果负责?我图方便选的依赖,要有了负责人和回退方案,才成为一个受治理的决策,而不只是一个今天恰好能用的 API 密钥。这是构建者版本的治理:我点出构建时自己想走的捷径,把它们变成有人可以审查的决策。
固定元数据
| 字段 | 值 |
|---|---|
| 项目阶段 | 孵化 / 部署前 |
| 范围 | 面向病人的路径上的外部模型、云服务和硬件 |
| 来源 | 医疗数字孪生治理包中的内部依赖就绪登记册 |
| 最近更新 | 2026 年 8 月 23 日 |
| 已知局限 | 部署前示例:负责人和回退方案都是角色层面的占位,用来演练这套结构;任何对外试点之前,都要落实到具名的个人 |
依赖登记册
| 依赖(功能) | 层级 | 不可用时什么会中断 | 是否单点故障? | 负责人 | 回退 / 降级模式 | 复审触发条件 |
|---|---|---|---|---|---|---|
| 用于起草面向病人解释文字的第三方托管模型 | 模型 / 推理 | 无法生成解释草稿;面向病人的文本功能停止 | 是,如果没有第二家服务商 | 治理负责人 + 工程负责人 | 切换到较小的自托管模型,以缩小范围的模式运行;宁可封停功能,也不在失效时放行 | 供应商的条款、价格或版本变更;出口管制或访问政策变更 |
| 第三方 3D 生成模型或服务 | 模型 / 渲染 | 3D 可视化流程无法生成新素材 | 是 | 工程负责人 | 回退到预先生成或缓存的素材;停用实时生成 | 供应商弃用;许可变更;成本超过阈值 |
| 承载推理和存储的云区域 | 云基础设施 | 该区域的推理和数据访问中断 | 取决于多区域配置 | IT 安全团队 + 工程负责人 | 有书面记录的故障转移区域,或安全关停面向病人的功能 | 服务商出现服务中断;司法管辖或数据驻留要求变化 |
| 本地部署回退组件所需的加速器(GPU)供应 | 硬件 | 自托管的回退模型无法按所需容量运行 | 是,短缺期间 | IT 安全团队 | 预留容量;低吞吐降级模式;非紧急任务排队 | 加速器出口管制;供应短缺;采购延误 |
| 为验证而锁定的基础模型版本 | 模型 / 版本管理 | 如果该版本被弃用,已验证的行为会悄悄改变 | 是 | 临床安全负责人 | 锁定版本;为后继版本备好再验证计划 | 供应商弃用通知;被迫的版本迁移 |
谁来打补丁,支持多久
上面的登记册记录一个依赖有没有负责人和回退方案。有两个问题它没有回答,而这两个问题决定一个组件到底能不能留在面向病人的路径上:谁来打安全补丁,以及供应商会继续支持它多久。两者都是在采购时确定的事实,而且都会过期。“未打补丁或已停止支持”在治理包的其他地方是一个退役触发条件,所以停止支持的日期必须先在某处记下来,这个触发条件才有可能触发。
| 依赖 | 补丁负责人(谁来实施修复) | 支持承诺 / 停止支持 | 已持有的安全保证(类型、日期、到期日) | 失效时的处置 |
|---|---|---|---|---|
| 用于面向病人起草的托管模型 | 供应商(托管服务);医院无法自行打补丁 | 按合同期限;确认续约安排和弃用通知期 | 供应商证明,日期和到期日待确定 | 暂停面向病人的文本功能;切换到自托管的回退模型 |
| 托管的 3D 生成服务 | 供应商(托管服务) | 按合同期限 | 待确定 | 停用实时生成;使用缓存素材 |
| 云区域 | 共同承担:服务商给平台打补丁,内部 IT 给配置打补丁 | 服务商的生命周期政策;区域弃用通知 | 服务商认证,范围和到期日待确定 | 故障转移区域,或安全关停面向病人的功能 |
| 本地部署的加速器 | 内部 IT | 硬件和固件供应商的支持期 | 固件支持声明,待确定 | 低吞吐降级模式;在支持结束前规划更换 |
| 锁定的基础模型版本 | 供应商决定版本生命周期;临床安全负责人负责再验证 | 供应商对该锁定版本的弃用日期 | 验证只对特定版本有效,随锁定版本一同失效 | 不自动迁移;让后继版本停在再验证关口 |
由此得出两条规则。其一,已经停止支持的组件,不能在讨论替代方案期间继续留在面向病人的路径上。其二,补丁负责人一栏写的若是“供应商”,只有在合同要求对方在明确时限内行动时才有意义;否则,真正的补丁负责人并不存在。
难以替代要素排查
上面的登记册从软件和算力出发。但能力往往不是被最显眼的组件卡住,而是被一个低调、难以替代、单一来源的要素卡住。氦是标准的例子:它平平无奇,直到你注意到 MRI 的超导磁体离不开它,它的生产在地理上很集中,而且没有容易找到的替代品;于是,远方的一次供应冲击,可能让远在下游的影像检查能力闲置。
这项排查在五个类别上问同一个问题,而不是只在一个类别上问:哪一种设备、云、传感器、专家或数据来源难以替代?检验标准不是“它重不重要”,而是“如果它消失了,我们能不能替代它,要多快”。一个依赖如果来源集中,也就是只有一个地区、一个供应商或一个人,并且没有现成的替代品,它就是高风险的。
| 类别 | 在这个生态里的例子 | 为什么难以替代 | 集中度 / 可替代性风险 |
|---|---|---|---|
| 实物耗材 | 影像设备用的低温制冷剂;专用检测试剂 | 没有功能上的替代品;生产在地理上集中 | 高:单一地区来源,没有替代品 |
| 传感器或可穿戴设备供应 | 系统验证时所用的那款具体设备 | 数据流程和验证都与该设备的信号特性绑在一起 | 中到高:单一供应商;有停产风险 |
| 云或区域 | 推理和存储都在一个区域 | 数据驻留和延迟方面的限制,使迁移并不容易 | 中:服务商和区域锁定 |
| 专家(一个人) | 关键的临床标注员、安全审查员或模型负责人 | 隐性知识;验证和签核都依赖这个人 | 高:一个恰好是人的单点故障 |
| 数据来源或登记库 | 受单一协议约束的独特外部数据集 | 没有同等的数据集;访问权不可转移 | 高:唯一来源 |
关键在于五类都要覆盖到。一个系统可以在软件层面治理得无懈可击,却仍然只差一个停产的传感器、一位离职的专家或一次供应冲击,就会失去一项面向病人的功能。
每个回退方案都在转移风险,而不是删除风险
多数依赖登记册就在这里止步。回退方案很少能彻底消除一个风险。更常见的是,它把风险转移到一个新的地方,而这个新地方又需要自己的控制措施。供应商出问题时,把面向病人的功能切换到自托管模型,消除了供应商服务中断的风险敞口,却把风险转移到自托管的容量和输出质量上。缓存已生成的素材,消除了对实时生成的依赖,却把风险转移到素材过时上。
| 原有风险 | 降低手段 | 由此产生的新依赖 | 这个新依赖需要的新控制 |
|---|---|---|---|
| 托管模型服务中断或条款变更 | 故障转移到较小的自托管模型 | 自托管的容量,以及较低的输出质量 | 预留容量;缩小范围运行时,输出到达病人之前先经复核 |
| 3D 服务被弃用 | 缓存或预先生成的素材 | 素材过时;不再有新的生成 | 为缓存素材设新鲜度和过期触发条件;提示实时生成已关闭 |
| 云区域服务中断 | 故障转移区域或安全关停 | 第二个区域的数据驻留和延迟特征 | 切换之前,核查故障转移区域的数据驻留情况 |
| 基础模型版本被弃用 | 锁定已验证的版本 | 运行一个冻结、最终会失去支持的版本 | 为后继版本备好的再验证计划 |
一项缓解措施要算完成,不只是它消除的风险,连它转移的风险也必须有具名负责人和控制措施。“我们有回退方案”这句话,要等回退方案自身的失效模式也列进这张表,才成为真正的治理。同样的教训也出现在金融领域:用原子结算消除结算错配,会把风险转移到智能合约的逻辑上,而这套逻辑又需要它自己的审查和它自己的紧急叫停控制。
设计原则
图方便选定的依赖,不会自动成为受治理的决策。只有当项目能针对每一项外部模型、云服务或硬件回答下面这些问题时,它才成为受治理的决策:它不可用时,哪项面向病人的功能会中断;它是不是单点故障;谁负责应对,要写到具体的人,而不是默认交给 IT;有没有书面记录的回退方案、降级模式或安全关停路径,以及该功能失效时应当放行还是关闭;还有什么事件会触发再次复审,包括供应商、许可、定价、弃用和出口管制方面的变化,而不只是一个固定的日历日期。
任何面向病人的功能被当作可部署之前,它用到的每一项外部依赖都必须列在这份登记册里,并且有负责人、回退方案和复审触发条件。
改了什么,为什么改
这一节永久保留;每次修订都在这里追加,而不是替换原有内容,好让这个页面可以被核查,而不只是被阅读。
v0.2(2026 年 8 月 23 日)。0.1 版发布了这份登记册及其设计原则,到此为止。此后内部补了三项内容,而这里一直没有;每一项都堵住了一个漏洞:原版可以在纸面上达标,真实的风险敞口却原封不动。谁来打补丁,支持多久:因为一个依赖可以有负责人、有回退方案,却仍在运行没打补丁的软件,而合同上没有任何人有义务修复它。难以替代要素排查:因为一份从软件开始、到软件结束的登记册,会漏掉传感器、数据集和人。还有每个回退方案都在转移风险:因为原版容易招来这整个领域里最舒服的那种错误,在某一栏里写上回退方案,就当风险已经关闭。
相关笔记:AI 治理也是基础设施治理,用 2026 年一次真实的出口管制事件,把同一个思路展开论证了一遍。
引用信息
| 字段 | 值 |
|---|---|
| 标题 | Model and Infrastructure Dependency Register (project-derived, sanitized) |
| 作者 | Xiaoyan Qian |
| 公开页面版本 | v0.2 |
| 发布日期 | 2026-08-03 |
| 固定网址 | https://xiaoyanqian.com/artifacts/dependency-register/ |
| 许可 | 保留所有权利 |
| 建议引用格式 | Qian, X. (2026). Model and Infrastructure Dependency Register (project-derived, sanitized) (v0.2). https://xiaoyanqian.com/artifacts/dependency-register/ |