情景推演治理案例
AI 病历书写助手在临床文书中的责任边界
上市后决策状态: 有条件批准
问题
一家医院引入了一款 AI 病历书写助手:它转写医患对话,生成诊疗记录、诊断摘要和随访计划。系统偶尔会漏掉否定表述,弄混药物剂量,或者把病人含糊的描述写成确定的诊断。问题不是好不好用,而是:这份记录一旦进入病历,谁对它的内容负责?
主要风险
- 临床准确性:错误的记录会传导到诊断、处方和转诊决策中。
- 问责:医生、医院和供应商之间的责任划分不清,出事后容易互相推诿。
- 知情同意与隐私:病人可能不知道自己的对话被录音、转写,或被用于改进模型。
- 自动化偏差:临床医生过度信任 AI 记录,跳过逐行核对。
- 法律记录:进入正式病历的错误,会成为医疗纠纷中的证据。
治理机制
- AI 病历书写助手只生成临床记录草稿;任何内容都不会自动进入正式病历。
- 记录生效前,主治医生必须审阅、修改并签核。
- 界面标注“AI 生成草稿”,并对高风险字段强制设置复核勾选框:用药、过敏史、诊断、随访计划。
- 使用前,病人会收到一份简明告知:录音、存储、用于改进模型,以及选择退出。
- 医院定期审计 AI 记录:错误类型与错误率、医生修改率、投诉、事件报告。
RACI
执行(R):主治医生(最终审阅与签核);IT 与供应商(系统日志与安全)。负责(A):临床科室主任/临床治理委员会。咨询(C):法务与合规、病案团队、一线临床医生、病人代表、数据保护官。知情(I):病人、各临床科室、医院管理层。
审计证据
病人知情同意记录、AI 草稿日志、医生修改历史、签核时间戳、高风险字段核对清单、抽样审计报告、事件报告、供应商绩效评估、数据保留记录。
启示
AI 病历书写助手治理的核心是文书权限:谁可以生成,谁必须审阅,草稿何时成为正式病历,错误如何更正,病人如何知情。AI 可以协助写病历,但不能替临床医生承担责任。