2026 年 7 月 19 日
部署 AI 后结果变好了,这并不能证明是 AI 让结果变好的
这样的主张很常见:我们部署 AI 之后,诊断更快了,或者死亡率下降了,或者临床医生的效率更高了。这个主张甚至可能是真的。但“部署之后情况变好了”和“是它让情况变好了”不是一回事,这两句话之间的距离,正是治理必须驻守的地方。
系统上线时,很多事情会同时改变。工作流程常常被重新设计。临床医生越来越熟练。病人构成发生变化。注意力和资源都流向这个新项目。其中任何一项都可能改变结果,而前后对比没法告诉你到底是哪一项。
这一点很要紧,因为功劳记在谁头上,会左右后面的决策。如果一项改善不是 AI 带来的,功劳却记到了 AI 头上,它就会凭着错误的证据被推广、获得资金、受到信任,而真正起作用的因素却没人管。害处不只是结果被夸大,而是信任给错了对象。
所以,有治理意识的读者会把“部署后改善了”当作一个假设,而不是结论。问题不在于数字动没动,而在于推动它的是不是 AI,而不是同一时间出现的组织调整、学习曲线或人群变化。
接受一项因果主张之前,要问的问题:
- 在引入 AI 的同时,还有什么变了?
- 有没有一个能把 AI 的效果单独分离出来的对照,而不只是简单的前后对比?
- 这个因果故事成立的话,谁会受益?这一点有没有影响评估当初的设定方式?
能让一个系统被托付给病人的,是证据,不是叙事。“之后更好”是一个故事。“因此更好”是一项必须挣来的主张。