2026 年 7 月 19 日

部署 AI 后结果变好了,这并不能证明是 AI 让结果变好的

这样的主张很常见:我们部署 AI 之后,诊断更快了,或者死亡率下降了,或者临床医生的效率更高了。这个主张甚至可能是真的。但“部署之后情况变好了”和“是它让情况变好了”不是一回事,这两句话之间的距离,正是治理必须驻守的地方。

系统上线时,很多事情会同时改变。工作流程常常被重新设计。临床医生越来越熟练。病人构成发生变化。注意力和资源都流向这个新项目。其中任何一项都可能改变结果,而前后对比没法告诉你到底是哪一项。

这一点很要紧,因为功劳记在谁头上,会左右后面的决策。如果一项改善不是 AI 带来的,功劳却记到了 AI 头上,它就会凭着错误的证据被推广、获得资金、受到信任,而真正起作用的因素却没人管。害处不只是结果被夸大,而是信任给错了对象。

所以,有治理意识的读者会把“部署后改善了”当作一个假设,而不是结论。问题不在于数字动没动,而在于推动它的是不是 AI,而不是同一时间出现的组织调整、学习曲线或人群变化。

接受一项因果主张之前,要问的问题:

能让一个系统被托付给病人的,是证据,不是叙事。“之后更好”是一个故事。“因此更好”是一项必须挣来的主张。