2026 年 7 月 27 日
两用是另一种治理几何:从面向病人的一侧读 DeepMind 的生物韧性举措
Google DeepMind 发布了它在生物韧性(bioresilience)上的做法(Responsibility and Safety,2026 年 7 月),讲它想怎样用 AI 加强全世界对生物威胁的防御:更早发现新出现的病原体,更快研发疫苗和应对措施,更好地应对疫情暴发。同一份公告还做了一件我想肯定的事,因为这很少见:它直白地说,帮助防御者的前沿能力,同样可能降低滥用的门槛。这正是两用的定义;把它和防御计划写进同一份文件,是诚实的做法。
我在健康 AI 光谱的另一端工作,做的是面向病人的医疗 AI。所以读到这则公告,我的第一反应是拿出惯用的工具箱:经过验证的范围、受治理的拒答、强制升级(转交医生处理)、审计轨迹。有用的教训就藏在这个第一反应里,因为这套工具并不能干净地迁移过去;看清它为什么迁移不过去,正是生物安全这个案例值得思考、而不只是值得担忧的原因。
问责几何翻转了。 在面向病人的医疗 AI 里,我的治理几乎全是为了保护系统面前的那个人而建的。知情同意,是他们本人的同意。拒答,是系统不向他们作出没有依据的主张。升级,是把他们的个案转给临床医生。我设计时要防范的伤害落在用户身上,而用户在场、可识别,也正是我对之负有责任的人。
两用的生物学能力,把这一切的每一部分都倒了过来。伤害不落在用户身上。它落在第三方身上,落在一个人群身上,落在那些从未接触过这个系统、也无法替自己表示同意、拒绝或要求升级的人身上。更糟的是,在滥用的情形里,“用户”不是要保护的人,而是风险的来源。一个以保护用户、告知用户为核心动作的治理设计,面对用户本身就是威胁模型、受害者却不在场的情形,几乎无话可说。
所以这里的部署保障措施不能是临床式的护栏。 在我的治理案例集里,保障措施关乎披露、不确定性和升级给临床医生,全都朝向接收输出的那个人。具备生物学能力的模型,必须从另一侧来治理。拒答必须落在模型层,而不只在对话里,因为风险在于模型会替错误的人做什么,而不在于它对正确的人说什么。准入变成一道关口,而不是默认开放;要紧的检查放在发布之前,而不是对着某项临床任务做。连事件响应也不一样:它预设的是蓄意滥用,而不是临床差错。同样的词,“拒答”“访问控制”“监测”“事件响应”,指向的却是另一方、另一种失效。
为什么我把它写下来,而不只是引用它。 这篇笔记偷懒的写法,是在我的兴趣清单上加一条“两用风险”。那恰恰弄反了,在这个领域工作的读者会一眼看穿它是什么。诚实的写法要窄一些:DeepMind 的这则公告给了我一个干净的案例,用来检验我面向病人的治理框架能不能推广;答案是,只有当我说出它位于哪条轴上,它才能推广。面向病人的医疗 AI 和生物韧性,都属于高风险的健康 AI 治理。它们位于同一条轴的两端:系统的力量指向谁,因而治理在保护谁。在面向个人的一端,起决定作用的保障措施是知情同意、拒答和升级。在面向人群和第三方的一端,起决定作用的保障措施是准入、评估和滥用响应。部署就绪标准不是只有一张清单;它们随系统在这条轴上的位置而变。
我不会声称自己有还没挣到的生物安全专长。我能准确说出的是这一点:我已经在做的这门功夫,即为一个具体系统决定它可以做什么、谁负责、部署之前什么必须成立,和这个生物韧性计划在人群尺度上描述的是同一门功夫,只是被保护的一方,从坐在椅子上的那个人,换成了永远不会见到这个系统的人。把两者对照着读,是我防止自己的框架悄悄假定永远只有一个人需要保护的办法。
来源:Google DeepMind,“Our approach to bioresilience”,Responsibility and Safety,2026 年 7 月。Axios 于 2026 年 7 月 16 日报道。这篇笔记是治理层面的反思;除上述来源所述之外,不描述该计划的内部机制。