2026 年 7 月 27 日

兩用是另一種治理幾何:從面向病人的一側讀 DeepMind 的生物韌性舉措

Google DeepMind 發佈了它在生物韌性(bioresilience)上的做法(Responsibility and Safety,2026 年 7 月),講它想怎樣用 AI 加強全世界對生物威脅的防禦:更早發現新出現的病原體,更快研發疫苗和應對措施,更好地應對疫情暴發。同一份公告還做了一件我想肯定的事,因為這很少見:它直白地說,幫助防禦者的前沿能力,同樣可能降低濫用的門檻。這正是兩用的定義;把它和防禦計劃寫進同一份文件,是誠實的做法。

我在健康 AI 光譜的另一端工作,做的是面向病人的醫療 AI。所以讀到這則公告,我的第一反應是拿出慣用的工具箱:經過驗證的範圍、受治理的拒答、強制升級(轉交醫生處理)、審計軌跡。有用的教訓就藏在這個第一反應裏,因為這套工具並不能乾淨地遷移過去;看清它為甚麼遷移不過去,正是生物安全這個案例值得思考、而不只是值得擔憂的原因。

問責幾何翻轉了。 在面向病人的醫療 AI 裏,我的治理幾乎全是為了保護系統面前的那個人而建的。知情同意,是他們本人的同意。拒答,是系統不向他們作出沒有依據的主張。升級,是把他們的個案轉給臨床醫生。我設計時要防範的傷害落在用戶身上,而用戶在場、可識別,也正是我對之負有責任的人。

兩用的生物學能力,把這一切的每一部分都倒了過來。傷害不落在用戶身上。它落在第三方身上,落在一個人羣身上,落在那些從未接觸過這個系統、也無法替自己表示同意、拒絕或要求升級的人身上。更糟的是,在濫用的情形裏,「用戶」不是要保護的人,而是風險的來源。一個以保護用戶、告知用戶為核心動作的治理設計,面對用戶本身就是威脅模型、受害者卻不在場的情形,幾乎無話可說。

所以這裏的部署保障措施不能是臨床式的護欄。 在我的治理案例集裏,保障措施關乎披露、不確定性和升級給臨床醫生,全都朝向接收輸出的那個人。具備生物學能力的模型,必須從另一側來治理。拒答必須落在模型層,而不只在對話裏,因為風險在於模型會替錯誤的人做甚麼,而不在於它對正確的人說甚麼。准入變成一道關口,而不是預設開放;要緊的檢查放在發佈之前,而不是對着某項臨床任務做。連事件響應也不一樣:它預設的是蓄意濫用,而不是臨床差錯。同樣的詞,「拒答」「訪問控制」「監測」「事件響應」,指向的卻是另一方、另一種失效。

為甚麼我把它寫下來,而不只是引用它。 這篇筆記偷懶的寫法,是在我的興趣清單上加一條「兩用風險」。那恰恰弄反了,在這個領域工作的讀者會一眼看穿它是甚麼。誠實的寫法要窄一些:DeepMind 的這則公告給了我一個乾淨的案例,用來檢驗我面向病人的治理框架能不能推廣;答案是,只有當我說出它位於哪條軸上,它才能推廣。面向病人的醫療 AI 和生物韌性,都屬於高風險的健康 AI 治理。它們位於同一條軸的兩端:系統的力量指向誰,因而治理在保護誰。在面向個人的一端,起決定作用的保障措施是知情同意、拒答和升級。在面向人羣和第三方的一端,起決定作用的保障措施是准入、評估和濫用響應。部署就緒標準不是隻有一張清單;它們隨系統在這條軸上的位置而變。

我不會聲稱自己有還沒掙到的生物安全專長。我能準確說出的是這一點:我已經在做的這門功夫,即為一個具體系統決定它可以做甚麼、誰負責、部署之前甚麼必須成立,和這個生物韌性計劃在人羣尺度上描述的是同一門功夫,只是被保護的一方,從坐在椅子上的那個人,換成了永遠不會見到這個系統的人。把兩者對照着讀,是我防止自己的框架悄悄假定永遠只有一個人需要保護的辦法。

來源:Google DeepMind,「Our approach to bioresilience」,Responsibility and Safety,2026 年 7 月。Axios 於 2026 年 7 月 16 日報道。這篇筆記是治理層面的反思;除上述來源所述之外,不描述該計劃的內部機制。