項目衍生 · 公開透明記錄 · 已脫敏
公開披露摘要(參照 ATRS,自願發佈)
一份用淺白語言寫給公眾的醫療數字孿生摘要,以公營部門的算法透明標準為準。它回答四個問題,任何公民、審查者或記者不必是用戶也能讀:它做甚麼,不做甚麼,誰負責,怎樣提出關切。
為甚麼要有這份摘要
多數 AI 透明材料,要麼是寫給已經在用這個系統的人看的,要麼放在只有機構自己看得到的內部清單裏。公營部門的透明標準,例如英國的算法透明記錄標準(Algorithmic Transparency Recording Standard),提出了一個更難的問題:一個受這個系統影響、卻不使用它的人,可能是普通公眾、審查者或記者,能不能看懂它是甚麼,以及怎樣對它提出質疑?
我構建的醫療數字孿生是一個部署前的研究原型,所以法律上並不要求它發佈這樣的記錄。我自願發佈這一份,並以那個公營部門標準來要求它。這樣做,一是因為治理紀律值得在部署讓它變成義務之前就建立起來;二是因為能不能用淺白的話向不使用系統的人講清楚一個系統,本身就是對它治理得好不好的檢驗。
摘要
1. 它做甚麼。它是一個輔助工具:監測健康信號,用淺白的話解釋這些信號可能意味着甚麼,明確說出哪些地方仍不確定,並提示一個人甚麼時候應當就醫。
2. 它不做甚麼。它不做診斷。它不取代醫生或護士。它不決定、也不更改治療。它不是急救服務。資訊缺失,或者問題超出它能安全處理的範圍時,它不會給出聽起來很有把握的回答。它也不會就此停下:它會說明自己無法確定甚麼、需要甚麼才能確定,以及這個人在此期間可以做些甚麼有用的事。拒答對任何系統都很容易;讓人手裏沒有任何可以據此行動的東西,才會把人推向不那麼安全的地方。
3. 誰負責。問責落在明確指定的角色上,而不是軟件上:一位 AI 治理負責人對系統被允許怎樣行事負責;一位臨床安全負責人對病人安全負責;項目發起人在機構層面負責。這些責任沒有任何一部分轉移給系統或病人。
4. 怎樣提出關切。如果某個輸出看起來不對,或者系統有甚麼地方令人擔憂,有一條明確的途徑可以找到一位負責的人:不只是應用裏的一個按鈕,而是一個有人值守的渠道,有具名的負責人,也有回應承諾。用這種方式提出的關切,會被當作潛在的安全信號對待,而不是滿意度投訴。
改了甚麼,為甚麼改
一份永遠只展示當前狀態的透明記錄是薄弱的。它無法核查,還會悄悄掩蓋早先版本說過不一樣的話。這一節永久保留;以後每次修訂都在這裏追加,而不是替換。
v0.2(2026 年 8 月 22 日)。0.1 版說,資訊缺失或問題超出系統能安全處理的範圍時,它會「直接說明這一點,而不是給出聽起來很有把握的回答」(says so plainly rather than giving a confident-sounding answer)。這個措辭受到了質疑,而且沒有經受住質疑。拒答是任何會停下來的系統都具備的屬性:一個結束對話的系統,和一個會交還一些東西的系統,都滿足這一點;可對提問的人來說,它們根本不是同一個系統。把停下來說成安全功能,卻不說明這個人最後手裏還剩甚麼,就是誇大了它。
因此,0.2 版寫明瞭一次拒答必須交還甚麼:甚麼無法確定,需要甚麼才能確定,以及這個人在此期間可以做些甚麼有用的事。內部記錄對這一點的要求比本頁描述的更嚴:這種交還是否完整,現在是一項受監測的指標,而不是一種設計意圖;更進一步的問題,即長期使用會不會讓一個人離開系統就更難自己應對,被記錄為一項尚不存在的度量,而不是一項已經達標的度量。這條準則會在即將推出的工作中進一步展開,指出這個弱點的人會在其中被註明貢獻。
標籤更正(2026 年 10 月 29 日)。本頁原先標為情景推演,作品集的表格裏卻標為項目衍生。這份摘要是作為項目治理包的一部分來維護的,所以項目衍生才是準確的標籤。摘要正文沒有改動。
這說明了甚麼
這是內部治理記錄面向公眾的對應文件。在內部,同一個系統由這些文件記錄:一份病人知情同意與安全論證,一份覆蓋每個接觸點的完整披露清單,以及一份範圍與權限聲明。這份摘要刻意做成唯一一份不需要技術背景、也不需要用過系統就能讀的文件,因為只有用戶才看得懂的透明,本身還算不上公共問責。