情景推演治理案例
AI 病歷書寫助手在臨床文書中的責任邊界
上市後決策狀態: 有條件批准
問題
一家醫院引入了一款 AI 病歷書寫助手:它轉寫醫患對話,生成診療記錄、診斷摘要和隨訪計劃。系統偶爾會漏掉否定表述,弄混藥物劑量,或者把病人含糊的描述寫成確定的診斷。問題不是好不好用,而是:這份記錄一旦進入病歷,誰對它的內容負責?
主要風險
- 臨床準確性:錯誤的記錄會傳導到診斷、處方和轉診決策中。
- 問責:醫生、醫院和供應商之間的責任劃分不清,出事後容易互相推諉。
- 知情同意與隱私:病人可能不知道自己的對話被錄音、轉寫,或被用於改進模型。
- 自動化偏差:臨床醫生過度信任 AI 記錄,跳過逐行核對。
- 法律記錄:進入正式病歷的錯誤,會成為醫療糾紛中的證據。
治理機制
- AI 病歷書寫助手只生成臨床記錄草稿;任何內容都不會自動進入正式病歷。
- 記錄生效前,主治醫生必須審閱、修改並籤核。
- 界面標註「AI 生成草稿」,並對高風險字段強制設置複核勾選框:用藥、過敏史、診斷、隨訪計劃。
- 使用前,病人會收到一份簡明告知:錄音、存儲、用於改進模型,以及選擇退出。
- 醫院定期審計 AI 記錄:錯誤類型與錯誤率、醫生修改率、投訴、事件報告。
RACI
執行(R):主治醫生(最終審閱與籤核);IT 與供應商(系統日誌與安全)。負責(A):臨床科室主任/臨床治理委員會。諮詢(C):法務與合規、病案團隊、一線臨床醫生、病人代表、數據保護官。知情(I):病人、各臨床科室、醫院管理層。
審計證據
病人知情同意記錄、AI 草稿日誌、醫生修改歷史、籤核時間戳、高風險字段核對清單、抽樣審計報告、事件報告、供應商績效評估、數據保留記錄。
啓示
AI 病歷書寫助手治理的核心是文書權限:誰可以生成,誰必須審閱,草稿何時成為正式病歷,錯誤如何更正,病人如何知情。AI 可以協助寫病歷,但不能替臨床醫生承擔責任。