Xiaoyan (Candice) Qian
高風險 AI 治理×AI 系統構建
讓上線後的 AI 能被外人核查、有人負責、能被叫停。從醫療開始。
Email Google Scholar LinkedIn ORCID
香港大學 AI 博士 · HKU-Avnet Joint AI Laboratory(港大與安富利的聯合 AI 實驗室)研發經理兼功能實驗室負責人
任何高風險的 AI 系統,真正起決定作用的問題都出現在模型跑通之後:誰來負責,受影響的人應當得到甚麼,誰有權推翻它。我在這些問題最尖銳的地方工作,也就是醫療 AI;在這裏,一個沒有治理的輸出會直接到達病人。我構建這樣的系統,也在它們到達病人之前構建它們需要的治理:一個人做通常要兩個人做的事。我構建的,是臨床、倫理和法務團隊共同治理時需要的連接組織,也就是多數項目投入不足的那層共用支架。具體來說,就是醫院、監管機構或法務團隊能據以行動的可執行治理框架、審計證據、問責結構和監管風險語言;我也把治理目標翻譯回團隊可以照着構建的需求。
當前重點:醫療數字孿生項目(Medical Digital Twin Initiative),AI 原型與治理框架
把一個面向病人的系統從研究原型推向負責任的部署,並先把部署之前必須到位的治理建好。它服務的是在兩次覆診之間自我管理 2 型糖尿病的人。
一部短片看懂醫療數字孿生
Day Eleven:一個知道自己回答邊界在哪裏的醫療數字孿生
一位病人,一個醫療 AI 應當拒絕回答的問題,分別在有治理和沒有治理時呈現。孿生是甚麼、為甚麼重要、為甚麼是現在。
我是誰
我是從構建者這一側走進治理的:在 HKU-Avnet Joint AI Laboratory,我構建一個面向病人的醫療數字孿生,同時治理它可以對外聲稱甚麼、出了問題由誰負責。我為它構建的證據,我稱之為 behavioural assurance(行為保證):證明系統是否守在聲明的邊界之內、是否正確地拒答和升級,以及事後能否重放。更多關於我的路徑 →
從這裏開始
一個面向病人的系統,從原型走到負責任的部署,要依次經過這些關口。
-
項目衍生
醫療數字孿生:構建與治理
同一個系統上的兩層工作。我構建面向病人的醫療數字孿生,包括它的 3D 可視化流程;也把它轉化為可治理的系統:預期用途、決策權、風險歸屬、部署就緒。已脫敏。
查看項目 → -
情景推演
醫療 AI 治理案例集
覆蓋 AI 醫療器械軟件(AI-SaMD)全生命週期的結構化治理案例:模型漂移、變更控制、AI 病歷書寫助手、大型語言模型分診、面向病人的聊天機器人、智能體的決策權、人工推翻。每個案例都分析風險、RACI、審計證據,並寫明決策狀態。
閱讀案例 → -
研究
面向病人的可問責解讀
當醫療 AI 對病人談論他自己的身體時,甚麼讓這個聲音可以被問責?以我在 AAAI 和 IJCV 的第一作者工作為基礎,我的研究用三樣東西回答這個問題:五層問責圖、0 到 4 級的成熟度框架,以及一種被命名的知情同意傷害:未加標記的跨域(unmarked domain-crossing)。
閱讀更多 →
聯絡
Email:qianxy10@connect.hku.hk · xyqian@eee.hku.hk
主頁:Google Scholar · LinkedIn · ORCID
如果我們還沒見過,電郵是最容易的第一步。我在書面上想得最清楚;一旦對話有了具體可談的內容,我很樂意當面繼續。