Xiaoyan (Candice) Qian 的照片

Xiaoyan (Candice) Qian

高風險 AI 治理×AI 系統構建

讓上線後的 AI 能被外人核查、有人負責、能被叫停。從醫療開始。

Email Google Scholar LinkedIn ORCID

香港大學 AI 博士 · HKU-Avnet Joint AI Laboratory(港大與安富利的聯合 AI 實驗室)研發經理兼功能實驗室負責人

任何高風險的 AI 系統,真正起決定作用的問題都出現在模型跑通之後:誰來負責,受影響的人應當得到甚麼,誰有權推翻它。我在這些問題最尖銳的地方工作,也就是醫療 AI;在這裏,一個沒有治理的輸出會直接到達病人。我構建這樣的系統,也在它們到達病人之前構建它們需要的治理:一個人做通常要兩個人做的事。我構建的,是臨床、倫理和法務團隊共同治理時需要的連接組織,也就是多數項目投入不足的那層共用支架。具體來說,就是醫院、監管機構或法務團隊能據以行動的可執行治理框架、審計證據、問責結構和監管風險語言;我也把治理目標翻譯回團隊可以照着構建的需求。

當前重點:醫療數字孿生項目(Medical Digital Twin Initiative),AI 原型與治理框架

把一個面向病人的系統從研究原型推向負責任的部署,並先把部署之前必須到位的治理建好。它服務的是在兩次覆診之間自我管理 2 型糖尿病的人。

短片 Day Eleven 劇照:同一個病人問題,分別由通用 AI 助手和有治理的醫療數字孿生回答。

一部短片看懂醫療數字孿生

Day Eleven:一個知道自己回答邊界在哪裏的醫療數字孿生

一位病人,一個醫療 AI 應當拒絕回答的問題,分別在有治理和沒有治理時呈現。孿生是甚麼、為甚麼重要、為甚麼是現在。

我是誰

我是從構建者這一側走進治理的:在 HKU-Avnet Joint AI Laboratory,我構建一個面向病人的醫療數字孿生,同時治理它可以對外聲稱甚麼、出了問題由誰負責。我為它構建的證據,我稱之為 behavioural assurance(行為保證):證明系統是否守在聲明的邊界之內、是否正確地拒答和升級,以及事後能否重放。更多關於我的路徑 →

從這裏開始

一個面向病人的系統,從原型走到負責任的部署,要依次經過這些關口。

聯絡

Email:qianxy10@connect.hku.hk · xyqian@eee.hku.hk

主頁:Google Scholar · LinkedIn · ORCID

如果我們還沒見過,電郵是最容易的第一步。我在書面上想得最清楚;一旦對話有了具體可談的內容,我很樂意當面繼續。