Xiaoyan (Candice) Qian
高风险 AI 治理×AI 系统构建
让上线后的 AI 能被外人核查、有人负责、能被叫停。从医疗开始。
Email Google Scholar LinkedIn ORCID
香港大学 AI 博士 · HKU-Avnet Joint AI Laboratory(港大与安富利的联合 AI 实验室)研发经理兼功能实验室负责人
任何高风险的 AI 系统,真正起决定作用的问题都出现在模型跑通之后:谁来负责,受影响的人应当得到什么,谁有权推翻它。我在这些问题最尖锐的地方工作,也就是医疗 AI;在这里,一个没有治理的输出会直接到达病人。我构建这样的系统,也在它们到达病人之前构建它们需要的治理:一个人做通常要两个人做的事。我构建的,是临床、伦理和法务团队共同治理时需要的连接组织,也就是多数项目投入不足的那层共用支架。具体来说,就是医院、监管机构或法务团队能据以行动的可执行治理框架、审计证据、问责结构和监管风险语言;我也把治理目标翻译回团队可以照着构建的需求。
当前重点:医疗数字孪生项目(Medical Digital Twin Initiative),AI 原型与治理框架
把一个面向病人的系统从研究原型推向负责任的部署,并先把部署之前必须到位的治理建好。它服务的是在两次复诊之间自我管理 2 型糖尿病的人。
一部短片看懂医疗数字孪生
Day Eleven:一个知道自己回答边界在哪里的医疗数字孪生
一位病人,一个医疗 AI 应当拒绝回答的问题,分别在有治理和没有治理时呈现。孪生是什么、为什么重要、为什么是现在。
我是谁
我是从构建者这一侧走进治理的:在 HKU-Avnet Joint AI Laboratory,我构建一个面向病人的医疗数字孪生,同时治理它可以对外声称什么、出了问题由谁负责。我为它构建的证据,我称之为 behavioural assurance(行为保证):证明系统是否守在声明的边界之内、是否正确地拒答和升级,以及事后能否重放。更多关于我的路径 →
从这里开始
一个面向病人的系统,从原型走到负责任的部署,要依次经过这些关口。
-
项目衍生
医疗数字孪生:构建与治理
同一个系统上的两层工作。我构建面向病人的医疗数字孪生,包括它的 3D 可视化流程;也把它转化为可治理的系统:预期用途、决策权、风险归属、部署就绪。已脱敏。
查看项目 → -
情景推演
医疗 AI 治理案例集
覆盖 AI 医疗器械软件(AI-SaMD)全生命周期的结构化治理案例:模型漂移、变更控制、AI 病历书写助手、大语言模型分诊、面向病人的聊天机器人、智能体的决策权、人工推翻。每个案例都分析风险、RACI、审计证据,并写明决策状态。
阅读案例 → -
研究
面向病人的可问责解读
当医疗 AI 对病人谈论他自己的身体时,什么让这个声音可以被问责?以我在 AAAI 和 IJCV 的第一作者工作为基础,我的研究用三样东西回答这个问题:五层问责图、0 到 4 级的成熟度框架,以及一种被命名的知情同意伤害:未加标记的跨域(unmarked domain-crossing)。
阅读更多 →
联系
Email:qianxy10@connect.hku.hk · xyqian@eee.hku.hk
主页:Google Scholar · LinkedIn · ORCID
如果我们还没见过,邮件是最容易的第一步。我在书面上想得最清楚;一旦对话有了具体可谈的内容,我很乐意当面继续。