Xiaoyan (Candice) Qian 的照片

Xiaoyan (Candice) Qian

高风险 AI 治理×AI 系统构建

让上线后的 AI 能被外人核查、有人负责、能被叫停。从医疗开始。

Email Google Scholar LinkedIn ORCID

香港大学 AI 博士 · HKU-Avnet Joint AI Laboratory(港大与安富利的联合 AI 实验室)研发经理兼功能实验室负责人

任何高风险的 AI 系统,真正起决定作用的问题都出现在模型跑通之后:谁来负责,受影响的人应当得到什么,谁有权推翻它。我在这些问题最尖锐的地方工作,也就是医疗 AI;在这里,一个没有治理的输出会直接到达病人。我构建这样的系统,也在它们到达病人之前构建它们需要的治理:一个人做通常要两个人做的事。我构建的,是临床、伦理和法务团队共同治理时需要的连接组织,也就是多数项目投入不足的那层共用支架。具体来说,就是医院、监管机构或法务团队能据以行动的可执行治理框架、审计证据、问责结构和监管风险语言;我也把治理目标翻译回团队可以照着构建的需求。

当前重点:医疗数字孪生项目(Medical Digital Twin Initiative),AI 原型与治理框架

把一个面向病人的系统从研究原型推向负责任的部署,并先把部署之前必须到位的治理建好。它服务的是在两次复诊之间自我管理 2 型糖尿病的人。

短片 Day Eleven 剧照:同一个病人问题,分别由通用 AI 助手和有治理的医疗数字孪生回答。

一部短片看懂医疗数字孪生

Day Eleven:一个知道自己回答边界在哪里的医疗数字孪生

一位病人,一个医疗 AI 应当拒绝回答的问题,分别在有治理和没有治理时呈现。孪生是什么、为什么重要、为什么是现在。

我是谁

我是从构建者这一侧走进治理的:在 HKU-Avnet Joint AI Laboratory,我构建一个面向病人的医疗数字孪生,同时治理它可以对外声称什么、出了问题由谁负责。我为它构建的证据,我称之为 behavioural assurance(行为保证):证明系统是否守在声明的边界之内、是否正确地拒答和升级,以及事后能否重放。更多关于我的路径 →

从这里开始

一个面向病人的系统,从原型走到负责任的部署,要依次经过这些关口。

联系

Email:qianxy10@connect.hku.hk · xyqian@eee.hku.hk

主页:Google Scholar · LinkedIn · ORCID

如果我们还没见过,邮件是最容易的第一步。我在书面上想得最清楚;一旦对话有了具体可谈的内容,我很乐意当面继续。