[投稿]基于人工智能和物联网的医疗设备在法律和伦理方面的挑战

撰稿人和《医药报》策划了一系列与医疗器械相关的系列文章。在这篇文章中，我们将研究基于人工智能和物联网的医疗设备的道德和监管挑战。

1、医疗器械新范式

以ChatGPT为代表的AI热潮正在全社会蔓延的同时，人工智能（AI）和物联网（IoT）技术也正在快速引入医疗领域。看到学习图像数据的AI软件提早发现癌症、心血管疾病等重大疾病，并通过物联网可穿戴设备24小时监测患者的心电图、血糖和睡眠模式，已经不再陌生。

然而，这些创新变革也伴随着法律和道德挑战。 “如果人工智能诊断错误，谁该负责？”、“通过物联网设备收集的患者数据有多安全？”诸如此类的问题现在已经成为一个无法回避的现实。

2、AI/IoT医疗器械特点——现有监管体系下难以监管的产品

AI算法的学习能力：一旦现有的医疗器械获得批准，其结构和性能就被固定。然而，人工智能/物联网设备具有根本不同的特征。换句话说，AI算法的性能随着学习数据的增加而更新，有时预测方法本身也会发生变化。

频繁更新：通过上述学习，进行软件补丁、数据集更换、云端更新，AI医疗设备也随之频繁变化。现有医疗器械审批后审批要求变化不大，现行医疗器械法就是为了适应这些特点而制定的。然而，人工智能医疗器械由于更新频繁，在现有审批制度下可能难以监管。

物联网连接的两个方面：通过持续的网络连接，可以实现远程监控和云端联动，带来的便利性相当大，但安全风险也随之增加。

现有医疗法下存在难以规范的领域——医疗器械法律体系：对于现有医疗器械，医生是最终诊断的主体，因此医生负有最终责任。然而，如果人工智能软件根据学习数据自行做出决定，医疗设备甚至可以进行诊断，最终的法律责任谁承担就不清楚了。

这些特点导致人工智能/物联网医疗设备难以监管，从而引发各种法律和伦理问题。

3. 道德挑战——患者权利和责任问题

A. 决策过程缺乏透明度

人工智能的决策过程接近“黑匣子”。事实上，尽管研究仍在进行中，但据说人类很难解释 ChatGPT 的思维过程。这意味着我们很难完全理解人工智能是如何思考的。

患者和医务人员接受人工智能的诊断，但很难知道结果是如何得出的。这可能会导致患者的自决权受到侵犯或法律责任的归属变得不明确。

B、责任不明确

以下实体涉及使用人工智能医疗设备进行诊断活动，但它们之间的责任分配仍不清楚。

• 医务人员：做出最终诊断和治疗决定的医生
• 制造商：设计算法的医疗器械公司
• 医院：引进该设备并将其用于患者的机构

全部。隐私和安全风险

通过物联网设备实时传输数据在这个过程中，黑客攻击的风险不可避免地随之而来。如果患者的心电图、血糖记录等敏感健康信息泄露，患者的精神权利可能会受到严重侵犯。

此外，患者的健康信息被用来学习AI诊断软件，但撰稿人了解到，在没有适当同意使用个人信息的情况下，“AI学习”的情况仍然存在很多。虽然目前还没有成为问题，但是这方面也可能会出现个人信息侵权的问题。

4. 监管挑战
以韩国为例，软件医疗器械（SaMD）通过《医疗器械法》和最近颁布的《数字医疗产品法》进行监管，并利用监管沙箱系统临时允许和验证新技术。但上述人工智能算法的“持续学习”、责任、个人信息保护等问题缺乏具体规定。

美国（FDA）在其网站上披露了 AI/ML SaMD 相关指南。欧盟监管的主要特点是双重监管方式。欧洲药品管理局 (EMA) 根据医疗器械法规 (MDR) 和人工智能法案 (AIA) 管理基于人工智能的医疗器械。

MDR 规定了医疗器械（包括基于人工智能的医疗器械）的设计、开发、临床评估和上市后监督的要求，而 AIA 则规定了基于风险的分类、透明度和人工监督要求。

医疗AI公司在进入美国和欧洲市场时必须满足严格的标准才能进入市场，因此他们需要为此做好准备。此外，国内法规仍在制定中，因此似乎有必要为日趋严格的法规提前做好准备。

5. 结论

基于人工智能/物联网的医疗设备已经正在彻底改变患者的生活，而且这一趋势肯定会进一步加速。但问题是，科技发展的速度与法律、伦理体系的发展速度还存在较大差距。

尤其是，没有人能够清楚地解释如何处理上述道德和法律问题。

只有在患者安全和权利得到保障的情况下，医疗器械创新才是可持续的，因此迫切需要进行道德和监管讨论以确保这一点。因此，笔者认为，需要一个监管机构、行业、医疗专业人士、法律界共同参与的讨论论坛。

与此同时，很明显，政府对基于人工智能/物联网的医疗设备的监管将会加强，这是大势所趋。有些法规可能需要相当大的技术难度，相信相关行业需要为此做好积极准备。

撰稿人：李一亨律师 (ilhyunglee@naver.com)
通过律师/药剂师/专利律师/美国公共会计师（缅因州）考试
（前）Celltrion国内法律团队律师
(现任)律师事务所(有限公司) 大纶医药集团/医药生物保健中心 董事

[查看全文]
[贡献] 基于人工智能和物联网的医疗设备的法律和道德挑战