人工智能医疗器械，顾名思义就是采用人工智能技术以实现其医疗用途的医疗器械，可分为人工智能独立软件和人工智能软件组件，对人工智能医疗器械通常采用基于风险的全生命周期管理方法开展监管合规。

本期，久顺企管着眼医疗器械界的这颗新星，针对各位读者所关注的合规挑战及其应对，分享如下。

 

一、人工智能医疗器械面临的合规挑战

（1）算法更新：对于人工智能医疗器械安全性和有效性的影响具有不确定性。

（2）算法训练所用数据：受多方面条件限制，存在质量不高、数量不足、数据多样性不够等问题，容易引入算法偏倚，降低算法通用能力，导致产品难以在临床落地。

（3）人工智能技术：包含黑盒算法，黑盒算法可解释性差。而因果性对医疗决策至关重要，黑盒算法仅能反映输出与输入的相关性而非因果性，难以与现有医学知识建立有效关联，用户知其然不知其所以然，不利于后续医疗决策。

 

 

二、人工智能医疗器械合规的应对方法

 

（一）分类界定

医学人工智能软件是否为人工智能独立软件？

需要结合其预期用途、核心功能、处理对象进行综合判定。

例如：基于知识管理的医学人工智能软件，其代表性产品是采用自然语言处理技术处理分析电子病历文本信息，生成知识图谱或量表，并以此为基础向用户提供医疗决策建议。此类软件的处理对象是非医疗器械数据，而人工智能独立软件的处理对象是医疗器械数据（即医疗器械产生的用于医疗用途的客观数据），故此类基于知识管理的医学人工智能软件不是人工智能独立软件。

 

独立的医疗器械软件采取什么管理类别？

主要基于风险水平进行判定。风险水平可从预期用途和算法成熟度两个维度刻化。

预期用途：可分为辅助决策和非辅助决策，前者提供医疗决策建议，后者提供医疗参考信息，前者风险高于后者；

算法成熟度：可分为成熟算法和全新算法，后者潜在风险多于前者。全新算法若用于辅助决策按第三类医疗器械管理，若用于非辅助决策按第二类医疗器械管理。

 

 

（二）技术审评

人工智能医疗器械技术审评主要结合算法特征和产品特性，综合权衡风险和受益，系统评价安全性和有效性。

 

算法特征 不同，评价重点也不同，例如：黑盒算法需要关注其可解释性提升问题；有监督学习需要关注其数据标注质控问题；基于数据的算法需要关注其数据质控问题。

 

风险 主要关注过拟合和欠拟合等算法风险，以及假阴性和假阳性等医疗决策风险。

 

系统评价 需结合算法训练、算法性能评估、临床评价等结果，对产品的适用范围、使用场景、核心功能进行评价和规范。

 

算法更新

可分为算法驱动型更新和数据驱动型更新。

> 前者是指算法发生实质性变化或者重新训练，属于重大软件更新，需申请变更注册；

> 后者是指仅由训练数据量增加而发生的算法更新，若算法性能评估结果与前次注册相比存在统计学差异则属于重大软件更新，需申请变更注册，反之属于轻微软件更新，无需申请变更注册，通过质量管理体系进行控制即可，同时通过软件版本命名规则进行算法更新控制。

 

算法通用能力保证 训练数据需结合目标疾病的流行病学特征，尽可能取自多家、多地域、多层级的代表性临床机构和代表性采集设备，从而提高数据充分性和多样性，从源头保证算法通用能力。

> 算法训练 需提供训练数据量-评估指标曲线等证据。

> 算法验证 所用测试集需不同于训练集，以便客观评价算法通用能力。

> 算法确认 需保证临床评价数据集不同于训练数据集，机构数量尽可能多，地域分布尽可能广，以全面评价算法通用能力，上市后亦需在真实世界持续开展算法通用能力的评估。

 

黑盒算法可解释性提升

算法设计需对黑盒算法开展算法性能影响因素分析，研究影响算法性能的主要因素及其影响程度，根据分析结果明确产品使用限制，并在说明书中予以警示和提示，以提升算法可解释性。

同时，明确算法开发生存周期过程质控要求，以提升算法透明度。

此外，建议与现有医学知识建立关联，以进一步提升算法可解释性。

 

 

（三）体系核查

人工智能医疗器械的体系核查需要基于医疗器械生产质量管理规范、独立软件附录及其现场检查指导原则，并可参考人工智能医疗器械生存周期过程质控要求，涵盖：需求分析、数据收集、标注质量评估、算法设计、验证与确认、更新控制等阶段。

重点加强 体系记录、数据质控、算法更新控制、算法可追溯性分析 的要求。

 

# 技术审评、体系核查，国内医械注册的关键环节，如何高质高效过关？ #

>> 敬请联络【久顺企管集团】，近30年全球合规技术专家，中国\荷兰\美国\英国均设公司，擅于产品注册全程辅导、技术文档编写、质量体系建立完善与咨询等服务项目，以及CE/FDA/UKCA/CFS等证书办理，具备优厚的咨询管理和技术服务经验及能力，护航产品全球范围畅行无阻。