人工智能在毒性病理学中应用和人工智能医疗器械监管的研究进展

人工智能（AI）是计算机科学的一个庞大分支和新型领域，旨在通过模拟人类智能决策过程，使机器在特定情况下做出智能决策。AI包括机器学习（ML）算法，深度学习（DL）是基于神经网络的ML的一部分，而卷积神经网络（CNN）是为视觉任务设计的DL算法[1]。近年来，由于AI的快速发展，已被应用于药物研发的各个阶段，如在药物设计阶段，AI可以辅助预测药物-蛋白质相互作用和发现药物功效等[2]；在药物安全性评价阶段，AI已经广泛应用于心脏毒理学、肝脏毒理学和遗传毒理学研究。随着AI领域的不断扩大，模型不断迭代更新，AI与体外和体内方法相辅相成，共同用于药物临床前安全性评价[3]。

毒性病理学是药物临床前安全性评价的重要环节，由于计算机技术和医疗技术的飞速发展，毒性病理学正在从模拟方法向数字方法过渡。其中AI特别是ML对传统的组织病理学领域的影响最为深刻。目前，虽然在药物安全性评价过程中，毒性病理学评价已经有标准化的过程[4]，包括标准操作规程和一系列行业标准，但是，由于在实际操作过程中阅片量大，并且需要考虑与受试物相关的变化以及实验动物的背景病变，所以需要花费大量的时间和精力。而且，病理学家对组织切片的视觉分析是主观性较强的过程，所以造成不同病理学家的诊断结果存在一定差异。随着数字病理学的出现，计算机辅助分析可能将这一过程从定性过程转变为定量或半定量过程。数字成像是计算机辅助成像的第一步，与传统的数字成像相比，全切片图像（WSI）是一种更先进，应用更广泛的病理学技术[5-6]。AI和ML有可能减少或消除病理学家在描述镜检病理学特征时10%的错误率或不一致率[7]，一些模型算法对WSI的诊断已经可以媲美病理学家。AI与毒性病理学家协同工作可以将病理学家的高认知能力和AI快速准确的完成重复任务的优点相结合，这将会对毒性病理学的发展产生深远的影响。例如，在AI辅助下病理学家能够更准确地识别淋巴结中的转移性乳腺细胞癌，准确率高达99.5%，而单独的病理学家诊断或AI诊断准确率仅为96%和92%[8]。一种DL模型已经实现了对不同的正常大鼠组织的WSI进行自动分类，准确率达94.7%～98.3%[9]，为未来的毒性病理学模型提供了基础。目前，美国食品药品监督管理局（FDA）已经批准了几款基于AI的产品，用于辅助病理学诊断[10-11]。这些基于AI的产品将促进精准医疗和个性化治疗的发展。同时，作为一种新兴技术，需要制定相应的法规和监管措施以促进AI的健康发展。本文综述了数字病理学和计算病理学的建立和发展、AI在毒性病理学中的应用、FDA批准的基于AI和ML的医疗器械、国内外对AI用于病理诊断的法规和指导原则，以期为毒性病理学中AI的应用提供新的思考。

1 数字病理学和计算病理学的建立和发展

数字病理学也称为虚拟显微镜，是指用切片扫描仪将整个组织切片数字化而构建成千兆像素的图像，即WSI，使用WSI分析的诊断性能在病理学家之间有很高的一致性[12-13]。近年来，随着WSI及其分析技术的发展，数字病理学已被FDA批准用于初级诊断。

数字病理学的建立促进了计算病理学（CPATH）的发展。CPATH主要是将临床和解剖病理学、分子病理学和基因组病理学结合起来的计算方法[14]。CPATH的应用包括肿瘤检测和分类、侵袭性或转移性病灶检测，主要是淋巴结、图像分割和空间信息分析，包括比率和密度、细胞和细胞核分类、有丝分裂计数、基因突变预测和组织学评分[15]。在CPATH中将一些DL方法组合可以用来发现生物标志物，如在肿瘤微环境中识别肿瘤浸润性淋巴细胞的空间分布，用来辅助肿瘤的诊断和预后[16-17]。除此之外，有病理学家利用CAPTH，在消化系统苏木精-伊红（HE）染色切片的WSI中筛选出了结肠癌组织[18]。由此可见，随着DL在CAPTH中的不断发展，CAPTH越来越有希望辅助病理学家做出诊断和决策。

尽管近年来CAPTH取得了令人瞩目的进步，但是，在未来的发展中还存在一些障碍，如获取高质量数据、在模型训练时数据的变异以及算法的验证等[15]，所以必须加强对CAPTH应用的监管。

2 AI在毒性病理学中的应用

机器/DL已经参与了毒性病理学的整个工作流程。DL可以通过提供计算机辅助评估来提升病理学水平，从而发现组织病理学图像中以前未被识别的特征。目前，DL可以辅助病理学家对多种组织器官的各类型的疾病进行诊断，大大提高了病理学家的工作效率和诊断的准确率。表1总结了基于DL的AI在非临床研究和毒性病理学中辅助病理学家进行诊断的案例。

啮齿类动物进行性心肌病（PCM）通常被认为是大鼠和小鼠心脏的自发背景性病变，药物性肝损伤是药物临床前安全性评价中常见的病变，AI可以辅助毒性病理家对心脏和肝脏毒性进行诊断。Tokarz等[19]开发了基于全卷积网络（FCN）的算法模型，以检测和量化大鼠心脏组织学切片中PCM的显微镜特征（变性/坏死、纤维化、单核细胞浸润、矿化），精确度为0.987～0.997，此算法模型通过提供PCM的微观特征，帮助病理学家识别与心脏毒性相关的变化。Baek及其团队[27]使用一种CNN模型，预测对乙酰氨基酚引起SD大鼠的急性肝损伤病变，并训练、验证和测试了各种肝脏病变的模型，包括坏死、炎症、浸润等病变。结果表明，模型对3种病变预测的平均精确度高达94.29%～100%，该算法可用于肝脏病变的诊断和预测。

除了在心脏和肝脏病变的诊断中的应用，AI在肿瘤的筛查、检测、分类，以及组织病理学方面的遗传学和分子标志物检测中也有广泛的应用。Lizuka等[28]训练了基于CNN和循环神经网络（RNN）的算法模型，对胃和结肠的活检组织病理学切片的WSI进行腺癌、腺瘤和非肿瘤分类，并且在3个独立的测试集上评估了算法模型，结果显示，胃腺癌和腺瘤的曲线下面积（AUC）达到了0.97和0.99，而结肠腺癌和腺瘤的AUC则分别为0.96和0.99，表明此模型在实际的病理诊断工作中有很高的应用潜力。Shaban等[29]利用DL，将口腔癌的WSI中提取的斑块进行分类（肿瘤、淋巴细胞、基质等），随后，根据这个分类器建立了这些分类的密度图，用来预测患者的预后。

3 FDA批准的基于AI和ML的医疗器械

目前，美国FDA已经批准了多种基于AI和ML的医疗器械（MLMD）用于临床诊断。

2020年，FDA授权一款软件“Caption Guidance”上市[30]，旨在帮助医护人员进行心脏超声检查，这款软件兼容诊断超声系统的附属设备，利用AI帮助医生捕捉患者心脏的图像，以确保其诊断质量，Caption Guidance可以提高心脏诊断的安全性和有效性，从而极大的挽救患者的生命。

研究表明，在结肠癌筛查过程中，即使是一些受过严格培训的临床医生也有可能忽视病变，而AI辅助检查可能会帮助医生避免这一失误。2021年，FDA授权批准GI Genius上市[31]，这是一款基于ML的AI医疗设备，旨在帮助临床医生在结肠镜检查期间，对结肠中的病变（例如息肉或者可疑肿瘤）进行实时检测。GI Genius由硬件和软件组成，软件使用AI算法技术来识别可能发生病变的区域。在临床实践中，结肠镜检查加GI Genius能够在55.1%的患者中识别实验室确认的腺瘤或癌瘤，而标准结肠镜检查的识别率为42.0%，由此可见，该软件能够增加结肠病变的识别率。

前列腺癌是男性患者中一种常见的疾病，具有很高的发病率和死亡率[32]。前列腺癌的诊断依赖于对患者血液中升高的前列腺特异性抗原进行活检和/或直肠指诊异常。由于病理学家需要检测前列腺组织结构以及细胞异形的微小变化，因此是一项耗时的工作[33]。2021年，FDA批准Paige Prostate上市[34]，Paige Prostate是一种临床级的AI工具，旨在帮助病理学家对前列腺癌进行检测、分级和量化。在1项研究中，通过比较病理学家独立诊断前列腺癌和在Paige Prostate辅助下诊断前列腺癌，研究者证明协同使用Paige Prostate可以在高度保持诊断标准的同时，缩短阅片和报告时间，减少免疫组化实验[10]。

AI辅助诊断软件或设备可以提供更早期、更准确的诊断，以及实现个性化的诊断和疗法，同时具备学习、适应和改进的能力，这些都极大地提高了病理学家或医疗工作者的工作效率，也提高了患者的生存率。但是，MLMD同时也面临一些挑战，如偏差的识别和最小化、一些算法的不透明、为自适应系统提供监督等[35]。所以，要加强AI辅助诊断类产品的监管，使其更好地服务于病理学诊断工作。

4 国内外对于基于AI的医疗器械的法规和指导原则

AI技术在医疗领域的应用日益广泛，同时，因为其快速更新迭代的特点，给监管带来了诸多挑战。各国对于基于AI的医疗设备的法规要求越来越严格，确保其在技术可靠性等方面符合要求。

4.1 我国对于基于AI的医疗器械的法规和指导原则

我国对计算机辅助诊断/分析软件的注册审查、安全性级别和全生命周期质量控制等方面提出了指导原则和审评要点。2019年7月，我国成立AI医疗器械创新合作平台，同时，医疗器械技术审评中心发布了《深度学习辅助决策医疗器械软件审评要点》[36]，明确了审评的重点在于软件的数据质量控制、算法泛化能力和临床使用风险，并提出了“基于风险的全生命周期管理”是此类软件监管的基本方法。在此之后，我国大力推进AI医疗器械监管进程，加强与国际医疗器械监管机构论坛（International Medical Device Regulators Forum，IMDRF）AI医疗器械组以及国际电信联盟/世界卫生组织人工智能焦点组（ITU/WHO Focus Group on Artificial Intelligence for Health）等国际监管组织的合作。目前，我国已制定多项相关指导原则或审评要点。

2022年，医疗器械技术审评中心发布《人工智能医疗器械注册审查指导原则》[37]，该指导原则旨在指导注册申请人建立AI医疗器械生存周期过程和准备AI医疗器械注册申报资料，规范AI医疗器械的技术审评要求，同时，该指导原则提出第三方数据库可用于算法性能评估，数据库需要满足权威性、科学性、规范性、多样性、封闭性和动态性方面的专用要求。AI医疗器械的技术审评需要结合算法特征和产品特性，系统评价安全和有效性。在此基础上，制定了针对不同的图像辅助诊断软件的指导原则，如《肺结节CT图像辅助检测软件注册审查指导原则》和《糖尿病视网膜病变眼底图像辅助诊断软件注册审查指导原则》[38-39]，对注册审查要点包括软件的监管信息、综述资料和非临床资料提出了明确要求。2023年，器审中心发布《人工智能辅助检测医疗器械（软件）临床评价注册审查指导原则》[40]，该指导原则进一步明确AI辅助检测类医疗器械的临床评价要求和适用情形，同时规范了临床试验设计以及临床试验设计时需关注的问题。

为了规范AI医疗器械相关产品的管理，医疗器械技术审评中心组织制定了4个审评要点，分别是《影像超声人工智能软件（流程优化类功能）技术审评要点》《病理图像人工智能分析软件性能评价审评要点》《病理图像人工智能分析软件临床评价审评要点》和《血液病流式细胞学人工智能分析软件性能评价审评要点》。病理图像AI分析软件是指基于WSI等的数字病理图像，采用DL等AI技术实现对病理图像的分割、检测等功能的独立软件，按照第3类医疗器械管理。《病理图像人工智能分析软件性能评价审评要点》明确了病理图像AI分析软件注册申报要求，同时也为技术审评部门提供参考，重点关注软件研究资料相关要求，包括需求规范、算法研究资料等[41]。《病理图像人工智能分析软件临床评价审评要点》则重点强调了该类软件的临床评价路径，以及实验设计、参考标准和评价指标等临床试验要求，并规定了此类软件产品的应用范围[42]。

4.2 美国FDA对于基于AI的医疗器械的法规和指导原则

美国FDA采用了一种称为软件作为医疗设备（SaMD）的标准，用于识别可能在其权限下进行监管的软件。SaMD被定义为“旨在用于一种或多种医疗目的的软件，能够在不作为硬件医疗设备一部分的情况下执行这些目的”[43]。归为SaMD的产品可以通过现有的3种医疗器械途径，根据用途和风险等级进行审查：上市前许可［510（k）]、De Novo和上市前批准（PMA）。FDA审查的大多数AI软件产品已通过510(k)审查[44]。而上文中提到的Caption Guidance、GI Genius和Paige Prostate，则是FDA通过De Novo审查途径对其进行评估和审查。2019年，FDA发布了1份讨论文件《关于基于人工智能/机器学习（AI/ML）的医疗软件设备（SaMD）修改的拟议监管框架—讨论文件及反馈请求》，文件描述了1种潜在的AI和ML驱动的软件修改的上市前审查方法[45]，这份提议促进了制造商持续关注SaMD的安全性和有效性机制。2021年，FDA发布了《基于AI/ML软件作为SaMD行动计划》[46]，紧接着发布了《医疗设备开发中的良好机器学习规范（Good Machine Learning Practice，GMLP）：指导原则》[47]，FDA、加拿大卫生部和英国药品和保健产品监管局（MHRA）共同确定了10个指导原则，这些指导原则可以指导GMLP的发展，并促进基于AI/ML的医疗设备的安全性、有效性和高质量发展。鉴于AI系统可能随着时间和数据的积累而变化，FDA要求对这些系统进行持续的监控和必要的更新，以应对可能的变化和新出现的风险。2023年，FDA发布了《针对机器学习支持的医疗设备的预定变更控制计划：指导原则》[48]，FDA、加拿大卫生部和MHRA借鉴了GMLP的指导原则，又制定了5个指导原则，提出需要监控模型的性能，并对重新训练的风险进行监管。通过制定这些指导原则和法规，FDA希望能够促进AI技术在保证安全性和有效性的前提下，健康有序地在医疗领域推广和应用。

4.3 其他国家对于基于AI的医疗器械的法规和指导原则

除了我国和美国FDA对于AI医疗器械进行了监管，国际上其他国家也相继颁布了相关的法规或者指导原则。韩国食品医药品安全管理局（MFDS）于2023年发布了《基于AI的医疗器械临床试验设计指南》[49]，该指南适用于基于ML的医疗器械的临床试验批准、生产、进口许可（需提交临床试验数据）或技术文档审查（需提交临床试验数据）的监管路径，并为临床试验设计方法学提供了参考标准，包括适用于相关AI器械的临床等效方法、多中心选择、随机与盲法考虑、对照与控制的选择等。2024年，欧盟委员会等共同完成了《人工智能法》（AI Act）[50]，AI Act是世界上首个人工智能法律框架，用于规范AI的开发和使用，其中也包括AI在医疗器械中的应用。除此之外，日本、澳大利亚、加拿大和新加坡等国家都将AI医疗器械统称为SaMD，都在积极推进AI医疗器械监管进程。总之，在全球范围内，AI在医疗设备中的应用正迅速发展，各国对其监管框架的制定也在不断完善。

非临床安全性评价和毒性病理学中的各个环节都受到严格的监管，因此需要对机器做出的任何决定进行审核。这些指导原则和法规要求有助于规范AI产品在病理诊断中的应用，确保此类产品的透明性、可解释性和数据安全性。同时，由于AI技术的飞速发展，其监管的方法也需要同步调整，才能更好地规范AI技术应用于医药领域。

5 结语

AI和ML正在迅速地改变不同学科科学领域的面貌，包括毒性病理学。虽然到目前为止，美国FDA还没有批准病理学方面的软件或医疗器械，但从目前的发展趋势来看，在病理学领域出现美国FDA批准的基于DL的软件或医疗器械只是时间问题。随着WSI的普及、计算机硬件与软件技术的飞速发展以及大数据处理和存储成本的显著降低，AI和ML技术不仅提高了数据分析的速度和精度，还在减少人为错误、提高诊断一致性方面展现出巨大优势[51]。但是，伴随着AI的广泛应用，其面临的问题也随之而来，比如对基于AI的软件的监管，标注图像的数量以及病理切片染色等人工假象等。因此，AI的监管策略还需要各国监管机构加强合作。随着AI技术发展日新月异，带来的挑战和风险是多方面的、广泛的和交叉的，建立国际合作机制有助于推动食品药品监管政策和标准制定的一致性。此外，高质量数据是AI发展的前提，也是战略资源，减少原始数据错误、建立统一的元数据标准、数据清洗策略标准、数据标注标准、数据共享等，可有效提升数据管理的科学性和规范性，以支持AI算法的开发和应用。

总之，继续探索AI在毒性病理学中的应用，持续推进AI辅助诊断软件和医疗器械的监管科学研究，将更好地辅助毒性病理学家的诊断工作，进而提升临床前药物安全性评价工作的效率和质量。

来 源：谢 寅，任禹珂，张 頔，杨艳伟，高苏涛，张 勇，陈旭林，霍桂桃，屈 哲，李双星，林 志．人工智能在毒性病理学中应用和人工智能医疗器械监管的研究进展 [J]. 药物评价研究, 2025, 48(7): 2031-2038.