中科院深圳先进院，最新Nature Biomedical Engineering!

本文介绍了一种由中国科学院深圳先进技术研究院蔡云鹏研究团队提出的新型可解释人工智能框架——类别关联流形学习（CAML），旨在解决医疗AI模型中的“可解释性鸿沟”问题。背景方面，当前AI在医疗领域广泛应用，但现有可解释方法存在全局解释无法提炼直观规则、局部解释无法提供整体图景等局限性，引发了监管机构和临床医生对AI决策风险的担忧。研究目的是通过生成式AI和拓扑分析技术，将黑箱模型的决策逻辑压缩至低维空间，既生成可遍历的全局决策规则图谱，又支持基于反事实生成的个体样本解释。结论显示，在六个医学影像基准数据集上，CAML仅用8维特征即可保留原始黑箱模型近95%的判别精度，并成功从模型中挖掘出符合医学知识的潜在规律（如视网膜疾病亚型间的演化路径）。临床医生盲法评估证实，CAML生成的显著性图谱和反事实样本在病理特征识别方面优于现有方法，有效增强了临床信任。该框架还展现出良好的鲁棒性和可扩展性，可应用于心电图、基因表达等非图像数据，为建立可信、可解释的医疗AI模型提供了有力工具。