人工智能（AI）技术在医疗领域的应用越来越深入，然而，AI 模型的”黑盒”特性导致医疗专家很难直观理解模型决策背后的逻辑，已有的”可解释 AI”方法（包括大语言模型）均无法如实准确的描述模型决策机制，引发了业界对医疗 AI 模型潜在错误、失控风险、偏向性等重大隐患的严重担忧 … 中国科学院深圳先进技术研究院（以下简称”深圳先进院”）蔡云鹏研究团队在国际权威期刊 Nature Biomedical Engineering 发表最新研究论文”Bridging the Interpretability Gap for Medical Artificial Intelligence Models using Class-Association Manifold Learning”… 该研究提出了一种称为”类关联流形学习”（Class-Association Manifold Learning）的数学方法，高效地将黑盒 AI 模型决策规律转化为低维空间的可视化流形，并且用生成式 AI 方法按需灵活的对数据样本进行定向修改并产生虚构对比样本，从而让医生直观理解 AI 所发现的隐藏知识规律，并总结为临床知识。