引言

随着深度学习模型与计算资源的快速发展，数据驱动方法已在视觉与医学影像分析中取得显著进展。然而，由于深度神经网络在结构与训练过程中的高度复杂性，其决策机制往往呈现“黑箱”特征，使得模型预测结果难以被人类理解与复核。在医疗影像等高风险应用场景中，这种不可解释性会直接影响系统的可信性、可审计性与临床可用性，并进一步牵涉到人机协作流程与责任归属等系统性问题［1-2］。相关研究指出，可信医疗AI的解释机制不应仅停留在单一算法层面的可视化呈现，而需与临床工作流、交互方式与问责框架形成闭环，以支撑真实场景下的信任建立与可控使用［3］。

在医学影像领域，膝骨关节炎（Knee Osteoarthritis, KOA）是较为常见的退行性关节疾病，其 X 光影像中的关节间隙变窄、软骨下骨硬化及骨赘形成等特征是临床分级和诊断的关键依据。近年来，KOA 的自动诊断与分级任务的处理广泛应用卷积神经网络，并在多个公开数据集上获得了较高的识别精度［4］。但多数方法仍以“预测输出”为主，缺乏对模型预测依据的清晰解释，临床医生难以评估模型是否关注了合理的病灶结构，进而限制了其在辅助诊断场景中的应用效果。

围绕可解释人工智能（Explainable Artificial Intelligence, XAI），现有研究主要可以分为事后解释与事前可解释建模两大类。其中，事后解释方法通过可视化或归因分析对黑盒模型的局部决策进行近似刻画，代表性方法包括基于梯度的 GradCAM 与GradCAM++［5-6］、模型无关的 LIME ［7］与SHAP ［8］，以及积分梯度方法［9］。因无需修改原有模型结构，此类方法在医学影像中应用较为广泛。然而，多项研究表明，显著图与归因结果对模型参数、输入扰动与解释超参数等高度敏感，可能产生不稳定甚至错误的解释；仅凭“看起来合理”的可视化难以保证解释的可信性［10-11］，因此需要综合系统化的量化评估与鲁棒性检验加以规范［12-13］。

在 KOA X 光影像场景中，上述挑战更为突出。一方面，关键特征通常呈现局部化、细粒度分布，传统 LIME 的超像素扰动与默认参数配置往往难以与医学结构精确对齐，容易导致解释区域过散、过大或覆盖无关特征；另一方面，LIME 以单一局部拟合优度作为优化目标时，可能出现解释区域“膨胀”，即通过激活大量非关键区域来提升拟合度，进而削弱解释的稀疏性与定位能力。这类不稳定现象已在多项医学影像解释可信性评估研究中被观测到［11］。

从方法论角度看，可信医学影像解释通常需同时满足两个核心属性：一是高保真性，即解释结果应忠实反映模型的局部决策行为；二是高稀疏性，即解释区域应聚焦于有限且具有临床意义的关键区域，以提升可读性与诊断效率［12-14］。二者之间存在内在张力：单纯追求拟合精度往往引入冗余高亮，而过度稀疏则可能损失关键区域信息。为此，本文引入多目标优化视角，将解释生成过程从“单点参数设定”调整为“可控权衡的参数搜索”。群智能优化方法因参数量少、全局搜索能力强，且对复杂目标具有良好适应性，已成为处理多目标权衡问题的经典方法［15］。

基于以上背景，本文以 KOA X 光影像解释为研究对象，提出一种基于多目标粒子群优化的事后可解释性增强方法（MOPSOLIME）。该方法在不改变原有诊断模型结构的前提下，将解释过程形式化为“保真性-稀疏性”的双目标优化问题，通过自动搜索 LIME 参数空间，在两类目标之间实现可控平衡，进而获得更稳定、聚焦且具备临床可读性的解释结果。本文的主要贡献包括：

（1）提出一种面向 KOA 医学影像的多目标解释优化框架，在固定诊断模型条件下对 LIME 解释参数进行整体优化；

（2）构建以局部拟合优度与解释区域稀疏性为核心的可量化评价指标，为解释质量评估与优化提供统一标准；

（3）在公开 KOA 数据集及多种主流网络结构上验证方法有效性，实验结果表明该方法在不降低诊断性能的前提下提升了解释稳定性与临床可读性。

本文详细内容请下载：

https://www.chinaaet.com/resource/share/2000007060

作者信息：

李海芳1,2,3，唐超3，岳鑫3，张强1,2

（1.大连理工大学计算机科学与技术学院，辽宁大连116024；

2.大连理工大学社会计算与认知智能教育部重点实验室，辽宁大连116024；

3.新疆师范大学计算机科学技术学院，新疆乌鲁木齐830054）