的PyTorch实现[CVPR 2021] 更新 2021年3月15日： 2021年2月28日：我们的论文被CVPR 2021接受了！ 2021年2月17日： 2021年1月5日： 介绍 的正式实现。 我们介绍了一种新颖的方法，该方法可以可视化基于Transformer的模型针对视觉和NLP任务进行的分类。我们的方法还可以可视化每个班级的解释。 方法包括三个阶段： 使用我们新颖的LRP公式计算每个关注矩阵的相关性。 每个注意力矩阵的梯度反向传播与可视化类有关。渐变用于平均注意力头。