机器学习笔记 - 基于pytorch、grad-cam的计算机视觉的高级可解释人工智能

一、pytorch-gradcam简介

        ​Grad-CAM是常见的神经网络可视化的工具，用于探索模型的可解释性，广泛出现在各大顶会论文中，以详细具体地描述模型的效果。Grad-CAM的好处是，可以在不额外训练的情况下，只使用训练好的权重即可获得热力图。

1、CAM是什么？

        CAM全称Class Activation Mapping，既类别激活映射图，也被称为类别热力图、显著性图等。它是一张和原始图片等同大小图，该图片上每个位置的像素取值范围从0到1，一般用0到255的灰度图表示。可以理解为对预测输出的贡献分布，分数越高的地方表示原始图片对应区域对网络的响应越高、贡献越大。

        一般将原始图像和CAM激活图像叠加到一起，得到颜色深浅不一的可视化图像，如下图所例：

        或者更加酷炫一点，也许可以用在ppt上。

        提取添加的全连接层对于映射到Australian terrier类的参数（W1，W2，，Wn），用这个参数去加权最后一个