今天小编就为大家分享一篇在pytorch中对非叶节点的变量计算梯度实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

在pytorch中一般只对叶节点进行梯度计算，也就是下图中的d,e节点，而对非叶节点，也即是c,b节点则没有显式地去保留其中间计算过程中的梯度（因为一般来说只有叶节点才需要去更新），这样可以节省很大部分的显存，但是在调试过程中，有时候我们需要对中间变量梯度进行监控，以确保网络的有效性，这个时候我们需要打印出非叶节点的梯度，为了实现这个目的，我们可以通过两种手段进行。 注册hook函数 Tensor.register_hook[2] 可以注册一个反向梯度传导时的hook函数，这个hook函数将会