今天小编就为大家分享一篇对pytorch中的梯度更新方法详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

背景 使用pytorch时，有一个yolov3的bug，我认为涉及到学习率的调整。收集到tencent yolov3和mxnet开源的yolov3，两个优化器中的学习率设置不一样，而且使用GPU数目和batch的更新也不太一样。据此，我简单的了解了下pytorch的权重梯度的更新策略，看看能否一窥究竟。 对代码说明 共三个实验，分布写在代码中的（一）（二）（三）三个地方。运行实验时注释掉其他两个 实验及其结果 实验（三）： 不使用zero_grad（）时，grad累加在一起，官网是使用accum