在介绍Adam之前首先介绍一下momentum和RMSprop优化算法。 一、momentum 1、指数加权平均数 指数加权平均数不仅考虑了当前数值也涵盖了以前的数据对现在的影响。 解释指数加权平均值名称的由来： 指数加权平均值的应用： 使用这种方法进行数据的估计可能不是最精确的，但是这种方法计算简单，节省内存。 指数加权平均数因为设置的第0个值为0，所以对于前几个数都会出现严重的偏差，所以引入了偏差修正。 2.指数加权平均数的偏差修正 3.momentum算法 此算法是梯度下降算法的一种改进