梯度下降算法 以下内容参考 微信公众号 AI学习与实践平台 SIGAI 导度和梯度的问题 因为我们做的是多元函数的极值求解问题，所以我们直接讨论多元函数。多元函数的梯度定义为： 其中称为梯度算子，它作用于一个多元函数，得到一个向量。下面是计算函数梯度的一个例子 可导函数在某一点处取得极值的必要条件是梯度为0，梯度为0的点称为函数的驻点，这是疑似极值点。需要注意的是，梯度为0只是函数取极值的必要条件而不是充分条件，即梯度为0的点可能不是极值点。 至于是极大值还是极小值，要看二阶导数/Hess