自己使用python实现的部分工程优化算法，包括梯度下降，共轭梯度，牛顿迭代，拟牛顿法等多种优化算法

Python实现最速下降法、共轭梯度法和信赖域狗腿法源代码。可以直接运行，同时将迭代分析绘图。配有详细注释

资源包括两个算法的python实现，分别是共轭梯度法和BFGS法，利用Numpy与Sympy，实现了只需输入函数与初始点等基本条件，即可求解并输出迭代过程种各参数变化。

主要介绍了python实现的共轭梯度法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧

共轭梯度法是介于最速下降法与牛顿法之间的一个方法，它仅需利用一阶导数信息，但克服了最速下降法收敛慢的缺点，又避免了牛顿法需要存储和计算Hesse矩阵并求逆的缺点，共轭梯度法不仅是解决大型线性方程组最有用的方法之一，也是解大型非线性最优化最有效的算法之一。 在各种优化算法中，共轭梯度法是非常重要的一种。其优点是所需存储量小，具有步收敛性，稳定性高，而且不需要任何外来参数。 算法步骤： import random import numpy as np import matplotlib.pypl