在最优化算法研究中按时间先后顺序出现了许多算法包括如下几种，这里介绍下他们的全称和英文名称：
1、最速下降法（Gradient descent）
2、牛顿法（Newton method）
3、 共轭梯度法(Conjugate Gradient)
4、拟牛顿法（Quasi-Newton），其有很多变种：
（1）DFP（Davidon、Fletcher、Powell三人的首字母）
（2）BFGS（布罗依丹(Broy-den,C. G.)以及弗莱彻(Fletcher , R. ) ,戈德福布(Goldforb,D. )、香诺(Shanno, D. F.)四个人名首字母）
（3）L-BFGS（large BFGS）
参考：
【1】https://baike.baidu.com/item/BFGS%E7%AE%97%E6%B3%95/19134399?fr=aladdin
【2】http://blog.sina.com.cn/s/blog_eb3aea990101gflj.html