梯度法是一类求解优化问题的一阶方法.梯度法形式简单、计算开销小,在大规模问题的求解中得到了广泛应用.系统地介绍了光滑无约束问题梯度法的迭代格式、理论框架.梯度法中最重要的参数是步长,步长的选取直接决定了梯度法的收敛性质与收敛速度.从线搜索框架、近似技巧、随机技巧和交替重复步长四方面介绍了梯度步长的构造思想及相应梯度法的收敛性结果,还对非光滑及约束问题的梯度法、梯度法加速技巧和随机梯度法等扩展方向做了简要介绍.
梯度法 光滑无约束优化 步长更新策略 线搜索 近似