本文参考
http://blog.csdn.net/u014595019/article/details/52989301
http://blog.csdn.net/luo123n/article/details/48239963
http://m.blog.csdn.net/qsczse943062710/article/details/76763739

学习率衰减

1 随步数衰减

就是每进行几个周期就根据一些因素降低学习率。常见的是每训练五个周期（epochs）学习率减少一半或者每训练二十个周期减少为原来的0.1。实际上我们通常所用是经验性方法：先用一个经验性的学习率训练，当观察到损失函数不再降低时，调低学习率继续训练。

指数衰减。

数学公式是alpha=alpha_0e^{-kt}，其中\alpha_0,k是超参数，t是迭代次数（也可以使用周期作为单位）。

1/t衰减

的数学公式是alpha=alpha_0/(1+kt)，其中\alpha_0,k是超参数，t是迭代次数。

在实际应用中随步数衰减的随机失活（dropout）使用最广泛，因为这种的参数更有实际的解释性。

SGD

require：学习率；动量参数；初始参数；初始速度。

# 普通更新
x += - learning_rate * dx

优点

• 减小计算机的压力
• 可以很好的处理数据冗余问题，收敛比GD要快。以一个极端情况为例，若训练集前一半和后一半梯度相同。那么如果前一半作为一个batch，后一半作为另一个batch，那么在一次遍历训练集时，batch的方法向最优解前进两个step，而整体的方法只前进一个step。

缺点

• 会有震荡情况，收敛特别慢。
• 当数据有噪声的话，如果minibatch正好是噪声，会干扰模型的收敛。
• 不同方向上的梯度敏感度不同。
• 鞍点和局部极小值问题。一个模型中鞍点会比局部极小值多好多，在局部极小值处要求所有的参数都在该点取得极小值，在参数动不动上亿的情况下，想想就特别难；而鞍点条件会松很多，在鞍点处会有一些梯度上升，也会有一些梯度下降。（在鞍点处Hessian矩阵的特征值有正有负，而在局部极小值处只能全部为正值。）
• 悬崖问题。解决方法梯度截断。

动量（momentum）

# 动量更新
v = mu * v - learning_rate * dx # 与速度融合
x += v # 与位置融合

就是计算更新参数的更新量时，加上上一次更新的更新量乘以momentum。
mementum可以摆脱鞍点的束缚，因为由于动量的存在，即使梯度为零也可以进行参数更新。
没什么想说的。

Nesterov Momentum

这里直接截取参考博客里的内容：

它计算梯度的点和原来不一样。在实际中最常用。

x_ahead = x + mu * v
# 计算dx_ahead(在x_ahead处的梯度，而不是在x处的梯度)
v = mu * v - learning_rate * dx_ahead
x += v

然而在实践中，人们更喜欢和普通SGD或上面的动量方法一样简单的表达式。通过对x_ahead = x + mu * v使用变量变换进行改写是可以做到的，然后用x_ahead而不是x来表示上面的更新。也就是说，实际存储的参数向量总是向前一步的那个版本。x_ahead的公式（将其重新命名为x）就变成了：

v_prev = v # 存储备份
v = mu * v - learning_rate * dx # 速度更新保持不变
x += -mu * v_prev + (1 + mu) * v # 位置更新变了形式

Adagrad

自适应地为各个参数分配不同学习率的算法，含义是随着梯度更新的总距离的增多而减小学习率。详情查看参考博客。

# 假设有梯度和参数向量x
cache += dx**2
x += - learning_rate * dx / (np.sqrt(cache) + eps)

用于平滑的式子eps（一般设为1e-4到1e-8之间）是防止出现除以0的情况。Adagrad的一个缺点是，在深度学习中单调的学习率被证明通常过于激进且过早停止学习。

Adadelta

delta为三角点，三角洲的意思。

以后的是参数自适应调整学习率算法：

AadGrad算法引入梯度累计变量，更新路径越长梯度越小

RMSProp

RMSProp纠正了Adam在较深的网络中还没有收敛，学习率就降的太低的问题。

cache =  decay_rate * cache + (1 - decay_rate) * dx**2
x += - learning_rate * dx / (np.sqrt(cache) + eps)

在上面的代码中，decay_rate是一个超参数，常用的值是[0.9,0.99,0.999]。其中x+=和Adagrad中是一样的，但是cache变量是不同的。因此，RMSProp仍然是基于梯度的大小来对每个权重的学习率进行修改，这同样效果不错。但是和Adagrad不同，其更新不会让学习率单调变小。克服了Adagrad容易过早停止更新的问题。

Adam

Adam是最近才提出的一种更新方法，它看起来像是RMSProp的动量版。简化的代码是下面这样：

m = beta1*m + (1-beta1)*dx
v = beta2*v + (1-beta2)*(dx**2)
x += - learning_rate * m / (np.sqrt(v) + eps)

注意这个更新方法看起来真的和RMSProp很像，除了使用的是平滑版的梯度m，而不是用的原始梯度向量dx。论文中推荐的参数值eps=1e-8, beta1=0.9, beta2=0.999。在实际操作中，我们推荐Adam作为默认的算法，一般而言跑起来比RMSProp要好一点。但是也可以试试SGD+Nesterov动量。完整的Adam更新算法也包含了一个偏置（bias）矫正机制，因为m,v两个矩阵初始为0，在没有完全热身之前存在偏差，需要采取一些补偿措施。

二阶方法