RBF神经网络的梯度下降训练方法中的学习步长优化

梯度下降法是训练ＲＢＦ神经网络的一种有效方法。和其他基于下降法的算法一样，ＲＢＦ神经网络的梯度下降训练方法中也存在学习步长的取值问题。本文基于误差能量函数对学习步长的二阶Ｔａｙｌｏｒ展开，构造了一种优化学习步长的方法，进行了较详细的推导：实验表明，本方法可有效地加速梯度下降法的收敛速度、提高其性能。该方法的思想可以用于其他基于下降法的学习步长的优化中。