BP神经网络的算法改进及应用研究

人工神经网络是一种模拟大脑信息处理算法的非线性系统,具有强大的分布式信息存储、并行处理和自适应学习能力等特点。而BP网络包含了神经网络理论中最精华的部分,具有结构简单、技术成熟的优点,已被广泛应用于模式识别、智能控制等领域。但由于BP算法采用的是梯度下降法,因而存在收敛速度慢、易陷入局部极小等缺点。 本文首先对BP网络模型和算法进行了系统的综述。针对标准BP算法的“平台”现象,构造了一种自适应放大的误差信号,通过修改激励函数的导数,使权值的修正过程不会因饱和区域而趋于停滞,并对其收敛性进行分析证明。 其次,从影响BP网络性能的综合因素考虑,提出了一种自适应调节学习率和动态调整S型激励函数相结合的改进BP算法。该算法将学习率与误差函数相关联,并对每个隐单元和输出单元的激励函数的斜率进行自动调整。 最后,将擅长全局搜索的遗传算法和局部寻优能力较强的BP算法相结合,设计了一种基于改进遗传算法的BP网络训练方法。通过采用递阶编码、自适应交叉和变异、修剪相似个体、动态补充新个体等操作,使网络的结构和权值同时优化。 本文针对BP算法的缺陷,从三个不同的角度对标准的BP算法进行改进,仿真结果表明,本文提出的改进BP算法具有收敛速度快、寻优能力和泛化能力强等特点,具有良好的应用性和实用性。