基于PSO的自组织RBF神经网络优化设计及应用研究

径向基(Radial Basic Function,RBF)神经网络作为一种前馈型神经网络,在模型预测、智能控制和模式识别等领域得到广泛应用。然而,当前RBF神经网络结构主要通过经验或凑试的方法确定,且结构一旦确定将不再调整,极大的降低了RBF神经网络的自适应能力。因此,如何在RBF神经网络参数优化的同时实现其结构的自适应调整,提高RBF神经网络的性能,提升其应用能力,是RBF神经网络设计及应用中亟待解决的难题。为了解决RBF神经网络结构动态优化的问题,文中在深入分析RBF神经网络特性的基础上,设计了一种自适应粒子群优化(Adaptive Particle Swarm Optimization,APSO)算法,获得了一种基于APSO的自组织RBF(APSO-SORBF)神经网络。为了进一步提高自组织RBF神经网络的泛化能力,设计了一种自适应梯度多目标粒子群优化(Adaptive Gradient Multiobjective Particle Swarm Optimization,AGMOPSO)算法,提出了基于AGMOPSO算法的自组织RBF(AGMOPSO-SORBF)神经网络优化方法。并且对RBF神经网络结构动态调整过程的收敛性进行深入分析。论文主要研究工作如下:1.APSO算法设计:针对标准粒子群优化(Particle Swarm Optimization,PSO)算法存在早熟收敛、易陷入局部收敛等问题,文中设计了一种APSO算法。利用粒子群体的多样性及个体粒子的飞行状态信息,自适应调整粒子飞行参数,更好的避免粒子陷入局部收敛,平衡粒子全局与局部搜索能力。实验结果表明,文中提出的APSO相比其他改进PSO具有更高的搜索精度。2.APSO-SORBF神经网络设计及应用:针对RBF神经网络参数优化及结构动态调整问题,设计了一种APSO-SORBF神经网络。将RBF神经网络的参数(中心值、宽度、连接权值)作为粒子空间位置,将粒子空间维数映射到隐含层神经元数,实现了RBF神经网络结构及参数同时优化,解决了RBF结构与参数不匹配的问题。非线性系统建模的实验结果表明:提出的自组织机制能够优化RBF神经网络结构,获得的APSO-SORBF神经网络精度较高,并将APSO-SORBF神经网络应用于污水处理过程出水总磷软测量模型设计,取得较好的预测精度。3.MOPSO算法设计:针对影响RBF泛化能力的多个因素之间相互冲突的问题,设计了一种MOPSO算法。同时,基于多目标梯度(Multiobjective Gradient,MOG)增强局部开发能力,并通过粒子的飞行信息,提出自适应飞行参数策略,较好的平衡粒子全局与局部搜索,设计一种AGMOPSO算法。实验结果表明AGMOPSO具有更好的收敛精度和收敛速度。4.AGMOPSO-SORBF神经网络设计及应用:为了提高自组织RBF神经网的泛化能力,提出了一种AGMOPSO-SORBF神经网络。AGMOPSO-SORBF神经网络在优化RBF神经网络参数和结构的同时,将RBF神经网络复杂度、训练精度及连接权值平滑度作为优化目标同时进行优化,提高了RBF神经网络的泛化性能。非线性系统建模的实验结果表明:提出的AGMOPSO-SORBF神经网络不仅能够优化RBF神经网络结构和参数,神经网络预测精度也得到较大较高。