BP网络在多元回归分析中的应用

“人工神经网络”(ARTIFICIAL NEURAL NETWORK，简称A．N．N．)是在对人脑组织结构和运行机制的认识理解基础之上模拟其结构和智能行为的一种工程系统。 人工神经网络同现行的计算机不同，它是一种非线性的处理单元。只有当神经元对所有的输入信号的综合处理结果超过某一阈值后才输出一个信号。因此神经网络是一种具有高度非线性的超大规模连续时间动力学系统。它突破了传统的以线性处理为基础的数字电子计算机的局限，标志着人们智能信息处理能力和模拟人脑智能行为能力的一大飞跃。 神经网络的关键，就在于每个处理单元之间建立适当的连结，这就像脑神经细胞间彼此用突触做沟通的渠道一样。 这些神经元的连结并不象想象的那样杂乱无章，而是通常被组织成层次分明的神经元，每一层内的神经元接受下层神经元的讯号，并向上送出结果。其中，输入层负责接收资料，而输出层则送出最终的结果，通常它们之间还存在着隐藏层，夹杂在两者之间，因此，这种结构使我们无法预测输入的资料将怎样在这些神经元之间流动。 每个神经元都收到由前一层发出的讯号，然后，将各个讯号经过加权处理，归纳出最后的结果，再传给上一层的神经元。于是，神经网络的关键就在于如何决定每一神经元的权值。 神经网络需要经过训练来调整这个比值，在训练开始前，每一比值都用随机方法决定，这种神经网络可被解读为人脑最初的浑沌状态。 误差反向传播神经网络BP(Error Back Propagation Neural Network)是1986年由Rumelhart和Hinton提出的，他是一种能向着满足给定的输入输出关系方向进行自组织的神经网络。当输出层上的实际输出与给定的教师输入不一致时，用最速下降法修正各层之间的结合强度，直到最终满足给定的输出输入关系为止。由于误差传播的方向与信号传播的方向正好相反，故而称为误差反向传播神经网络。 误差修正型学习算法的基本思想是利用输出层单元期望输出与实际输出值之间的差异作为连接权调整的根据，通过反复循环直至最后减小这种差异至某一符合要求的范围内为止。 本文重点分析了BP网络的结构、训练算法、工作机制及其在回归分析中的应用；为提高BP网络的收敛性和收敛速度，本文对BP网络的算法进行了改进研究，并结合工作实际，对BP网络的应用做了研究。