Boosting算法研究及其在光谱分析中的应用

被引:0
作者
乐斌
机构
[1] 浙江大学
关键词
机器学习; 集成学习; Boosting; 神经网络; 回归; 水质分析; 紫外光谱;
D O I
暂无
年度学位
2004
学位类型
硕士
导师
摘要
集成学习算法通过训练多个弱学习算法并将其结论进行合成,可以显著地提高学习系统的泛化能力。Boosting算法作为集成学习算法的主要代表算法,得到了广泛的研究和应用,但其研究成果大部分都集中的分类问题上。 本文主要研究了Boosting回归算法。首先对以损失函数梯度下降为原理的样本无权值算法进行了阐述,并给出了一个实际问题的仿真结果。其次对按概率取样本的有权值算法进行了大量实验,实验结果显示出按概率选择样本权值算法比无权值算法的总体性能更为优秀,但其个体算法的不稳定性以及为了获得稳定结果所需要的巨大计算时间使其不可能成为一种能广泛应用的算法。针对以上两种方法的缺陷,本文提出了一种新的按概率取样本的改进算法。仿真结果显示,改进算法比前两种算法的性能都要优秀。算法的计算时间和算法的精度相关,因此在实际应用中可以通过平衡算法性能和计算时间来获得需要的结果。最后,对改进算法所表现出来的不足,本文提出了一种结合无权值算法的方法,虽然这个算法的最终计算结果相比改进算法在性能上没有太大的提高,但是它能在开始的迭代中加快改进算法的收敛速度。 本文阐述了环境检测的重要性和软测量水质分析仪的必要性。介绍了一个以紫外光谱分析为原理多参数水质分析仪。详细说明了系统的测量原理、硬件结构、软件功能与所采用的智能计算方法。并将前面提出的改进算法应用到它的智能分析模型中。通过对一批水质COD数据进行的实验仿真,并将其结果和一些常用的回归方法作了比较,证明了集成学习Boosting回归算法对各种实际问题的有效性和适应性。
引用
收藏
页数:82
共 16 条
[1]
TOC分析在水质监测中的应用 [J].
黄宏 ;
颜文伟 ;
宗利强 .
福建环境, 1999, (05) :33-34
[2]
钢水碳含量模型的模糊辨识及应用 [J].
沈明新 ;
隋有功 .
自动化仪表, 1997, (04)
[3]
过程控制中的软测量技术 [J].
于静江 ;
周春晖 .
控制理论与应用, 1996, (02)
[4]
原油蒸馏塔的质量估计和优化管理 [J].
丁云 ;
于静江 ;
周春晖 .
石油炼制与化工, 1994, (05)
[5]
2000年化工自动化展望 [J].
蒋慰孙 .
化工自动化及仪表, 1994, (01)
[6]
Boosting methods for regression [J].
Duffy, N ;
Helmbold, D .
MACHINE LEARNING, 2002, 47 (2-3) :153-200
[7]
Soft margins for AdaBoost [J].
Rätsch, G ;
Onoda, T ;
Müller, KR .
MACHINE LEARNING, 2001, 42 (03) :287-320
[8]
Bagging predictors [J].
Breiman, L .
MACHINE LEARNING, 1996, 24 (02) :123-140
[9]
THE STRENGTH OF WEAK LEARNABILITY [J].
SCHAPIRE, RE .
MACHINE LEARNING, 1990, 5 (02) :197-227
[10]
SUPPORT-VECTOR NETWORKS [J].
CORTES, C ;
VAPNIK, V .
MACHINE LEARNING, 1995, 20 (03) :273-297