Boosting算法理论与应用研究

被引:19
作者
张文生
于廷照
机构
[1] 中科院自动化所
关键词
Boosting; 弱可学习理论; Margin理论; 集成学习; AdaBoost;
D O I
暂无
中图分类号
TP181 [自动推理、机器学习];
学科分类号
081104 ; 0812 ; 0835 ; 1405 ;
摘要
作为机器学习领域最经典算法之一,Boosting是一种学习算法,并广泛应用于机器学习与模式识别各领域.Boosting的理论研究分为可学习理论和统计学两个角度.Boosting最初从弱可学习理论角度阐明了由弱到强的提升算法,从理论上证明了一组优于随机猜测的弱学习器通过集成可提升为在训练集上任意精度的强学习器.从统计学的角度看,Boosting是一种叠加模型,理论上二者的等价性已经证明.本文首先从可学习的角度出发,回顾了Boosting算法弱可学习理论,并提出面临的问题及挑战,包括对高维数据的有效性及Margin理论;然后阐述了Boosting算法理论研究分支,并详细回顾了当前最为流行的多种经典Boosting算法及在Boosting理论框架下的新应用;最后探讨了Boosting算法的未来研究趋势.
引用
收藏
页码:222 / 230
页数:9
相关论文
共 22 条
[1]   AdaBoost算法研究进展与展望 [J].
曹莹 ;
苗启广 ;
刘家辰 ;
高琳 .
自动化学报, 2013, 39 (06) :745-758
[2]   AdaBoost及其改进算法综述 [J].
廖红文 ;
周德龙 .
计算机系统应用, 2012, 21 (05) :240-244
[3]   Boosting和Bagging综述 [J].
沈学华 ;
周志华 ;
吴建鑫 ;
陈兆乾 .
计算机工程与应用, 2000, (12) :31-32+40
[4]  
On the doubt about margin explanation of boosting[J] . Wei Gao,Zhi-Hua Zhou.Artificial Intelligence . 2013
[5]  
Twin Boosting: improved feature selection and prediction[J] . Peter Bühlmann,Torsten Hothorn.Statistics and Computing . 2010 (2)
[6]   Boosting k-nearest neighbor classifier by means of input space projection [J].
Garcia-Pedrajas, Nicolas ;
Ortiz-Boyer, Domingo .
EXPERT SYSTEMS WITH APPLICATIONS, 2009, 36 (07) :10570-10582
[7]   Aggregate features and ADABOOST for music classification [J].
James Bergstra ;
Norman Casagrande ;
Dumitru Erhan ;
Douglas Eck ;
Balázs Kégl .
Machine Learning, 2006, 65 :473-484
[8]  
Boosting With the L2 Loss[J] . Peter Bühlmann,Bin Yu.Journal of the American Statistical Association . 2003 (462)
[9]   Stochastic gradient boosting [J].
Friedman, JH .
COMPUTATIONAL STATISTICS & DATA ANALYSIS, 2002, 38 (04) :367-378
[10]  
Linear Programming Boosting via Column Generation[J] . Ayhan Demiriz,Kristin P. Bennett,John Shawe-Taylor.Machine Learning . 2002 (1)