Lasso及其相关方法在广义线性模型模型选择中的应用

模型选择在统计建模过程中是极其重要的问题,但传统的逐步回归结合信息准则的方法却存在一些不足。Tibshirani,R.(1996)针对这一问题提出了一种称之为Lasso的新的模型选择方法。该方法很好的克服了传统方法的一些不足。Efron等(2004)提出了能很好地解决Lasso问题的算法。但Lasso方法在理论上也存在一些不足,因此很多学者对此提出了改进,如:SCAD(Fan 2001)、Adaptive-lasso(Zou 2006和Wang 2007)、elastic net(Zou和Hastie 2005)、Relaxed Lasso(Nicolai Meinshausen 2007)等。 本文的工作主要有三点: (1)基于线性模型对Lasso、SCAD、Adaptive-lasso、elasticnet、Relaxed Lasso等方法进行了系统比较研究,指出了它们之间的联系; (2)基于Logistic回归通过实际数据研究了Lasso及其相关方法的一些差异,并在此基础上系统介绍了基于Lasso方法的广义线性模型模型选择的统一处理框架; (3)指出了有待进一步研究的问题。