基于Shannon熵的因子特征提取算法

被引:9
作者
贾伟宽 [1 ]
丁世飞 [1 ,2 ]
许新征 [1 ,2 ]
苏春阳 [1 ]
史忠植 [2 ]
机构
[1] 中国矿业大学计算机科学与技术学院
[2] 中国科学院计算技术研究所智能信息处理重点实验室
关键词
信息函数; Shannon熵; 特征提取; 方差贡献率;
D O I
10.16451/j.cnki.issn1003-6059.2011.03.005
中图分类号
TP301.6 [算法理论];
学科分类号
081202 ;
摘要
现存的数据提取算法,大都以方差贡献率作为评价准则,来衡量特征提取的效果.然而方差贡献率注重的是样本相关矩阵特征值的性质,并不能顾及到信息的度量问题.文中将Shannon信息熵理论引入提取算法,定义类概率、类信息函数,通过计算累计信息贡献率来确定提取特征维数,提取效果可以从信息论的角度评价.将此理论与因子分析(FA)结合,建立基于信息熵的FA特征提取算法,利用信息贡献率确定主因子提取的个数.通过实例分析,验证理论的有效性.
引用
收藏
页码:327 / 331
页数:5
相关论文
共 10 条
[1]  
人工神经网络在小麦吸浆虫预测中的应用.[D].张映梅.西北农林科技大学.2003, 01
[2]   基于相关分析和近似熵的管道泄漏声信号特征提取及辨识方法 [J].
杨进 ;
文玉梅 ;
李平 .
仪器仪表学报, 2009, 30 (02) :272-279
[3]   特征选择算法研究综述 [J].
毛勇 ;
周晓波 ;
夏铮 ;
尹征 ;
孙优贤 .
模式识别与人工智能, 2007, 20 (02) :211-218
[4]   具有良好重复率与信息量的立体影像点特征提取方法 [J].
朱庆 ;
吴波 ;
万能 ;
徐志祥 ;
田一翔 .
电子学报, 2006, (02) :205-209
[5]   统计模式识别中的维数削减与低损降维 [J].
宋枫溪 ;
高秀梅 ;
刘树海 ;
杨静宇 .
计算机学报, 2005, (11) :159-166
[6]   基于改进二维主成分分析的在线掌纹识别 [J].
李强 ;
裘正定 ;
孙冬梅 ;
刘陆陆 .
电子学报, 2005, (10) :160-163
[7]   基于SCEC的信息特征压缩算法 [J].
丁世飞 ;
靳奉祥 ;
王孝莹 ;
史忠植 ;
朱习军 .
小型微型计算机系统, 2005, (07) :1202-1205
[8]   一种新的基于信息论的PCA特征压缩算法 [J].
丁世飞 ;
靳奉祥 ;
王健 ;
王孝莹 .
小型微型计算机系统, 2004, (04) :694-697
[9]   运用信息论进行特征提取 [J].
张剑清 ;
J.A.R.Blais ;
不详 .
测绘学报 , 1990, (03) :216-224
[10]   Phoneme recognition using ICA-based feature extraction and transformation [J].
Kwon, OW ;
Lee, TW .
SIGNAL PROCESSING, 2004, 84 (06) :1005-1019