基于条件对数似然函数导数的贝叶斯网络分类器优化算法

被引:47
作者
王中锋
王志海
机构
[1] 北京交通大学计算机与信息技术学院
关键词
机器学习; 数据挖掘; 分类器; 贝叶斯网络; 鉴别式训练策略;
D O I
暂无
中图分类号
TP183 [人工神经网络与计算];
学科分类号
140502 [人工智能];
摘要
通常基于鉴别式学习策略训练的贝叶斯网络分类器有较高的精度,但在具有冗余边的网络结构之上鉴别式参数学习算法的性能受到一定的限制.为了在实际应用中进一步提高贝叶斯网络分类器的分类精度,该文定量描述了网络结构与真实数据变量分布之间的关系,提出了一种不存在冗余边的森林型贝叶斯网络分类器及其相应的FAN学习算法(Forest-Augmented Nave Bayes Algorithm),FAN算法能够利用对数条件似然函数的偏导数来优化网络结构学习.实验结果表明常用的限制性贝叶斯网络分类器通常存在一些冗余边,其往往会降低鉴别式参数学习算法的性能;森林型贝叶斯网络分类器减少了结构中的冗余边,更加适合于采用鉴别式学习策略训练参数;应用条件对数似然函数偏导数的FAN算法在大多数实验数据集合上提高了分类精度.
引用
收藏
页码:2364 / 2374
页数:11
相关论文
共 7 条
[1]
一种限定性的双层贝叶斯分类模型 [J].
石洪波 ;
王志海 ;
黄厚宽 ;
励晓健 .
软件学报, 2004, (02) :193-199
[2]
Boosted Bayesian network classifiers [J].
Jing, Yushi ;
Pavlovic, Vladimir ;
Rehg, James M. .
MACHINE LEARNING, 2008, 73 (02) :155-184
[3]
Not so naive Bayes: Aggregating one-dependence estimators [J].
Webb, GI ;
Boughton, JR ;
Wang, ZH .
MACHINE LEARNING, 2005, 58 (01) :5-24
[4]
Structural extension to logistic regression: Discriminative parameter learning of belief net classifiers [J].
Greiner, R ;
Su, XY ;
Shen, B ;
Zhou, W .
MACHINE LEARNING, 2005, 59 (03) :297-322
[5]
A differential approach to inference in Bayesian networks [J].
Darwiche, A .
JOURNAL OF THE ACM, 2003, 50 (03) :280-305
[6]
Lazy learning of Bayesian rules [J].
Zheng, ZJ ;
Webb, GI .
MACHINE LEARNING, 2000, 41 (01) :53-84
[7]
Bayesian network classifiers [J].
Friedman, N ;
Geiger, D ;
Goldszmidt, M .
MACHINE LEARNING, 1997, 29 (2-3) :131-163