基于稀疏高斯伯努利受限玻尔兹曼机的故障分类

被引:0
作者
杨杰
机构
[1] 浙江大学
关键词
稀疏高斯伯努利受限玻尔兹曼机; 故障分类; 非线性; 动态性; 循环神经网络;
D O I
暂无
年度学位
2018
学位类型
硕士
导师
摘要
过程监测在保证生产过程的安全平稳运行、提高产品质量、减少故障带来的负面影响和提升企业信誉等各方面发挥着不可忽视的作用。近几年来,得益于信息技术的发展和设备存储性能的提升,数据驱动的过程监测方法是工业界和学术界的研究热点。但是传统的数据驱动方法以过程变量服从线性关系、采样独立同分布等简单假设为前提,而在实际工业场景的应用中面临很大的局限性。以深度学习为代表的特征提取方法近年来在自然语言处理、计算机视觉等领域得到成功应用和发展,深度学习表现出了强大的非线性信息学习能力,同时它也适用于序列数据建模,提取数据的动态性特征。本文针对过程监测中的故障分类问题,研究了基于稀疏高斯伯努利受限玻尔兹曼机的故障分类方法,并以此为基础进行研究拓展,主要研究工作包括:(1)传统高斯伯努利受限玻尔兹曼机(GRBM)是无监督训练的生成模型,本文从提出GRBM的能量函数出发,引入类别层,提出了一种类别高斯伯努利受限玻尔兹曼机模型(CGRBM),为了减小模型训练的过拟合风险,在训练中添加稀疏性约束,从而提升故障分类能力。(2)基于堆叠的稀疏高斯伯努利受限玻尔兹曼机,构建一个双隐层的4层深度网络,首先逐层初始化预训练,考虑到相邻样本的采样相关性,然后结合强化学习中的Q-learning方法来调整网络权重。新的深度网络方法通过多层的非线性变换学习数据高层的抽象表达,提取出更加复杂的分类特征。(3)在SGRBM模型基础上,结合基于长短时记忆单元的循环神经网络(LSTM-RNN),堆叠并构建了 SGRBM-LSTM-RNN网络,该方法既兼具了SGRBM优异的非线性特征学习能力,同时能够通过循环神经网络感知序列数据的动态性,从而取得更好地故障分类效果。
引用
收藏
页数:79
共 21 条
[1]
Data-driven soft sensor development based on deep learning technique [J].
Shang, Chao ;
Yang, Fan ;
Huang, Dexian ;
Lyu, Wenxiang .
JOURNAL OF PROCESS CONTROL, 2014, 24 (03) :223-233
[2]
Improved kernel PCA-based monitoring approach for nonlinear processes [J].
Ge, Zhiqiang ;
Yang, Chunjie ;
Song, Zhihuan .
CHEMICAL ENGINEERING SCIENCE, 2009, 64 (09) :2245-2255
[3]
Representational power of restricted Boltzmann machines and deep belief networks [J].
Le Roux, Nicolas ;
Bengio, Yoshua .
NEURAL COMPUTATION, 2008, 20 (06) :1631-1649
[4]
The Bayesian Lasso [J].
Park, Trevor ;
Casella, George .
JOURNAL OF THE AMERICAN STATISTICAL ASSOCIATION, 2008, 103 (482) :681-686
[5]
Nonlinear biological batch process monitoring and fault identification based on kernel fisher discriminant analysis [J].
Xi, Zhang ;
Weiwu, Yan ;
Xu, Zhao ;
Huihe, Shao .
PROCESS BIOCHEMISTRY, 2007, 42 (08) :1200-1210
[6]
A fast learning algorithm for deep belief nets [J].
Hinton, Geoffrey E. ;
Osindero, Simon ;
Teh, Yee-Whye .
NEURAL COMPUTATION, 2006, 18 (07) :1527-1554
[7]
Identification of contributing variables using kernel-based discriminant modeling and reconstruction.[J].Hyun-Woo Cho.Expert Systems With Applications.2006, 2
[8]
Improved principal component monitoring of large-scale processes [J].
Kruger, U ;
Zhou, YQ ;
Irwin, GW .
JOURNAL OF PROCESS CONTROL, 2004, 14 (08) :879-888
[9]
Fault detection and identification of nonlinear processes based on kernel PCA.[J].Sang Wook Choi;Changkyu Lee;Jong-Min Lee;Jin Hyun Park;In-Beum Lee.Chemometrics and Intelligent Laboratory Systems.2004, 1
[10]
Nonlinear process monitoring using kernel principal component analysis.[J].Jong-Min Lee;ChangKyoo Yoo;Sang Wook Choi;Peter A. Vanrolleghem;In-Beum Lee.Chemical Engineering Science.2003, 1