协作式生成对抗网络

被引:40
作者
张龙
赵杰煜
叶绪伦
董伟
机构
[1] 宁波大学信息科学与工程学院
基金
浙江省自然科学基金;
关键词
生成对抗网络; 协作式; 模式坍塌; 生成模型; 无监督学习;
D O I
暂无
中图分类号
TP181 [自动推理、机器学习];
学科分类号
140502 [人工智能];
摘要
生成对抗网络(Generative adversarial nets,GANs)将生成模型与判别模型进行了巧妙结合,采用无监督的训练方式,通过相互对抗共同提高,其在学术界掀起了一股新的机器学习热潮.GANs的学习目标是可以完整拟合任意真实样本的数据分布,然而在实际当中,真实样本分布的复杂程度难以预计,容易发生模式坍塌(Mode collapse)等问题,从而导致结果冗余,模型不收敛等.为提高无监督条件下的GANs生成能力,减少或消除模式坍塌,本文提出一种全新的协作式生成网络结构,通过构建多个生成模型,引入协作机制,使得生成模型在训练过程中能够相互学习,共同进步,从而提高模型对真实数据的拟合能力,进一步提高生成质量.通过在三组不同类型的数据集上进行实验,分析对比结果后发现新模型在二维图像生成方面,特别是人脸图片,有着显著的效果,协作机制不仅可以加快模型收敛速度,提高训练效率,还能消除损失函数噪声,在三维模型生成方面也产生了一定的影响.通过调整模型参数,模式坍塌问题也得到了遏制.本文还设计了一种动态学习方法,动态调节模型的学习速率,有效减少了过大或过小的梯度惩罚.
引用
收藏
页码:804 / 810
页数:7
相关论文
共 2 条
[1]
Discriminative deep belief networks for visual data classification.[J].Yan Liu;Shusen Zhou;Qingcai Chen.Pattern Recognition.2010, 10
[2]
To recognize shapes; first learn to generate images.[J].Geoffrey E. Hinton.Progress in Brain Research.2007,