深度学习可解释性研究进展

被引：68

作者：

成科扬 ^{[1
,2
]}

王宁 ^{[1
]}

师文喜 ^{[2
,3
]}

詹永照 ^{[1
]}

机构：

[1] 江苏大学计算机科学与通信工程学院

[2] 社会安全风险感知与防控大数据应用国家工程实验室(中国电子科学研究院)

[3] 新疆联海创智信息科技有限公司

来源：

计算机研究与发展 | 2020年 / 57卷 / 06期

关键词：

人工智能; 深度学习; 可解释性; 神经网络; 可视化;

D O I：

暂无

中图分类号：

TP18 [人工智能理论];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

深度学习的可解释性研究是人工智能、机器学习、认知心理学、逻辑学等众多学科的交叉研究课题,其在信息推送、医疗研究、金融、信息安全等领域具有重要的理论研究意义和实际应用价值.从深度学习可解释性研究起源、研究探索期、模型构建期3方面回顾了深度学习可解释性研究历史,从可视化分析、鲁棒性扰动分析、敏感性分析3方面展现了深度学习现有模型可解释性分析研究现状,从模型代理、逻辑推理、网络节点关联分析、传统机器学习模型改进4方面剖析了可解释性深度学习模型构建研究,同时对当前该领域研究存在的不足作出了分析,展示了可解释性深度学习的典型应用,并对未来可能的研究方向作出了展望.

引用

页码：1208 / 1217

页数：10

共 19 条

[1] 深度学习的可解释性
吴飞
廖彬兵
韩亚洪
[J]. 航空兵器, 2019, 26 (01) : 39 - 46
[2] 基于双向分层语义模型的多源新闻评论情绪预测
张莹
王超
郭文雅
袁晓洁
[J]. 计算机研究与发展 , 2018, (05) : 933 - 944
[3] 可解释化、结构化、多模态化的深度神经网络
熊红凯
高星
李劭辉
徐宇辉
王涌壮
余豪阳
刘昕
张云飞
[J]. 模式识别与人工智能, 2018, 31 (01) : 1 - 11
[4] 基于局部语义聚类的语义重叠社区发现算法
辛宇
杨静
汤楚蘅
葛斯乔
[J]. 计算机研究与发展, 2015, 52 (07) : 1510 - 1521
[5] Learning to activate logic rules for textual reasoning[J] . Yiqun Yao,Jiaming Xu,Jing Shi,Bo Xu.Neural Networks . 2018
[6] The Mythos of Model Interpretability[J] . Zachary C. Lipton.Queue . 2018 (3)
[7] Deep learning for finance: deep portfolios[J] . J. B. Heaton,N. G. Polson,J. H. Witte.Applied Stochastic Models in Business and Industr . 2017 (1)
[8] Reverse Engineering the Neural Networks for Rule Extraction in Classification Problems
Augasta, M. Gethsiyal
Kathirvalavakumar, T.
[J]. NEURAL PROCESSING LETTERS, 2012, 35 (02) : 131 - 150
[9] A REGIONAL ECONOMY, LAND USE, AND TRANSPORTATION MODEL （RELU‐TRAN＜sub＞?＜/sub＞）: FORMULATION, ALGORITHM DESIGN, AND TESTING*[J] . AlexAnas,YuLiu.Journal of Regional Science . 2007 (3)
[10] Robust discrete optimization and network flows
Dimitris Bertsimas
Melvyn Sim
[J]. Mathematical Programming, 2003, 98 : 49 - 71

← 1 2 →