迈向可解释的交互式人工智能：动因、途径及研究趋势

被引：34

作者：

吴丹

孙国烨

机构：

[1] 武汉大学信息管理学院

来源：

武汉大学学报(哲学社会科学版) | 2021年 / 74卷 / 05期

关键词：

人工智能; 人机交互; 可解释性; 系统透明度; 用户信任;

D O I：

10.14086/j.cnki.wujss.2021.05.002

中图分类号：

TP18 [人工智能理论]; F49 [信息产业经济];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ; 1201 ;

摘要：

近年来,人工智能的功能愈发强大,应用场景也越来越广泛。在人机交互协作成为常态的背景下,人们对人工智能可信任度及交互体验的要求也随之增高,机器的可解释性受到广大用户的高度重视,可解释的人工智能正在成为相关领域的重要议题。要迈向可解释的交互式人工智能,应当从设计指导性的框架准则、开发良好的算法模型、深入研究用户需求、构建个性化的交互式解释系统、展开有效的可解释性评估等方面发力。

引用

页码：16 / 28

页数：13

共 23 条

[1] “十四五”时期图情学科愿景展望——基于全球战略蓝图的分析 [J].

吴丹 ;

郭清玥 .

图书情报知识, 2021, 38 (03) :14-26

[2] SAR图像目标识别的可解释性问题探讨 [J].

郭炜炜 ;

张增辉 ;

郁文贤 ;

孙效华 .

雷达学报, 2020, 9 (03) :462-476

[3] 交互式信息检索研究中的眼动追踪分析 [J].

吴丹 ;

刘春香 .

中国图书馆学报, 2019, 45 (02) :109-128

[4]

Evaluating XAI: A comparison of rule-based and example-based explanations[J] . van der Waa Jasper,Nieuwburg Elisabeth,Cremers Anita,Neerincx Mark.Artificial Intelligence . 2020 (prep)

[5]

Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI[J] . Alejandro Barredo Arrieta,Natalia Díaz-Rodríguez,Javier Del Ser,Adrien Bennetot,Siham Tabik,Alberto Barbado,Salvador Garcia,Sergio Gil-Lopez,Daniel Molina,Richard Benjamins,Raja Chatila,Francisco Herrera.Information Fusion . 2020 (C)

[6]

Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization[J] . Ramprasaath R. Selvaraju,Michael Cogswell,Abhishek Das,Ramakrishna Vedantam,Devi Parikh,Dhruv Batra.International Journal of Computer Vision . 2020 (2)

[7] Explainable AI [J].