走向可解释性：打开教育中人工智能的“黑盒”

被引：33

作者：

刘桐

顾小清

机构：

[1] 华东师范大学教育信息技术学系

来源：

中国电化教育 | 2022年 / 05期

关键词：

教育人工智能; 可解释性; “黑盒”模型; 人在回路;

D O I：

暂无

中图分类号：

G434 [计算机化教学];

学科分类号：

040110 ;

摘要：

教育是人工智能的重要应用领域，探索教育中人工智能的可解释性，是让人工智能在教育领域中更具“责任感”的重要议题。该文从教育中人工智能应用的现实问题出发，重点回应教育中人工智能的可解释性是什么，做了什么，以及未来走向三个问题。首先，以数据、任务、模型、人四个关键要素为切入点，分析阐述教育中人工智能的可解释性内涵；之后纵观教育中人工智能的可解释工作的演进过程，分析得出已有工作在教育意义注入、模型趋于复杂以及单向解释信息传递等方面的局限性；最后，从知识联邦、模型融生、人在回路三个角度，阐释教育中人工智能可解释性的未来发展方向。

引用

页码：82 / 90

页数：9

共 22 条

[1] 人工智能赋能教育的伦理思考 [J].

李子运 .

中国电化教育, 2021, (11) :39-45

[2] 面向智能时代的教育变革——关于科技与教育双向赋能的命题 [J].

黄荣怀 ;

王运武 ;

焦艳丽 .

中国电化教育, 2021, (07) :22-29

[3] 欧洲通用数据保护条例(GDPR)视角下深度学习算法的理据性问题刍议 [J].

黄闪闪 ;

林田 .

系统科学学报 , 2021, (01) :31-34+66

[4]

Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI[J] . Alejandro Barredo Arrieta,Natalia Díaz-Rodríguez,Javier Del Ser,Adrien Bennetot,Siham Tabik,Alberto Barbado,Salvador Garcia,Sergio Gil-Lopez,Daniel Molina,Richard Benjamins,Raja Chatila,Francisco Herrera.Information Fusion . 2020 (C)

[5] DARPA's Explainable Artificial Intelligence Program [J].

Gunning, David ;

Aha, David W. .

AI MAGAZINE, 2019, 40 (02) :44-58

[6]

Explanation in artificial intelligence: Insights from the social sciences[J] . Tim Miller.Artificial Intelligence . 2018

[7]

Seeking reproducibility: Assessing a multimodal study of the testing effect[J] . M. Beardsley,D. Hernández‐Leo,R. Ramirez‐Melendez.Journal of Computer Assisted Learning . 2018 (4)

[8] European Union Regulations on Algorithmic Decision Making and a "Right to Explanation" [J].

Goodman, Bryce ;

Flaxman, Seth .

AI MAGAZINE, 2017, 38 (03) :50-57

[9] Towards Better Analysis of Deep Convolutional Neural Networks [J].

Liu, Mengchen ;

Shi, Jiaxin ;

Li, Zhen ;

Li, Chongxuan ;

Zhu, Jun ;

Liu, Shixia .

IEEE TRANSACTIONS ON VISUALIZATION AND COMPUTER GRAPHICS, 2017, 23 (01) :91-100

[10]

Context in problem solving: a survey[J] . Brézillon Patrick.The Knowledge Engineering Review . 1999 (1)

← 1 2 3 →