智能教育场景下的算法歧视:潜在风险、成因剖析与治理策略

被引:24
作者
倪琴 [1 ,2 ]
刘志 [2 ,3 ]
郝煜佳 [2 ]
贺樑 [2 ,3 ]
机构
[1] 上海师范大学人工智能教育研究院
[2] 华东师范大学上海智能教育研究院
[3] 华东师范大学计算机科学与技术学院
关键词
智能教育; 算法歧视; 教育公平; 风险治理;
D O I
暂无
中图分类号
G434 [计算机化教学];
学科分类号
040110 ;
摘要
随着人工智能在教育场景中应用的不断深化,智能教育以其个性化、定制化等独有优势改变了当下的教育格局,但智能教育也面临着算法歧视的潜在风险,如教育结果的单一化、加剧教育不公平、学习结果两极分化、人机交互加深偏见等。同时,在智能教育系统的开发与应用过程中,设计团队存在思维定势、机器学习的偏差、交互式决策的危机等问题使算法歧视的成因更为多样化。而解决对智能教育系统中存在的算法歧视问题,需从促进多主体共同参与,构建多元评价标准,以及通过技术赋能等三方面落实治理策略。具体到技术治理,可根据时间维度划分为三阶段治理,即在事前加强数据歧视检测,在事中建立可解释、可审查的算法优化机制,在事后坚持学生在教育教学活动中的主体性。
引用
收藏
页码:93 / 100
页数:8
相关论文
共 26 条
[1]   欧盟人工智能的规制路径及其对我国的启示——以《人工智能法案》为分析对象 [J].
曾雄 ;
梁正 ;
张辉 .
电子政务, 2022, (09) :63-72
[2]   理论与技术双向驱动的学生综合素养评价新范式 [J].
郑勤华 ;
陈丽 ;
郭利明 ;
王怀波 ;
柴唤友 .
中国电化教育, 2022, (04) :56-63
[3]   算法歧视的表现、成因与治理策略 [J].
刘朝 .
人民论坛, 2022, (02) :64-68
[4]   互联网平台协同治理体系构建——基于全景式治理框架的分析 [J].
梁正 .
人民论坛·学术前沿, 2021, (21) :26-36
[5]   “互联网+教育”研究的十大学术新命题 [J].
陈丽 ;
徐亚倩 .
电化教育研究, 2021, 42 (11) :5-12
[6]   智能时代的教育伦理风险及应然向度 [J].
王旦 ;
张熙 ;
侯浩翔 .
教育研究与实验, 2021, (04) :34-39+96
[7]   人工智能教育应用的偏见风险分析与治理 [J].
沈苑 ;
汪琼 .
电化教育研究, 2021, 42 (08) :12-18
[8]   可信机器学习的公平性综述 [J].
刘文炎 ;
沈楚云 ;
王祥丰 ;
金博 ;
卢兴见 ;
王晓玲 ;
查宏远 ;
何积丰 .
软件学报, 2021, 32 (05) :1404-1426
[9]   人工智能时代的算法歧视及其治理路径 [J].
刁生富 ;
张艳 .
佛山科学技术学院学报(社会科学版), 2021, 39 (01) :5-10+28
[10]  
论人工智能对教育公正的影响[J]. 伏志强.教育伦理研究. 2020(00)