AI大模型在教育应用中的伦理风险与应对

被引：14

作者：

禇乐阳

潘香霖

陈向东

机构：

[1] 华东师范大学教育学部

来源：

苏州大学学报(教育科学版) | 2024年 / 12卷 / 01期

关键词：

大模型; AI伦理; 数据隐私; 风险行为;

D O I：

10.19563/j.cnki.sdjk.2024.01.009

中图分类号：

TP18 [人工智能理论]; G434 [计算机化教学];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ; 040110 ;

摘要：

大模型的巨大应用潜能与伴随而来的伦理问题引发了教育领域的广泛关注。伦理问题虽不是大模型所独有，但目前的技术架构增加了AI教育应用伦理的复杂性。大模型导致的伦理问题与自身的技术特征息息相关，脱离技术探讨AI伦理问题无助于理解其教育应用的真实困境。引发大模型教育应用伦理困境的主要技术诱因，包括预训练、交互、交付方式对数据隐私保护的隐患，以及偏见、有毒文本与幻觉的风险行为对生成内容管控的挑战。为应对这些问题，要形成“人在回路中”的政策监管，推进大模型应用民主化，以及突出基于嵌入式伦理的大模型普及教育。本研究强调了技术伦理审视在确保教育公平、有效和有益的重要作用，为教育工作者和技术开发者了解和应对大模型的伦理风险提供全方位的视角。

引用

页码：87 / 96

页数：10

共 11 条

[1] ChatGPT对教育带来的挑战与机遇(笔会) [J].

王洪才 ;

龙宝新 ;

毛菊 ;

周仕德 ;

周序 ;

段会冬 ;

崔岐恩 .

苏州大学学报(教育科学版) , 2023, (02) :11-24

[2] 教育数字化转型的技术预见:基于AIGC的行动框架 [J].

陈向东 ;

褚乐阳 ;

王浩 ;

金慧 .

远程教育杂志, 2023, 41 (02) :13-24

[3] 教育人工智能伦理的解析与治理——《人工智能伦理问题建议书》的教育解读 [J].

苗逢春 .

中国电化教育, 2022, (06) :22-36

[4] 算法治理的技术迷思与行动选择 [J].

邱泽奇 .

人民论坛·学术前沿, 2022, (10) :29-43

[5] 隐私保护与开放共享：人工智能时代的教育数据治理变革 [J].

田贤鹏 .

电化教育研究, 2020, 41 (05) :33-38

[6]

Ethics of large language models in medicine and medical research.[J] Li Hanzhou;Moon John T;Purkayastha Saptarshi;Celi Leo Anthony;Trivedi Hari;Gichoya Judy W The Lancet. Digital health 2023,

[7]

ChatGPT for good? On opportunities and challenges of large language models for education[J] Kasneci Enkelejda;Sessler Kathrin;Küchemann Stefan;Bannert Maria;Dementieva Daryna;Fischer Frank;Gasser Urs;Groh Georg;Günnemann Stephan;Hüllermeier Eyke;Krusche Stepha;Kutyniok Gitta;Michaeli Tilman;Nerdel Claudia;Pfeffer Jürgen;Poquet Oleksandra;Sailer Michael;Schmidt Albrecht;Seidel Tina;Stadler Matthias;Weller Jochen;Kuhn Jochen;Kasneci Gjergji Learning and Individual Differences 2023,

[8]

The debate over understanding in AI's large language models.[J] Mitchell Melanie;Krakauer David C Proceedings of the National Academy of Sciences of the United States of America 2023,

[9]

Ethics of AI in Education: Towards a Community-Wide Framework[J] Wayne Holmes;Kaska Porayska-Pomsta;Ken Holstein;Emma Sutherland;Toby Baker;Simon Buckingham Shum;Olga C. Santos;Mercedes T. Rodrigo;Mutlu Cukurova;Ig Ibert Bittencourt;Kenneth R. Koedinger International Journal of Artificial Intelligence in Education 2021,

[10]

A Survey on Bias and Fairness in Machine Learning.[J] Ninareh Mehrabi;Fred Morstatter;Nripsuta Saxena;Kristina Lerman;Aram Galstyan CoRR 2019,

← 1 2 →