公平机器学习:概念、分析与设计

被引：18

作者：

古天龙 ^{[1
,2
]}

李龙 ^{[1
,2
]}

常亮 ^{[2
]}

罗义琴 ^{[1
]}

机构：

[1] 暨南大学信息科学技术学院

[2] 桂林电子科技大学广西可信软件重点实验室

来源：

计算机学报 | 2022年 / 45卷 / 05期

关键词：

机器学习; 公平性; 隐私保护; 可解释; 人工智能伦理;

D O I：

暂无

中图分类号：

TP181 [自动推理、机器学习];

学科分类号：

摘要：

随着人工智能的发展,机器学习技术越来越多地应用于社会各个领域,用以辅助或代替人们进行决策,特别是在一些具有重要影响的领域,例如,信用程度评级、学生质量评估、福利资源分配、疾病临床诊断、自然语言处理、个性信息推荐、刑事犯罪判决、无人驾驶等.如何在这些应用中确保决策公平或者无偏见?如何在这些应用中保护弱势群体的利益?这些问题直接影响到社会和公众对机器学习的信任,影响到人工智能技术的应用与系统的部署.通过系统梳理和全面剖析近年来的工作,对机器学习公平性或公平机器学习的定义及度量进行了解释及对比;从机器学习的全生命周期出发,对不同环节中出现的各类偏见及其发现技术进行了归类及阐释;从预处理、中间处理和后处理三个阶段,对公平机器学习的设计技术进行了介绍和分析;从可信赖人工智能全局出发,对公平性与隐私保护、可解释性之间的关系、影响及协同解决方案进行了阐述;最后对公平机器学习领域中亟待解决的主要问题、挑战及进一步研究热点进行了讨论.

引用

页码：1018 / 1051

页数：34

共 65 条

[1] 可信机器学习的公平性综述
刘文炎
沈楚云
王祥丰
金博
卢兴见
王晓玲
查宏远
何积丰
[J]. 软件学报, 2021, 32 (05) : 1404 - 1426
[2] 伦理智能体及其设计:现状和展望
古天龙
李龙
[J]. 计算机学报, 2021, 44 (03) : 632 - 651
[3] 面向深度学习的公平性研究综述
陈晋音
陈奕芃
陈一鸣
郑海斌
纪守领
时杰
程瑶
[J]. 计算机研究与发展, 2021, 58 (02) : 264 - 280
[4] 机器学习的可解释性
陈珂锐
孟小峰
[J]. 计算机研究与发展, 2020, (09) : 1971 - 1986
[5] 深度神经网络测试研究综述
王赞
闫明
刘爽
陈俊洁
张栋迪
吴卓
陈翔
[J]. 软件学报, 2020, 31 (05) : 1255 - 1275
[6] 机器学习[M]. 清华大学出版社 , 周志华, 2016
[7] Post-comparison mitigation of demographic bias in face recognition using fair score normalization[J] . Terh?rst Philipp,Kolf Jan Niklas,Damer Naser,Kirchbuchner Florian,Kuijper Arjan.Pattern Recognition Letters . 2020 (prep)
[8] Learning Fair Naive Bayes Classifiers by Discovering and Eliminating Discrimination Patterns[J] . YooJung Choi,Golnoosh Farnadi,Behrouz Babaki,Guy Van den Broeck.Proceedings of the AAAI Conference on Artificial Intelligence . 2020 (06)
[9] A Causal Inference Method for Reducing Gender Bias in Word Embedding Relations[J] . Zekun Yang,Juan Feng.Proceedings of the AAAI Conference on Artificial Intelligence . 2020 (05)
[10] A snapshot of the frontiers of fairness in machine learning
Chouldechova A.
Roth A.
[J]. Communications of the ACM, 2020, 63 (05) : 82 - 89

← 1 2 3 4 5 6 7 →