公平机器学习:概念、分析与设计

被引:18
作者
古天龙 [1 ,2 ]
李龙 [1 ,2 ]
常亮 [2 ]
罗义琴 [1 ]
机构
[1] 暨南大学信息科学技术学院
[2] 桂林电子科技大学广西可信软件重点实验室
关键词
机器学习; 公平性; 隐私保护; 可解释; 人工智能伦理;
D O I
暂无
中图分类号
TP181 [自动推理、机器学习];
学科分类号
摘要
随着人工智能的发展,机器学习技术越来越多地应用于社会各个领域,用以辅助或代替人们进行决策,特别是在一些具有重要影响的领域,例如,信用程度评级、学生质量评估、福利资源分配、疾病临床诊断、自然语言处理、个性信息推荐、刑事犯罪判决、无人驾驶等.如何在这些应用中确保决策公平或者无偏见?如何在这些应用中保护弱势群体的利益?这些问题直接影响到社会和公众对机器学习的信任,影响到人工智能技术的应用与系统的部署.通过系统梳理和全面剖析近年来的工作,对机器学习公平性或公平机器学习的定义及度量进行了解释及对比;从机器学习的全生命周期出发,对不同环节中出现的各类偏见及其发现技术进行了归类及阐释;从预处理、中间处理和后处理三个阶段,对公平机器学习的设计技术进行了介绍和分析;从可信赖人工智能全局出发,对公平性与隐私保护、可解释性之间的关系、影响及协同解决方案进行了阐述;最后对公平机器学习领域中亟待解决的主要问题、挑战及进一步研究热点进行了讨论.
引用
收藏
页码:1018 / 1051
页数:34
相关论文
共 65 条
  • [21] Social Data: Biases, Methodological Pitfalls, and Ethical Boundaries[J] . Olteanu Alexandra,Castillo Carlos,Diaz Fernando,K?c?man Emre.Frontiers in Big Data . 2019
  • [22] Establishing the rules for building trustworthy AI
    Floridi, Luciano
    [J]. NATURE MACHINE INTELLIGENCE, 2019, 1 (06) : 261 - 262
  • [23] Algorithmic Bias? An Empirical Study of Apparent Gender-Based Discrimination in the Display of STEM Career Ads
    Lambrecht, Anja
    Tucker, Catherine
    [J]. MANAGEMENT SCIENCE, 2019, 65 (07) : 2966 - 2981
  • [24] Assessing gender bias in machine translation: a case study with Google Translate[J] . Marcelo O. R. Prates,Pedro H. Avelar,Luís C. Lamb.Neural Computing and Applications . 2019 (prep)
  • [25] AI Fairness 360: An extensible toolkit for detecting and mitigating algorithmic bias[J] . Rachel K. E. Bellamy,Kuntal Dey,Michael Hind,Samuel C. Hoffman,Stephanie Houde,Kalapriya Kannan,Pranay Lohia,Jacquelyn Martino,Sameep Mehta,Aleksandra Mojsilovic,Seema Nagar,Karthikeyan Natesan Ramamurthy,John T. Richards,Diptikalyan Saha,Prasanna Sattigeri,Moninder Singh,Kush R. Varshney,Yunfeng Zhang.IBM Journal of Research and Development . 2019 (4/5)
  • [26] A Framework for Understanding Unintended Consequences of Machine Learning[J] . Harini Suresh,John V. Guttag.CoRR . 2019
  • [27] Fairness with Dynamics[J] . Min Wen,Osbert Bastani,Ufuk Topcu.CoRR . 2019
  • [28] Deep Learning for Face Recognition: Pride or Prejudiced?[J] . Shruti Nagpal,Maneet Singh,Richa Singh 0001,Mayank Vatsa,Nalini K. Ratha.CoRR . 2019
  • [29] Fair Meta-Learning: Learning How to Learn Fairly[J] . Dylan Slack,Sorelle A. Friedler,Emile Givental.CoRR . 2019
  • [30] Disparate Vulnerability: on the Unfairness of Privacy Attacks Against Machine Learning[J] . Mohammad Yaghini,Bogdan Kulynych,Carmela Troncoso.CoRR . 2019