人工智能决策的公平感知

被引：16

作者：

蒋路远 ^{[1
]}

曹李梅 ^{[1
]}

秦昕 ^{[1
]}

谭玲 ^{[2
]}

陈晨 ^{[1
]}

彭小斐 ^{[1
]}

机构：

[1] 中山大学管理学院

[2] 广东工业大学管理学院

来源：

心理科学进展 | 2022年 / 30卷 / 05期

基金：

长江学者奖励计划;

关键词：

人工智能; 算法; 公平; 决策;

D O I：

暂无

中图分类号：

B842 [心理过程与心理状态]; TP18 [人工智能理论];

学科分类号：

040201 ; 081104 ; 0812 ; 0835 ; 1405 ;

摘要：

不平等问题是全球社会和经济发展需要应对的首要挑战,也是实现全球可持续发展目标的核心障碍。人工智能(artificial intelligence, AI)为缓解不平等、促进社会公平提供了新的途径。然而,新近研究发现,即使客观上AI决策具有公平性和准确性,个体仍可能对AI决策的公平感知较低。因此,近年来越来越多的研究开始关注AI决策公平感知的影响因素。然而,目前研究较为分散,呈现出研究范式不统一、理论不清晰和机制未厘清等特征。这既不利于跨学科的研究对话,也不利于研究者和实践者对AI决策公平感知形成系统性理解。基于此,通过系统的梳理,现有研究可以划分为两类:(1) AI单一决策的公平感知研究,主要聚焦于AI特征和个体特征如何影响个体对AI决策的公平感知;(2) AI-人类二元决策的公平感知研究,主要聚焦于对比个体对AI决策与人类决策公平感知的差异。在上述梳理基础上,未来研究可以进一步探索AI决策公平感知的情绪影响机制等方向。

引用

页码：1078 / 1092

页数：15

共 73 条

[21] The MAIN Model:A Heuristic Approach to Understanding Technology Effects on Credibility. Sundar,S.S. Digital Media,Youth,and Credibility . 2008
[22] 50 years of test（un）fairness:Lessons for machine learning. Hutchinson B,Mitchell M. Proceedings of the Conference on Fairness,Accountability, and Transparency . 2019
[23] Procedural justice in algorithmic fairness:Leveraging transparency and outcome control for fair algorithmic mediation. Lee,M.K,Jain,A,Cha,H.J,Ojha,S,Kusbit,D. Proceedings of the ACM on Human-Computer Interaction . 2019
[24] Who is included in human perceptions of AI?Trust and perceived fairness around healthcare AI and cultural mistrust. Lee,M.K,Rich,K. Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems . 2021
[25] A study on fairness and trust perceptions in automated decision making. Schoeffer,J,Machowski,Y,Kuehl N. Proceedings of the ACM IUI 2021 Workshops . 2021
[26] 不公平感及相关决策的认知神经机制[J]. 郭秀艳,郑丽,程雪梅,刘映杰,李林.心理科学进展. 2017(06)
[27] 非人化研究:理论比较及其应用[J]. 杨文琪,金盛华,何苏日那,张潇雪,范谦.心理科学进展. 2015(07)
[28] 公平加工的情境依赖性:来自ERP的证据
吴燕
周晓林
[J]. 心理学报, 2012, 44 (06) : 797 - 806
[29] 负性情绪抑制对社会决策行为的影响
王芹
白学军
郭龙健
沈德立
[J]. 心理学报, 2012, 44 (05) : 690 - 697
[30] 中国社会公平状况分析──价值判断、权益失衡与制度保障
郑功成
[J]. 中国人民大学学报 , 2009, (02) : 2 - 11

← 1 2 3 4 5 6 7 8 →