算法歧视的认定标准

被引:15
作者
宁园
机构
基金
中国博士后科学基金;
关键词
算法控制; 算法歧视; 横向权力; 区分决策; 差别不利后果; “大数据杀熟”; 评分算法;
D O I
10.14086/j.cnki.wujss.2022.06.015
中图分类号
D922.16 [文教、卫生管理法令]; TP311.13 [];
学科分类号
1201 ;
摘要
学界有关算法歧视规制的研究,欠缺算法歧视的认定这一逻辑前提,导致反算法歧视的规制范围过宽,算法应用与算法正义之间的矛盾被过分夸大,有必要明确算法歧视的认定规则。算法歧视以横向权力关系的存在为必要前提,不存在横向权力关系则算法歧视不成立。当算法控制者以用户固有的、难以改变的特性对其进行分类,并单方决定适用于用户的算法规则,用户只能被动接受决策结果而无退出算法系统之自由时,横向权力关系形成。在算法歧视的具体认定上,算法歧视以区分决策为行为要件,以用户遭受差别不利对待为结果要件。算法控制者若能证明差别对待具有合理性,则不构成算法歧视。搜索算法、人机对话算法对社会歧视的单纯呈现,以及社会经济发展、算法应用普及不平衡导致的算法红利分配失衡,均因欠缺区分决策要件,不构成算法歧视;“大数据杀熟”、评分算法所造成的差别对待并非必然构成歧视,须进行个案分析。
引用
收藏
页码:154 / 165
页数:12
相关论文
共 12 条