治理算法:算法风险的伦理原则及其治理逻辑

被引:52
作者
孟天广
李珍珍
机构
[1] 清华大学社会科学学院
关键词
智能社会; 算法治理; 算法风险; 算法伦理; 计算社会科学;
D O I
10.16524/j.45-1002.2022.01.005
中图分类号
D923 [民法]; TP311.13 []; TP18 [人工智能理论];
学科分类号
030105 ; 1201 ; 081104 ; 0812 ; 0835 ; 1405 ;
摘要
智能时代的特点是数据与算法在社会经济运行中发挥越来越重要的作用。然而,算法赋能社会的同时,也伴生了“信息茧房”、算法歧视、算法“黑箱”等内生风险,因此需要深刻理解算法的伦理面向,以确立算法风险的治理原则,进而构建科学有效的算法治理体系。文章基于国内外算法治理实践,从算法治理的“权力—权利”价值与“技术—社群”路径两个维度,阐述了算法风险治理及其伦理关切的四个核心面向:可控、透明、安全、公平。算法伦理风险产生于算法权力和用户权利的失衡,因此算法治理的价值在于规制算法权力并保障用户权利。算法治理的路径包括技术改进与社群约束,通过优化算法系统设计与完善算法的规制体系等方式,促进算法向善,防范或化解算法支配、算法“黑箱”、算法歧视等风险,并保障算法使用的安全性。
引用
收藏
页码:9 / 20
页数:12
相关论文
共 46 条
[1]   “人吃人”:算法社会的文化逻辑及其伦理风险 [J].
郭毅 .
中国图书评论, 2021, (09) :45-53
[2]   算法权力异化及法律规制 [J].
赵一丁 ;
陈亮 .
云南社会科学, 2021, (05) :123-132
[3]  
自动化决策与人的主体性[J]. 张凌寒.人大法律评论. 2020(02)
[4]   人工智能伦理问题与安全风险治理的全球比较与中国实践 [J].
贾开 ;
薛澜 .
公共管理评论, 2021, 3 (01) :122-134
[5]   可信算法的法律规制 [J].
袁康 .
东方法学, 2021, (03) :5-21
[7]   算法社会的“囚徒”风险 [J].
彭兰 .
全球传媒学刊, 2021, 8 (01) :3-18
[8]   “算法利维坦”的风险及其规制 [J].
张爱军 .
探索与争鸣, 2021, (01) :95-102+179
[10]   论算法的法律规制 [J].
丁晓东 .
中国社会科学, 2020, (12) :138-159+203