算法偏见问题的技术—权力互构论解析

近年来的数据集下架潮、算法偏见大辩论使得算法偏见成为一个不可忽视的社会问题,这归根结底是由算法的政治性决定的。本研究从技术与权力的互构共生关系视角,批判了算法的价值中立论,在算法赋权的社会—技术系统中,算法作为非人类行动者参与到人类行动者的决策过程中。算法偏见可以区分出若干类型,其实质是当代数字化社会的一种形式偏见,可能加剧新兴的数字排斥。算法社会的道德底线应该是不造成算法伤害,避免算法作恶,同时还要从激励性伦理的角度推动算法的负责任创新,实现算法向善。算法风险的基本治理机制是算法透明,而同样重要的是算法问责。