反算法歧视:理论反思与制度建构

随着大数据、机器学习算法在公私事务中广泛而深入的运用,算法自动决策引发的歧视问题逐渐突显出来。受算法决策自动性和模糊性等因素影响,大数据算法歧视呈现出高度的隐蔽性、结构性、单体性与系统连锁性特征,增加了歧视识别、判断和规制的难度,并给传统以差别待遇为标准的反分类歧视理论和以差别性影响为标准的反从属歧视理论带来适用困境。因此,宜对两大反歧视理论加以适当调适,一方面,降低差别待遇标准的适用门槛,并将反刻板印象歧视理论整合到反分类歧视理论之中;另一方面,提高差别性影响标准的豁免门槛,以增强传统反歧视理论在算法自动决策场景中的适应性。在此基础上,基于所欲实现之反歧视目标,针对算法自动决策中存在的歧视类型,我国应采行类型化规制思路,建立健全的算法模型数据清洁制度、算法歧视审查制度和算法歧视影响评估制度,从事前、事中和事后全过程对算法歧视加以规制。