如何规制算法歧视？

1、如何规制算法歧视?不同概念语境下对算法歧视的探讨明晰了其基本内 涵与进行法律规制的正当性和必要性，对算法歧视规制路 径的具体化研究则有待进一步深化。以追寻算法歧视的根 源为起点，考察算法决策的形成过程，将发现其与传统决 策存在高度趋同的特质。对此，上海交通大学凯原法学院 的曹博副教授在算法歧视的类型界分与规制范式重构 一文中，从算法和歧视的关系入手，明确算法歧视的表现 形式并对其进行类型化整合，在分析规制歧视的传统范式 及其缺陷的基础上，重构更具针对性的规制范式。算法歧视的概念语境：n算法歧视的探讨主要集中于以下三种语境，论证重点 有所差异。第一，算法社会语境下的算法歧视。论者的关 注焦点深入

2、对人的智性发展进行遏制的可能路径，算法歧 视或是遮蔽在这种叙事之中，或是仅作为规制算法或算法 权力必要性的论据出现，相关细节问题没有进一步展开。第二，技术限定下的算法歧视。这一方面说明前述技术在 实践中高度交叉、难以进行有效区分，另一方表明施加这 些技术限定对算法歧视的讨论并无助益，或许仅能起到彰 显所涉论题前沿性的效果。第三，特定领域中的算法歧视。 这对解决特定领域的法律适用问题具有现实价值，但部门 法经验存在局限性，能否扩展到其他算法歧视问题不无疑 问；还有一些探讨最终走向了对算法歧视普遍特点的一般 化讨论，使得这种限定仅具有形式意义。-、算法歧视的根源探寻在输入一一分析一一输出的三环节流

3、程中，算法设计者在编程时可能有意或无意将自身偏见、社会风气、制度 体制以及文化差异嵌入算法之中，难以消除的既存偏见导 致数据输入和算法设计中的偏见无法避免；范畴化导致的结果是范畴内部的相似性和范畴之间的差异性被夸大，因此算法决策的类型化思维形成的聚类和分类模式是一种hr.有利于偏见生成的模型；而算法运行的准自主化趋势意味 着算法在自主学习过程中建立了何种认知无从预测，这又 进一步将偏见内化为算法的随机表达。上述问题在人类决策中也普遍存在，算法歧视形成的根源 与传统歧视具有高度同质性，故传统歧视的规制范式应在 一定程度上具有类比与借鉴的价值。因此，有必要对算法 歧视与传统歧视进行比对，检视算法决

4、策与传统歧视之间 究竟呈现出哪些关系，实现对算法歧视的类型化整合。三、算法歧视的类型区分和传统决策相比，算法减少歧视或消除歧视具有积极价值, 应将其排除在算法歧视的范畴之外。复现型算法歧视包含 将原本存在的偏见显露于外的复制歧视和表面隐藏偏见 实则造成歧视的代理歧视，算法应用通常与网络环境高度 匹配，这使得歧视性对待容易扩张且难以觉察。加剧型算 法歧视是指使原有的歧视更为严重的加剧歧视，在互联网 平台化运营的背景下，用户数据向大型网络平台集中，平 台经营范围的扩张与数据的跨平台流通使得加剧型算法 歧视产生的负面影响有进一步扩张的风险。新增型算法歧 视是指在决策过程中出现了新的偏见的新增歧视，算

5、法开 发者与使用者往往无法对其结果进行预测。算法歧视的传统范式及其缺陷对传统歧视的规制往往从内部规制和外部规制两个 层面展开。内部规制是通过利益评价的民主立法范式，防 止出现歧视性对待的制度设计。外部规制是基于权利义务 的法律责任范式，在个案中实现对歧视结果的法律责任评 判。但是，一方面，算法运行的“黑箱化"与内部规制存在冲 突。行政机关与商业机构普遍采用的算法决策已在很大程 度上发挥了类似于法律的效果，“代码即法律”成为现实。 学界提出通过“算法解释权”与“算法透明”实现对算法 的内部规制，然而，以机器学习准自主化趋势为例便可知 这在技术层面不可行，算法与个人信息、商业秘密和国家

6、安全的诸多关联使其在法律层面也存在障碍。另一方面, 算法逻辑的相关性本质与外部规制存在矛盾。如果以侵权 责任的确定为原型，歧视性结果对应着损害后果，算法决 策对应着行为，但算法逻辑的相关性本质决定了确定后果 和行为之间的因果关系非常困难。五、重塑算法歧视的规制范式（一）复现型算法歧视的规制 复现型算法歧视的实现方式有两种：一是直接将原有的偏见与歧视的因果联系转化到算法中；二是使用替代性变量 替换传统决策因果链条中作为原因而存在的偏见。规制直 接复现型算法歧视重在发现歧视效应。网络时代个体对算 法决策的被动接纳已成常态，在未触及切身利益的情况下, 即使察觉可能的歧视性对待，通常也会选择容忍。由此

7、, 引入算法歧视的社会监督具有必要性，设定监管机构受理 针对算法歧视的公众投诉、允许和鼓励社会公益组织针对 算法歧视提起公益诉讼值得尝试。网络安全法第8条 规定国家网信部门负责统筹协调网络安全工作和相关监 督管理工作，在未来不妨由其作为受理投诉算法歧视的行 政机构。规制间接复现型算法歧视重在探明替代变量。立法已关注 到这一问题，电子商务法第18条隐含了防止个人特 征作为替代性变量进入算法程序之中实现歧视对待的功 能，个人信息保护法（草案第二次审议稿）也强调可 能导致个人受到歧视是界定敏感个人信息的标准之一，通 过自动化决策方式进行商业营销、信息推送，应同时提供 不针对其个人特征的选项。（二）加

8、剧型算法歧视的规制加剧型算法歧视体现为平台内的加剧和平台间的加剧。规制平台内加剧型算法歧视重在制衡平台算法权力。面对强大的平台，个人用户以及使用网络平台进行交易的商家对 算法决策的适用结果缺乏有力的对抗手段，只能寄希望于 对平台算法权力的一体制衡。目前我国采取的一些措施将 有力制衡平台权力，但具体到算法歧视问题，在行政处罚 等规制手段之外还需考量平台算法权力监管如何具体化 的问题。规制平台间加剧型算法歧视重在对抗平台间、平台与政府 的合谋。平台间进一步开展数据流通与共享后，算法歧视 在平台间的扩张也难以避免。政府与企业之间，基于加强 网络监管与获得监管优待的利益交换使二者进行深度合 作的可能性

9、越来越高，此种合谋在公共管理方面具有积极 意义，但也有可能产生普遍的歧视性结果。因此，一方面 要为个人保留算法决策之外的选择权，另一方面要对跨平 台的算法应用施加更严格的监管。（三）新增型算法歧视的规制 si3 有监督的算法意味着设计者和运营者能够控制决策系统 的学习方向和预期结果，无监督的算法则意味着无法预设 和控制其输出结果。规制有监督模式下的新增型算法歧视重在评估算法影响。建立恰当的风险评估机制是一种较为理性的选择，需要监管机构和第三方协同努力，借助多学 科的专家力量，不断优化监督效能，强化设计者和运营者 对算法决策的控制力。mi, 规制无监督模式下的新增型算法歧视重在限制算法应用。 在技术水平尚不足以实现对这种算法进行有力干预的前 提下，只能对应用范围做严格限制，可以考虑将其限定于 科学研究与电子游戏等不影响人类现实活动的领域。此外, 即使设定了这种限制，仍然难以避免在现实中出现应用机 器学习算法并产生歧视性对待的结果，因此有必要设定针 对算法设计者与使用者的无过错责任或过错推定责任，使 受到歧视性对待的算法决策相对人获得救济。通过侵权法 上更为苛刻的注意义务设定，也能倒逼算法设计者对算法 技术进行改进与优化。结语进入大数据时代，算法权力的兴起已是不争的事实, 对个人生活越来越具备“构成性