【人工智能时代算法歧视之法律问题探究21000字（论文）】

人工智能时代算法歧视之法律问题研究目录TOC\o"1-3"\h\u18819人工智能时代算法歧视之法律问题研究 131182摘要 25624关键词：人工智能、算法歧视、法律规制、法律建议 21799引言 215649第一章人工智能时代算法歧视的现状与法律问题 412592第一节大数据算法歧视的概念与现状 415198一、算法歧视的概念 411629二、算法歧视的现状 56760第二节算法歧视导致的法律问题 627444一、消费者合法权益受到威胁 619978二、缺乏算法歧视行为问责机制 74232三、消费者权利救济困难 82049第二章算法歧视法律问题之成因分析 99454第一节隐私政策的不明确 917292一、运营商刻意模糊隐私政策中的条款 918740二、格式条款存在固有缺陷 103751第二节算法歧视相关责任规范不完善 112623一、算法歧视行为法律界定模糊 111553二、现行法律体系难以兼容规制算法歧视的司法需要 123964第三节信息披露不充分与维权之困境 1425225一、算法披露制度存在缺失 1510665二、消费者维权困难 1610468第三章域外对于算法歧视之法律规制 1711534第一节域外有关个人数据隐私保护的规制 1723535一、美国《关于算法透明度和责任的声明》中对数据采集的规定 176753二、欧盟《一般数据保护法案》的特别规定 1817973第二节域外关于算法歧视问责制度的规范 1929676一、美国《算法责任法案》与一系列规定 1925377二、欧盟在《机器人民事责任法案》的补充规定 2018598第三节域外对于算法披露制度的构建与权利保护 2027162一、美国《政府部门自动决策系统法案》设立专门工作组 213429二、欧盟统筹协调于数据保护整体框架之中的算法治理模式 2121381第四章治理算法歧视的法律建议 2223634第一节 构建算法歧视行为预防体系 2211987一、加强隐私政策与格式条款的审查力度 2213636二、建构事先预防与事后监察的双重监管制度 236663第二节构建合理的经营者问责制度 2428079一、优化责任内容规范 2528242二、建全责任追究规范 2513639第三节优化算法信息披露制度助力消费者维权 264797一、完善算法披露制度 2631883二、健全受害者维权体系 27摘要 随着人工智能技术的迅速发展，现今社会正逐步与作为其核心技术的算法发生着融合。算法技术在为人们的生活带来巨大便利的同时也存在着种种风险，其中一项较为突出的问题即是算法歧视。从网购个性推荐到自动定价，从简历筛选到种族歧视等等，算法歧视正从方方面面危害着我们的生活，本文将重点结合算法价格歧视的内容进行论述。 经营者平台通过算法搜集数据制作精准的用户画像，被打上标签的用户将永远生活在算法歧视的阴影之下而避无可避。问责机制与算法披露制度的缺失也导致消费者在权利受到侵害后难以通过个人力量进行维权。为此，根据算法歧视的基本特点，从数据的源头采取相应的预防措施，在算法的运行过程中保证其应有的透明度，并结合域外先进的监管体系和治理经验与国内的基本国情建立一套专业的针对算法歧视问题进行事前事中监督与事后问责的体系便十分有必要了。 本文将通过四个章节的内容，详细阐述算法歧视的概念以及现状，列举其存在的主要问题并进一步分析成因，最后结合域外探索经验与我国立法现状，运用法学思维探讨如何规避算法歧视引发的法律问题。关键词：人工智能、算法歧视、法律规制、法律建议引言 人工智能技术的不断突破发展使得人类社会发生了巨大的改变，算法作为人工智能的核心技术也逐渐从殿堂之内走入寻常百姓家，人们在生活之中无时无刻不在使用算法，看待算法的方式也变得越来越积极。但技术总是具有两面性，算法在发展过程中带来的弊端也不容我们忽视，近些年算法引发的大大小小的事件更是屡见不鲜。因此，如何规范人工智能新技术的使用令其造福社会并规避风险的问题便值得我们深思。 2020年10月21日，作为第一部专门规定个人信息保护的法律，为公开征求意见而公布的《中华人民共和国个人信息保护法（草案）》，在其正式施行后将成为个人信息保护领域的基本法，并正式构建起我国算法自动化决策治理体系，初步建立完善平台算法问责制。该草案确立了处理个人信息时应当遵循的合法、正当性原则，要求平台在处理个人信息之前要充分告知用户并取得相应的同意，明确了个人在个人信息处理过程中应当具有的如知情权、决定权、更正权、删除权等各项权利，强化了个人信息处理者的安全保障义务，完善了侵害个人信息权益的民事法律责任和行政法律责任。 在草案颁布之前，我国许多学者便已经对算法歧视引发的相关法律问题做出了种种探讨，并对立法活动提出了诸多建设性意见。有学者指出由于算法的特殊性，算法歧视具有一定的内在必然性，对于算法歧视行为的规制不仅仅要从法律层面入手，更应当结合社会伦理道德规范和技术类原则规范进行治理。算法本身作为技术性产物本不应带有歧视性因素，但在实际使用过程中必不可少地会接触到社会伦理层面的因素，且设计者和使用者也会有意识或无意识地利用算法达成自己的目的，这便使得算法有时甚至会助推歧视性后果的产生。 本文将明确算法歧视的概念和现状，并结合其成因与域外制度架构经验对相关问题的解决提供一些法律规制上的建议。

第一章人工智能时代算法歧视的现状与法律问题人工智能作为一项新科技革命的引领性技术正逐渐大规模、大范围的进入我们的生活，算法自动决策在便利我们生活的同时也在引发一些更严重的问题，算法歧视便发生在自动化决策之中。在研究算法歧视带来的法律问题之前，首先要明确算法歧视的概念，根据其表现形式和现状来提出法律问题，才能据此进行进一步的分析。第一节大数据算法歧视的概念与现状 在着手解决算法歧视所带来的法律问题之前，首先最重要的问题是理解算法歧视的具体概念为何，再通过对其现状进行研究分析。只有在熟悉了这些基本概念之后，才能在应对算法歧视所引发的问题上提出中肯的建议。一、算法歧视的概念目前，学界对于算法歧视还没有形成一个科学通用的定义。因此，要分析算法歧视的概念，必须首先要分别明确算法和歧视的概念，再结合起来具体阐述。1、算法的概念算法，简单而言是指一系列完成任务的指令。通过运用算法，能够使得一系列规范的输入在有限的时间内转化为所需要的输出。在不同的时间与空间等条件下，所需求的算法是不同的。同样的，不同的算法也可能会用不同的时间与效率来完成相同的任务。随着大数据的到来，算法决策开始越来越多的介入甚至开始主导社会事务。从广告精准投放、个性化推荐、贷款审批业务甚至到政治与司法评估，算法自动决策取代了更多的人类决策。参见韩乾：《大数据时代算法歧视的法律规制》，西南政法大学2019年3月硕士学位论文，第9页。2、歧视的概念歧视，也即偏见，是指对于某一个体或一类群体不平等的对待。学界普遍认为，歧视与平等是一对相对的概念，歧视是对平等权的侵犯。法律上歧视的含义是由于法律所禁止的理由而存在差别对待，并导致了损害性的后果。人类社会在发展的过程中出现了由固有偏见而导致的差别化对待，技术的发展并不能解决这种伦理价值问题，反而在某些情况下加剧了这种不平等现象。尽管从表象上来看大数据分析决策是通过客观事实作出的较为理性的判断，但由于算法的目标是复刻人类的思维模式，其计算出的结果本质上还是包含有较大的人类主观能动性。此外，由于算法本身仅作为决策的工具，这种歧视在实际决策过程中将会多次重复地对不同个体进行实质上的差别对待。因此结合算法与歧视的概念，可以将算法歧视定义为由系统化的数据分析导致的对具体的个体进行的可重复的、实质性的不公正对待。参加章小杉：“人工智能算法歧视的法律规制:欧美经验与中国路径”，载《华东理工大学学报(社会科学版)》2019年第6期。二、算法歧视的现状数据作为客观社会现实的体现，反映了各种各样的社会信息。而算法作为以代码形式表现算法设计者的设计需求，是开发者主观意识的外显与创造。二者交互以一种新的形式反映出传统的社会关系。算法与数据都是通过客观的方式来进行输出与自动决策，从表象上来看是客观公正的，但实际上从采样到数据解读，一旦产生些许的偏差就可能会造成算法作出有失偏颇的决策。例如在商业定价策略上，平台通过大数据算法分析，用技术识别不同个体的消费水准，进行差异化定价，从而最大程度上掠夺消费者剩余也即消费者内心感觉所获得的额外利益。这种歧视往往是隐蔽的，由于消费者被动地陷入了信息孤岛，一般难以察觉到价格的差异和歧视的存在。在数据爆炸的时代下，每个人都有机会在网络上接触到各式各样的消息，公众在获取消息时，会下意识地只接触自己感兴趣的消息。而算法决策系统在收集到这些数据后，会对个体进行个性化的推荐，使得个体接触到的信息面越来越狭窄，从而造成“信息茧房”效应，扩大了算法歧视的影响。总之，无论人们是否有意识地认识到，算法已经渗透到社会生活的方方面面。而算法歧视更是从个人隐私、商业贸易、司法行政等各种领域产生着消极的影响，危害到社会与公共利益。本文将重点从商业贸易领域入手，对算法歧视所造成的法律问题进行分析。 第二节算法歧视导致的法律问题前述已经对算法歧视的基本概念和现状有了初步的认识，在实践中，算法歧视面临着更多的法律问题。下文将重点介绍商业交易领域算法歧视所导致的法律问题。一、消费者合法权益受到威胁算法作为一项决策工具大大强化了经营者对于消费者进行个性化、定制化、精准化投放广告的能力，能够最大限度的榨取消费者的剩余消费价值，严重损害消费者的合法权益。消费者在进行网页浏览时，无论是否删除浏览记录都将被网站的算法记录下来。参见周先伟：“算法歧视:表现、影响及其法律规制”，载《枣庄学院学报》2020年第4期。互联网公司根据这些数据对相同的产品或服务信息对不同的消费者进行差异定价，比如某以外卖为主营业务的APP对老用户收取较高的价格，而给予新用户较低的价格并发放大量优惠券。又或者通过收集用户信息，用算法分析消费者的购买力，对于购买力更高的消费者收取较高价，而对消费能力更低的消费者收取较低价，便于获取最大利润。此即价格歧视，又指通过算法收集并分析网络用户的相关消费数据，在获得消费者最大支付意愿后，商品经营者或服务提供者针对不同消费者对相同质量、相同级别的商品或服务在相同的交易条件下确定不同价格的行为。参见叶明,郭江兰：“数字经济时代算法价格歧视行为的法律规制”，载《价格月刊》2020年第3期。参见周先伟：“算法歧视:表现、影响及其法律规制”，载《枣庄学院学报》2020年第4期。参见叶明,郭江兰：“数字经济时代算法价格歧视行为的法律规制”，载《价格月刊》2020年第3期。普通的交易环境下，尽管存在着一些差别化定价的规则，例如学生优惠、新老用户优惠折扣、特定时段购买优惠、批发折扣等等，但是由于规则是透明可见的，消费者在进行交易时是可以进行选择的。但算法歧视行为不同，这种差异化定价的规则是不可见的，仅经营者可以通过算法收集的数据进行自动决策，来实现自身的利益最大，并且随着算法的学习和进步，使得消费者支付的价格越来越高，违背了商业道德，严重损害了消费者的公平交易权与知情权。虽然《电子商务法》对于该类价格歧视行为进行了明确的禁止，但是大数据算法杀熟行为在实际交易中仍然存在，并随着技术的发展更难被消费者感知。经营者还会特地为消费者营造“信息茧房”，在封闭的网络消费环境中，消费者难以通过比较的方式察觉到经营者进行的差别定价。经营者对消费者进行的所谓的个性化推荐，实际上是在逐渐剥夺消费者选择和知情的权利。除此之外，各个用户的个人信息还会被不同的经营平台所共享，个人在互联网上完全丧失了隐私权。在现行法律规范如《网络安全法》等的规定下，经营者收集用户信息需要在得到用户同意的基础之上，明确告知用户适用范围和使用方法。若经营者超出了用户许可范围，则构成对数据的滥用。但事实上，经营者为用户设置的隐私政策往往条款不明确，重要事项更是做边缘化处理，且由于信息量的巨大，用户往往不会仔细阅读经营者提供的隐私政策。经营者在合法收集到个人信息后，对个人数据进行过度地分析，超出了原有的个性化服务使用目的，侵犯了公民的隐私权与个人信息权。参见涂操：《大数据算法歧视的危机及法律应对》，天津师范大学2020年3月硕士学位论文，第17页。参见涂操：《大数据算法歧视的危机及法律应对》，天津师范大学2020年3月硕士学位论文，第17页。二、缺乏算法歧视行为问责机制 算法作为经营者进行决策的工具，在如今的大数据时代，正在从被动的被使用的工具转为自动化、主动化的决策者，这也导致了算法分析行为与经营者的经营行为产生了一定的重合。因此，学界对于算法歧视行为的责任承担主体产生了一定的分歧，即算法设计责任和经营者主体责任。我国目前缺失一部能够同时解决算法责任分配和承担问题的法律，规定了算法歧视行为的法律一般都具有片面性。大多数关于算法价格歧视行为责任承担主体方面的法律规制都散见于多部法律之中，如《电子商务法》、《消费者权益保护法》、《价格法》、《反垄断法》等等。这些法律虽然在规制实体经营者经营行为时发挥着巨大的作用，但在面对无形的算法歧视行为时往往难以进行相应的规制。参见叶明,郭江兰：“数字经济时代算法价格歧视行为的法律规制”，载《价格月刊》2020年第3期。参见叶明,郭江兰：“数字经济时代算法价格歧视行为的法律规制”，载《价格月刊》2020年第3期。 除主体问题之外，算法歧视行为的法律性质定义模糊也为责任追究造成了一定的阻碍。由于算法个性化推荐行为定性的不明确和技术的中立性，算法决策行为造成的价格歧视难以受制于传统的违法构成要件，经营者也因此而免于被追责。三、消费者权利救济困难 由于算法的设计本身带有一定的专业性，非专业人员因缺乏知识而难以从中发现问题，且部分经营者会故意隐瞒算法决策的具体过程，社会公众的知情权、参与权等往往因此难以得到有效的保障。算法技术的隐蔽性遮盖了算法歧视行为，经营者通过技术行为来规避法律风险，消费者在自身权利受到侵害时更是难以通过自身的力量来找到相关证据。 除此之外，即使消费者通过各种渠道知悉了该种算法歧视行为严重损害了自身合法权益，由于我国相关法律制度不够完备，社会组织往往难以通过一己之力来帮助消费者维护其合法权益。而且我国在司法改革进程中，正在将人工智能系统投入到法院的建设中，最高人民法院办公厅发布的《关于做好2019年智慧法院建设的通知》中便明确的要求进一步提高智能化服务水平，积极建设智慧法院，防治司法腐败，推进司法信息化，深化司法体制改革。参见李超：“人工智能算法歧视的法律规制研究”，载《重庆广播电视大学学报》2020年第2期。但是在建设智能司法体系的同时，算法歧视也会不知不觉的影响到司法审判结果。如果算法歧视在司法审判中不被制约，将会严重损害司法权威，影响到司法审判的结果，从而使得消费者难以寻求到公正的法律救济。参见李超：“人工智能算法歧视的法律规制研究”，载《重庆广播电视大学学报》2020年第2期。

第二章算法歧视法律问题之成因分析在上一章已经明确了算法歧视行为在实践中可能会发生的法律问题，下文将从各方面分析问题出现的原因。第一节隐私政策的不明确 由于目前我国各大互联网运营商在自己所研发的产品在设置的隐私政策一般为格式条款，且有时部分运营商会故意在隐私政策中做手脚，导致用户难以根据运营商发布的隐私政策来明确和维护自身权益，进而扩大了算法歧视所带来的一些负面影响。一、运营商刻意模糊隐私政策中的条款互联网的诞生标志着信息时代的真正到来，传播信息的媒介越来越轻便，信息复制传播的成本无限接近于零，使得我们每个人都有机会接触到爆炸性的信息量。但当个人在浏览网络上这些信息的同时，个人的信息也被不断地记录下来上传到网络上供他人浏览，隐私权越来越难以得到有效的保障。目前我国国内的App一般可在征得用户授权同意的前提下，向用户收集个人信息。尽管我国法律对隐私政策中个人信息的收集与删除做出了相关的规定，但是隐私政策中相关的规定却良莠不齐，在特定的情况下，App却可以未经用户授权同意而向用户收集个人信息。例如，腾讯QQ在隐私政策中规定了10项收集用户个人信息无需征得用户授权同意的情形。而且部分App会在隐私政策中规定从第三方或者其他来源收集用户个人信息。但这些恰恰使得用户个人在删除个人信息时将面临重重困境。如若运营商收集的个人信息是从第三方来源获得，那么用户在删除自身在该运营商处的信息时，第三方来源的个人信息是否同意会被删除，如果未被删除，将会严重地影响到用户删除个人信息行为的有效性。且获取个人信息需通过多方授权的复杂关系可能会使得个人信息在互联网上处于一种半公开的状态，用户在删除个人信息时将会更加困难。参见徐磊：“个人信息删除权的实践样态与优化策略——以移动应用程序隐私政策文本为视角”，载《情报理论与实践》2021年第4期。参见徐磊：“个人信息删除权的实践样态与优化策略——以移动应用程序隐私政策文本为视角”，载《情报理论与实践》2021年第4期。此外，大部分运营商在隐私政策中没有明确规定个人信息的保存期限，但却在保存期限至后主动删除用户个人信息。这种行为侵害了用户对个人信息的自治权，也不利于维护个人信息安全。若运营商停止运营应当采取合理措施及时通知用户，并且允许用户对相关个人信息进行备份。之后，运营商才能在合理期限内删除用户个人信息。而隐私政策中有过用户个人信息备份的条款往往处于缺失的状态。虽然有个别的运营商会在隐私政策中对此做出相关的规定，但是却表述得非常笼统，无法指导用户去备份个人信息。由于我国相关法律政策和监管的缺失，各运营商在制定隐私政策时往往只为自身利益考虑，而不会去重点保护用户的个人信息，使得隐私政策条款混乱而模棱两可。用户在使用运营商提供的服务时，也很少会有人在授权之前仔细研读相关隐私政策，将自己的个人信息随意交由他人处置。经营者从网络上可以低成本地获取大量消费者个人信息，从而利用算法进行计算与决策，对个体进行差别化定价。二、格式条款存在固有缺陷近十年以来，我国网络技术经过高速发展，推动了网络购物的兴起，而快递业务的扩张与改善也为网络购物的繁盛提供了莫大的利好。网络购物在带给消费者巨大生活便利的同时，也引发了更多新的法律问题。对于消费者来说，通过网络购物虽然具有高效便利的优点，但网络购物也具有着一般购物所没有的格式条款问题。由于对格式条款缺乏严格的限制，大量应用格式条款是对消费者公平交易权的限制。因非线下交易与先付款后交货的交易方式，使得消费者没有太多与经营者商议的余地。参见王威：“网络购物合同中格式条款的法律规制与完善对策”，载《佳木斯大学社会科学学报》2011年第3期。一些经营者制定的格式条款缺失对于消费者的提示义务，模糊的条款内容和不合理的放置位置使得普通的消费者一般难以找到并阅读到格式条款，即便阅读过也难以通过字面意思理解其具体想表达的意思，这便对消费者的知情权等造成了一定的威胁。如果消费者的知情权得不到保障，对格式条款的关键性内容不能充分的理解，便会陷入信息不对称的被动环境。消费者在信息不对称的情境下很容易接受经营者私下制定的定价规则，以不合理的价格购入商品，严重损害了消费者的公平交易权。参见王威：“网络购物合同中格式条款的法律规制与完善对策”，载《佳木斯大学社会科学学报》2011年第3期。 此外，由于大部分隐私政策的表现形式为格式条款，经营者在其中加入的各种有利于自身而有害于消费者的各项条款难以被消费者感知。经营平台通过各项用户无意识下的胡乱授权获得了海量数据，此时平台作为大数据时代的主要个人信息处理者，通过全链式数据通路挖掘用户信息，获得更加精准、完整的用户画像，并通过算法自动决策进行网络上的精准化投放广告，对个体差异化定价。以上所提到的种种行为明显超越了数据商业化价值的发掘限度，在数据采集端侵犯了用户的隐私权，又在AI算法应用决策层面实施算法价格歧视行为，侵犯了用户的平等权。从保护用户信赖利益的角度着手，法律理应对诸如此类的“用户协议”、“隐私政策”等等进行一定的规制，并对经营者平台提出安全保障的义务。第二节算法歧视相关责任规范不完善 我国目前关于算法歧视方面的专门立法存在缺失，亟需结合国内外相关研究立法经验制定一部专门的法律或对现存的一些法律进行完善以应对算法歧视行为。一、算法歧视行为法律界定模糊人工智能问题的相关法律规制问题虽然在近年来才被提出，但随着人工智能技术逐渐渗透到社会生活中，原有的法律框架便难以解决新的社会问题。法律作为稳定的调节社会关系的最后机制，在面对日新月异的人工智能技术时，必然会在时间上存在一定的滞后性。这种理论上的滞后性必然会影响到立法活动，再进一步影响到司法实践，出现理论与实践上的脱节。目前存在的相关法律对于算法歧视行为的法律性质的界定模棱两可。首先，算法作为一种技术，在外观上天然具有中立的属性。技术中立属性虽然为科技的发展创新提供了良好的外部环境，但由于算法在设计的过程中常常会加入设计者的主观因素，经营者的价值需求和利益导向被算法开发者随意嵌入定价程序，因此，外观上表现有自动性和客观性的算法价格决策程序，实际上蕴含着经营者不正当的目的。参见叶明,郭江兰：“数字经济时代算法价格歧视行为的法律规制”，载《价格月刊》2020年第3期。而法律对于这种外部表现为技术中立实际则不合法的行为却没有作出明确的法律判断。参见叶明,郭江兰：“数字经济时代算法价格歧视行为的法律规制”，载《价格月刊》2020年第3期。其次，价格歧视作为一个经济学概念，在经济学中通常被认为是一种正当的市场行为。在进入大数据时代之前，经济学家主要研究的是二三级价格歧视，即根据数量或根据人口统计类别进行差别定价。由于经济学家认为一级价格歧视即根据每个人定价只在理论上存在，所以对此几乎没有进行过研究。但随着大数据时代的来临，经营者通过大数据来攫取市场上可用的消费者剩余，价格歧视因此而更加个性化，已逐渐接近于完美的一级价格歧视，且具体表现为算法价格歧视行为可能涉及到识别不同价格的个体消费者，或者根据可观察到的特点向不同类型客户提供不同的价格。参见叶明,郭江兰：“数字经济时代算法价格歧视行为的法律规制”，载《价格月刊》2020年第3期。因为个性化定价与差异化定价的合法界限定义不明确，经营者往往会将自己对消费者进行的违法的价格歧视行为称为合法的自主定价行为，钻法律的漏洞，逃避法律责任的追究。参见叶明,郭江兰：“数字经济时代算法价格歧视行为的法律规制”，载《价格月刊》2020年第3期。最后，根据现行法律关于价格歧视的认定问题也存在重重困难。算法个性化推荐的商品往往不尽相同，根据不同的时间空间进行定价本身就具有一定的合理性，且对于相同的商品与服务以及条件的认定也十分困难。因此经营者通过算法决策差异化定价的行为本身就难以受制于传统的违法性构成要件。算法社会下的法律争议相较于之前提升了一个维度，一味遵循法律规范的传统做法已经严重过时，将理论与实践相结合寻求各界共识才是解决当前社会算法问题的上上之策。算法歧视的产生是基于信息获取的不完整，虽然人工智能技术在获取信息与处理数据的能力是人类所无法比肩的，并且在大多数不考虑输入性歧视的情况下，由算法自动作出的决策是很少会出现歧视问题的。但是，随着技术的发展，便利性的增强，人类会不可避免的去更加信任和依赖算法进行决策，于是哪怕算法作出的决策从表象上来看是公正的，事实上却构成了歧视。因此寻求界定算法歧视行为的标准便变得非常重要了。二、现行法律体系难以兼容规制算法歧视的司法需要我国现有关于算法歧视行为规制的法律极其不完整，很多如算法歧视认定的标准、责任追究等相关法律规定缺失。因此目前大部分学者在研究算法歧视行为时，往往会以传统的法律为判断标准，即参考国内外关于反不正当竞争法、反歧视法等法律规范来认定相关行为是否正当。该种认定方法虽然简便，但难免会出现一刀切的僵化后果。参考传统法律虽保守而稳定，但因其不具有如算法般深度学习的特点，无法及时更新与修复相关的理念，在实践中往往会引发更多的矛盾与问题。目前，我国现行法律体系下，除《电子商务法》专门制定了算法条款以外，对于算法歧视的规制问题，并没有专门的法律进行了规定，相关法律规制大多散见于《消费者权益保护法》《反垄断法》《价格法》以及相关政策、行业标准等。如《电子商务法》虽然在条款中明确否定了经营者利用消费者数据提供搜索结果的行为，但由于相关“搜索结果”的解释不够清晰，便难以将经营者的算法价格歧视行为纳入规制。在《消费者权益保护法》中，消费者可以通过主张知情权与公平交易权受到侵害为由来获得相应的救济，但司法实践中，因算法决策行为更多被法律定性为企业之间正常的商业竞争行为而非商品，跳脱了消费者知情的范围，且经营者还以商业秘密为由进行抗辩，因此通过《消费者权益保护法》来进行规制并不现实。在《反垄断法》中，法律对价格歧视行为进行规制的对象条件是具有市场支配地位的经营者，但实践中实施算法歧视行为的经营者并不一定会具有市场支配地位，因此也难以对相关行为进行规制。在《价格法》中，法律仅仅对经营者相互之间的价格歧视行为作出了规定，而未对经营者对消费者作出的价格歧视行为进行规制。这些法律规范的适用范围受到了现有违法构成要件的束缚与限制，算法价格歧视行为无法完美契合相关法律规范的适用条件，难以为遭受算法价格歧视行为损害的消费者一方提供相应的法律救济。除了算法价格歧视行为的法律适用方面外，有关法律对于算法责任的规定也并不非常明确，算法歧视行为的责任分配和承担问题一直是一项热门的议题。我国法律对于算法歧视行为的责任规范存在片面性，例如《电子商务法》第十八条明确规定了算法应该“尊重和平等保护消费者合法权益”责任内容，对算法价格歧视行为进行针对性的规制，尤其是对算法的设计和部署提出了一定的要求，将其直接纳入了责任规范范围。但该条款并没有涵盖算法价格歧视行为所涉及的其他责任内容，仅仅涉及到了平台算法责任。转引自叶明,郭江兰：“数字经济时代算法价格歧视行为的法律规制”，载《价格月刊》2020年第3期。《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》第九条规定，人民法院依据侵权责任法第三十六条第三款认定网络服务提供者是否“知道”，应当综合考虑下列因素：（一）网络服务提供者是否以人工或者自动方式对侵权网络信息以推荐、排名、选择、编辑、整理、修改等方式作出处理。参见最高人民法院：“最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定”若经营者对消费者进行的个性推荐行为是由算法自动作出，则不属于法律中的“知道”情形，企业不需要承担责任，因此这在一定程度上也体现了算法的难以问责性。参见姜野：《算法的法律规制研究》，吉林大学2020年6月博士学位论文转引自叶明,郭江兰：“数字经济时代算法价格歧视行为的法律规制”，载《价格月刊》2020年第3期。参见最高人民法院：“最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定”参见姜野：《算法的法律规制研究》，吉林大学2020年6月博士学位论文，第63页。除以上已生效的法律法规之外，我国2020年9月公布的《中华人民共和国个人信息保护法（草案）》虽然已经算是基本建立了算法问责制度框架，在一定程度上摆脱了传统平台追责之困境，但在具体的制度上仍需要进行进一步的细化。该草案针对个人信息数据处理提供了一整套的处理方案，从数据搜集源头、平台处理规则、对个人信息处理者规定义务、强化个人在个人信息处理活动中的权利再到增设政府部门对个人信息保护的职责以及法律责任的追究，整体而言将保护个人信息权益作为核心，以严格规制个人信息处理活动为重点，将为预防和规制违法收集、使用个人信息的行为提供强力的法律支持与保障。但该部草案涉及的内容主要为个人信息保护和算法自动化决策层面的问题，对算法歧视行为没有进行具体的分析和提供相应的解决措施，在未来出现相关案件时司法机关仍缺乏裁判依据。总体而言，我国目前算法自身的特性与立法理念尚未进行良好的融合，因此构建一部新的专门的法律仍存在着重重困难，现阶段更需要重视的是完善现有的法律法律，架构合理的法律体系，使得其能兼容算法在各个场景下的实际应用，并强化数据与信息部门在法院司法决策中的地位。 第三节信息披露不充分与维权之困境 算法信息披露制度的缺陷使得即使消费者收到了侵害也难以搜集证据并通过司法渠道进行权利之维护。一、算法披露制度存在缺失算法歧视本身是具有违法性的，应当适用相应的手段进行规制，但在现有的法律框架下证明算法歧视行为的存在却非常困难。算法系统的歧视性、隐蔽性、复杂性等特征使得一般公众难以察觉到算法歧视行为的存在，算法决策行为无法做到完全的公开透明，也为经营者进行算法歧视行为创造了便利条件。算法是否透明常常被认为是对算法进行有效追责的关键性组成部分，相关机构进行追责必须要对算法行为进行充分的了解，以此来判断该项行为是否具有合法性。因此算法的透明性要求确保算法程序能够从外部进行充分的监督，公开具体的算法决策步骤。作为有效规制算法行为的机制，算法披露制度要求算法在处理个人数据时要时刻保持公开，采用容易被公众获取信息并理解的数据处理方式，并且以一种较为清晰明练的语言进行保存活动。算法黑箱是形成算法不透明的主要原因，“黑箱”指的是那些不为人知的无法打开、不能从外部直接窥视到其内部状态的系统。参见徐凤：“人工智能算法黑箱的法律规制——以智能投顾为例展开”，载《东方法学》2019年第6期。算法不透明性主要表现为三种形式:一是涉及商业秘密或个人隐私;二是由于非专业人员的技术认知障碍;三是算法适用测量中产生的不透明。参见徐凤：“人工智能算法黑箱的法律规制——以智能投顾为例展开”，载《东方法学》2019年第6期。转引自李超：“人工智能算法歧视的法律规制研究”，载《重庆广播电视大学学报》2020年第2期。但是对于是否应当对算法进行披露，保持算法公开性和透明性存在着一定的争议。有学者认为算法披露制度所涉及的主要内容为系统的源代码，但事实上即使是专业人员对于理解这些源代码也会存在一定的困难，更何况是非专业人员，因此难以通过披露算法源代码的方式对算法歧视行为进行规避。且仅仅分析算法背后的源代码会忽视掉算法决策的环境因素如算法目的或者算法功能，无法充分理解到其背后的决策逻辑，算法的决策规则一般只有控制者能够完全操控，要求控制者完全放弃相关利益进行相应的算法披露是不可能也不现实的。例如，在某些涉及国家和社会安全的领域，部分程序的不透明性是必须的；此外，在涉及商业行为的方面，由于存在商业秘密这一限制，算法的完全透明也是不可能存在的。还有观点指出，因歧视行为是通过长期的训练或对数据进行操纵而非通过算法本身产生的，对处于中立地位的算法进行披露甚至起不到理想的作用，反而会助长经营者借助“技术中立”的理由来逃避算法歧视行为的责任。另外，在建立算法披露制度后对算法进行审查也是无可避免的，但算法审查也同样面临着重重困境。在社会生活中，人们如果对政府实施的公行为、平等民事主体之间的私行为不满，可以采取调解、仲裁、诉讼等多种方式进行权利的维护，且国家法律对于这些正当程序进行了严格的规定，可以确保这些决策程序得到严格的审查。但如果人们对于算法程序决策的结果不满意，是很难在现有法律的框架下得到公正合理的审查的。在算法决策愈发普遍化的社会大环境下，对算法进行审查显然是极为必要的，但是目前看来学术界对于算法审查的内容尚未明确，且根据现有法律来对算法的合法性进行审查显然也存在较多问题，在算法普遍缺乏透明度的大环境下更是使得算法审查难以为继。从成本和效益的方面来看，对算法进行解密并公开需要的成本非常之大，而且可能远远超出所能获得的效益，此时如果只对不透明的算法进行审查是很难获得一个公平的结果的。如前所述，算法披露机制的不完善引发了从决策到审查方面的种种问题，更是使得算法歧视行为变得难以规制。因此，为更有成效地解决上文所提到的一些问题，建立健全合理的算法披露机制是至关重要的。二、消费者维权困难 算法歧视因具有隐蔽性，决策输出过程复杂而缓慢，在程序运行过程中会有很多种因素对最终输出结果产生影响。而且算法系统在设计的过程中不可避免地会带有程序设计者个人的价值取向与主观因素，因此不同开发者所设计的算法逻辑过程也不尽相同，更有甚者，算法运行的各个阶段也是不尽相同的。 因此对于权利被侵害之人而言，在举证过程中会遇到重重的困难。首先是技术门槛层面的限制，对于非专业人员来说，是很难从专业人员设计的复杂算法中察觉到存在的算法歧视行为的。算法的运作流程和决策机制一般都是处于一种非公开状态，侵害者更是会以商业秘密等理由进行抗辩，妨碍权力被侵害者举证。按照传统的“谁主张谁举证”证明规则，被侵害人举证失败将会承担败诉风险，现有证明责任无法满足相关纠纷处理的要求。参见李超：“人工智能算法歧视的法律规制研究”，载《重庆广播电视大学学报》2020年第2期。在实践中，由于消费者与经营者在获取信息的能力和渠道上是不对称的，消费者举证经营者实施算法歧视行为所需要的材料、数据等都被牢牢掌握在经营者手中，消费者很难获取。即使权利被侵害人成功举证，往往也是要花费巨大的财力和精力进行调查，但胜诉后获得的补偿却无以填补庞大的诉讼成本，遑论其被侵害的利益。参见李超：“人工智能算法歧视的法律规制研究”，载《重庆广播电视大学学报》2020年第2期。 此外，由于算法的终端运作存在着网络用户分化使用的特征，个体陷入了信息孤岛，即使确实存在着侵害行为消费者也很难发现，且在面对证据收集时也会存在着孤立无援的现象。当真正出现算法价格歧视问题时，经营者往往会以商品服务种类不同、时间地域因素、新老顾客优惠等托辞来进行解释。对于消费者而言，由于经营者的定价规则是隐蔽的，在遇到问题后，往往不能判断出经营者所做出的解释是否合理真实。而算法价格歧视行为针对的一般不只是单一个体，而是针对整个消费者群体作出的违反诚实信用原则的行为，因此仅仅靠个别案例是很难完善相关的权益保护体系，消费者又面临着举证困难的各种困境，在维权时力不从心。第三章域外对于算法歧视之法律规制了解欧美国家对规制算法歧视行为做出对应的保护措施，我国可以在域外各国算法歧视行为的规制措施以及权益保护措施相关立法的基础上，结合我国国情，以更好的维护消费者们的权益。第一节域外有关个人数据隐私保护的规制 我国互联网大数据发展的时间较短，在个人隐私数据保护方面，需要借鉴和学习发达国家的相关制度和经验。一、美国《关于算法透明度和责任的声明》中对数据采集的规定2017年1月12日，美国计算机协会下属美国公共政策委员会发布的《关于算法透明度和责任的声明》指出：“生活中无处不在的算法促使我们应该专注于解决与算法的设计和技术方面相关的挑战，并从一开始就防止偏见”。参见孙逸啸,郑浩然：“算法治理的域外经验与中国进路”，载《信息安全研究》2021年第1期。其中提出了七项关于提升算法透明度和可靠性的原则，以此来确保算法在决策过程中输出的结果更加公平合理。这其中便包括了反歧视意识、获取和救济、算法责任制、解释、数据来源、可审计性、验证和检测。参见孙逸啸,郑浩然：“算法治理的域外经验与中国进路”，载《信息安全研究》2021年第1期。参见章小杉：“人工智能算法歧视的法律规制:欧美经验与中国路径”，载《华东理工大学学报(社会科学版)》2019年第6期。该声明从主体、制度设计、责任分配等方面进行原则性政策规定，不仅提示算法系统影响到的相关主体注意到算法运用过程中可能遇到的问题，也较以往法案相对明确了责任主体，并从数据收集的源头预防最后歧视结果的发生，明确了算法的可审查性。该声明不仅将算法所引发的种种如算法歧视等问题引向社会探讨，更是将算法透明度缺失导致的如算法黑箱、信息茧房等问题推到了公众面前，为后续出台相关法案和算法治理提供了理论指导。二、欧盟《一般数据保护法案》的特别规定欧盟议会于2016年4月14日通过《通用数据保护条例（GeneralDataProtectionRegulations）》（“GDPR”）并于2018年5月25日在欧盟成员国内正式生效实施。转引自中国存储网：“GDPR通用数据保护条例——中文版全文”，该条例对数据处理原则、数据主体之权利、控制处理者的义务、独立监管机构、合作与一致性、责任救济和处罚规则等一系列内容作出详细规定，重点强调对算法治理的规制构建。参见孙逸啸,郑浩然：“算法治理的域外经验与中国进路”，载《信息安全研究》2021年第1期。条例以增益用户权利为中心，从数据收集到数据处理，在各个阶段构建起以数据控制者和处理者责任义务为核心的问责机制，架构了较为完备的数据保护体系。正文体现了算法歧视的具体规制措施，其主要原则为在数据自动化决策中移除特定种类的个人数据，以此防止基于敏感数据而对特定数据主体作出歧视性决策行为。参见章小杉：“人工智能算法歧视的法律规制:欧美经验与中国路径”，载《华东理工大学学报(社会科学版)》2019年第6期。例如条例第9条规定“对揭示种族或民族出身，政治观点、宗教或哲学信仰，工会成员的个人数据，以及以唯一识别自然人为目的的基因数据、生物特征数据，健康、自然人的性生活或性取向的数据的处理应当被禁止。”转引自中国存储网：“GDPR通用数据保护条例——中文版全文”，也列出了一些除外情形。条例第三章规定还赋予了数据主体对数据的访问权、纠正权、被遗忘权、拒绝权、限制处理权、反对权和自主决定权等，从各个阶段增强了数据主体对个人数据的控制，进而对抗算法决策过程中可能对数据主体产生的危害。转引自中国存储网：“GDPR通用数据保护条例——中文版全文”，参见孙逸啸,郑浩然：“算法治理的域外经验与中国进路”，载《信息安全研究》2021年第1期。参见章小杉：“人工智能算法歧视的法律规制:欧美经验与中国路径”，载《华东理工大学学报(社会科学版)》2019年第6期。转引自中国存储网：“GDPR通用数据保护条例——中文版全文”，该条例虽然仍存在一定的缺陷，但其从根源出发，以个人对数据拥有的自主决定权为基础构建数据权利保护体系，从源头上对算法歧视等算法危害行为进行预防，不失为目前对于算法开发设计和进行监督管理的标杆。第二节域外关于算法歧视问责制度的规范 目前，域外各个国家对于算法歧视行为的问责已累积一定的相关经验，这些都十分值得我国立法研究进行借鉴。一、美国《算法责任法案》与一系列规定2019年4月，美国众议院和参议院的民主党议员提出《算法责任法案》,其目的在于进一步规范人工智能算法，从更大的范围内对用户数据隐私安全作出保护，对算法歧视行为进行立法监管。该法案从市场规范层面对企业行为进行规制，授权联邦贸易委员会要求使用、储存、分享个人信息的企业作出自动化决策系统及数据保护影响评估，要求企业对其算法系统的“公平性、准确性、歧视、偏见、隐私和安全性”等问题进行自我审查。参见章小杉：“人工智能算法歧视的法律规制:欧美经验与中国路径”，载《华东理工大学学报(社会科学版)》2019年第6期。其侧重点在于以结果为重点进行算法审查而非对算法的透明度进行一定的要求，这也是因为算法黑箱的存在而使得算法审查具有了一定的局限性，一般难以通过审查来揭示算法过程种存在的因果关系等因素，进而使算法审查转为结果导向。参见章小杉：“人工智能算法歧视的法律规制:欧美经验与中国路径”，载《华东理工大学学报(社会科学版)》2019年第6期。法案规制的主体一般为获取信息数量较大或主营业为个人数据买卖的科技公司，要求这些主体对算法自动决策系统作出影响评估，对可能出现的不公正不准确的偏见与歧视性决策作出风险评估与审查，并及时进行更正。该法案以美国先前算法违法行为方面司法实践的经验为基础，为进一步探索算法的规范应用，保护公众权益免遭违法的算法行为危害，在联邦层面进行立法之探索，从制度层面为美国算法治理助力。除该法案外，美国以算法问责为核心的专门监管模式下还有其他法律作出制度补充。例如，2017年1月12日美国计算机协会下属美国公共政策委员会发布的《关于算法透明度和责任的声明》，提出了七项原则，其中一项便是责任制原则，机构应当对其所使用的算法决策负责，即便其无法详细解释算法决策程序如何产生结果。美国纽约市议会于2017年12月通过的《政府部门自动决策系统法案》设立专门工作组对政府算法自动化决策程序进行监督，进一步完善了算法规制的法律框架。二、欧盟在《机器人民事责任法案》的补充规定2017年2月欧盟通过《机器人民事责任法案》，该法案提出，进一步发展和增加使用的自动化和算法决策无疑会影响个人的选择和行政、司法或其他公共机关的权威，需要现有的法律框架针对这些问题予以回应，从业务视角模型和人员设计模式两方面明确当这些问题造成危害后果时的法律责任。参见孙逸啸,郑浩然：“算法治理的域外经验与中国进路”，载《信息安全研究》2021年第1期。该法案探讨了人工智能是否具备责任主体资格并将其责任主要归于制造者和使用者，同时提出应当在算法的自动化决策过程中纳入安全保障以及人工监察的可能性，以实现对算法技术的合理限制。该法案还提出了关于算法的伦理道德规定，设定严格、明确有效的道德框架来补充法律层面具有的缺陷，强调透明度原则，即在任何情况下，对人们的生活会产生实质性影响的智能化决策背后的决策依据与决策之原则必须能够被人们所了解与知悉。参见张帆：《人工智能时代下算法歧视的法理分析和法律规制》，广州大学2019年5月硕士学位论文参见孙逸啸,郑浩然：“算法治理的域外经验与中国进路”，载《信息安全研究》2021年第1期。参见张帆：《人工智能时代下算法歧视的法理分析和法律规制》，广州大学2019年5月硕士学位论文，第2页。第三节域外对于算法披露制度的构建与权利保护 由于算法的特殊性，算法歧视往往具有一定的隐蔽性，权利受侵害者在维权时若缺乏相关制度的辅助往往力不从心。域外便针对这一点建立了较为完备的算法披露制度，力求最大程度上保护权利受侵害者的合法权益。一、美国《政府部门自动决策系统法案》设立专门工作组根据美国现行法律规范与司法判例，算法程序应属于处于被保护状态下的商业秘密。如果公权力强行要求公开算法将可能侵犯到企业的商业秘密，也会严重打击算法设计者的积极性，难以推进算法技术的进步。此外，算法公开可能会导致关键数据和代码曝光，将算法的内在逻辑交由危险分子了解学习，算法风险控制难度增强，进而给社会带来更多危险因素。因此，学界推荐的算法歧视规制重点对策由算法透明转为算法审查。参见章小杉.：“工智能算法歧视的法律规制:欧美经验与中国路径“，载《华东理工大学学报(社会科学版)》2019年第6期。该法案要求成立一个由自动化决策系统专家和受自动化决策系统影响的公民组织代表组成的工作组，以就市政机构使用自动决策算法的公平性、问责性和透明度等问题进行专门监督。法案明确规定，政府机构的自动化决策系统需要受到规制，受其决策结果影响的个人可以要求机构提供解释和证据，规定了相应的救济程序，要求自动化决策系统的信息公开化透明化。参见孙逸啸,郑浩然：“算法治理的域外经验与中国进路”，载《信息安全研究》2021年第1期。.该法案从政府层面出发，进一步预防了算法技术在政府机构权力运行过程中可能会产生的偏见与歧视问题。参见章小杉.：“工智能算法歧视的法律规制:欧美经验与中国路径“，载《华东理工大学学报(社会科学版)》2019年第6期。参见孙逸啸,郑浩然：“算法治理的域外经验与中国进路”，载《信息安全研究》2021年第1期。.二、欧盟统筹协调于数据保护整体框架之中的算法治理模式由于欧盟内部本身存在的成员差异，很难构建一套适合所有国家所有地区的数字经济治理体系，整个体系的建设过程缓慢而艰难。相较于美国灵活的数字经济治理体系，欧盟的重点在于打破不同成员国之间的数字壁垒，以保障人权为目的，从数据保护出发以严格的立法形式构建数据保护规制体系。从2000年的《欧盟基本权利宪章》规定的“人人有权要求个人数据被保护”到《通用数据保护条例》的出台，欧盟制定了一系列强而有力的法律规范，其内容包括了数据保护、网络安全和个人数据权利等多个方面，以详细具体的规范构建优良的数据治理体系，例如《网络安全法》、《非个人数据自由流动条例》、《数据保护指令》、《数字单一市场战略》等多项法律法规。欧盟通过这种统筹协调于数据保护的整体框架种的治理模式增强个人数据权利，从源头对抗算法歧视与算法偏见等算法危害行为。第四章治理算法歧视的法律建议 在了解了其他国家对于算法歧视相关问题的规制方式之后，不免在其中受到了一些启发，接下来本文将以具体问题和其成因为对应给出相应的完善和解决建议。第一节 构建算法歧视行为预防体系 算法由于其本身所具有的特性，当算法歧视行为发生并造成影响后，为消除其带来的负面影响将耗费巨大人力物力。因此若能建立起一套从源头出发对算法歧视行为进行规避的体系将大有裨益。一、加强隐私政策与格式条款的审查力度隐私政策作为一项个人信息保护的有力措施，由于我国有关隐私和数据保护的规定分散于各个法律中，没有详细且完整的法律体系，在很大程度上限制了其对数据隐私保护所能发挥的作用。因此，我国需要制定综合性的隐私保护政策法律，明确政策的内容、程序、透明度和可操作性，用具体化的内容构建明晰的政策框架和内容要点。在制定政策时，还可以借鉴国外制定隐私保护政策的成果经验，并结合我国具体实践要求，使政策更加完备合理。在隐私政策的内容方面，应当要求其强化用户的权利保障。当前隐私政策中经营平台获取用户数据信息主要采用同意授权方式，更偏向于保护经营平台自身的利益而忽视了用户的权益保护，对用户的对数据的访问权、纠正权、被遗忘权、拒绝权、限制处理权、反对权和自主决定权等权利不够重视。当侵害行为发生时，隐私政策保护的对象偏向于经营平台而不是用户个体。因此，在政策内容中应当遵守相关法律法规，丰富用户个人信息数据权利，平衡经营平台与用户之间的权利义务关系。针对这一点，《中华人民共和国个人信息保护法（草案）》（二审稿）第二章关于个人信息处理规则的部分增加了个人信息处理者方面的义务，并平台的自动化决策结果设定了相关义务。其中第25条特别针对平台“技术中立”的抗辩理由进行了规定，要求平台保证算法自动化决策结果公平合理；同时也扩张了用户的知情权，为平台附加了信息披露义务，禁止平台提供针对个人特征的选项，大大有利于打破用户与平台之间信息不对称的地位。参见张凌寒：“《个人信息保护法（草案）》中的平台算法问责制及其完善”，载《经贸法律评论》2021年第1期。参见张凌寒：“《个人信息保护法（草案）》中的平台算法问责制及其完善”，载《经贸法律评论》2021年第1期。此外，在实践中，有些经营平台的隐私政策仅能在安装注册时看到，而实际使用时用户进行查找则存在很多困难，这更是严重妨碍了用户合理行驶个人信息数据权利和排除权利所受的危害。因此在相关法律法规中应当要求经营平台保证用户能够简便查找隐私政策并知悉隐私政策内容。除网络隐私政策外，加强对网络购物合同中格式条款的规制也能有效的预防算法价格歧视行为。在修补格式条款法律漏洞，完备相关规制内容的同时加强经营者的提示义务，完善格式条款的外在表现形式，切实保障消费者的知情权和审查权。首先，法律应当要求经营者对一些不利于消费者的条款进行醒目提示，在合同的开头提醒消费者注意格式条款中的一些免责和限制责任的条款。如果网络经营者未曾对消费者履行提示义务，则应当认为这些条款并未纳入合同之中。参见王利明：《电子商务法研究》，中国法制出版社2003年版。另外，也应当设置消费者在每一次订立购物合同前都能再次审查和确认全部格式条款。参见王利明：《电子商务法研究》，中国法制出版社2003年版。参见王威：“网络购物合同中格式条款的法律规制与完善对策“，载《佳木斯大学社会科学学报》2011年第3期。二、建构事先预防与事后监察的双重监管制度因算法价格歧视行为一般难以察觉，且消费者受到侵害也难以查证并取得相应的救济，所有对于算法歧视行为的规制，其重点应当放在事先预防方面，再结合事后的监察来共同构建制度框架。在算法投入应用之前应当施以必要的监督，首先，可以对不同领域中的算法进行分级分类，再采取不同的措施进行规制。例如不涉及个人利益与公共利益场景中的算法可以放宽要求，使其能自由发挥作用；在搜索引擎与人脸识别等系统中发挥作用的算法极有可能影响到个人信息获取与决策行为，因此便需要对算法作出程序合理性、内容合规性、结果合法性要求；对于一些可能产生中高风险的算法来说，例如电子商务定价、金融领域决策、个人信用评估等只需要算法进行的自动化决策，而不需要人的主观意志直接介入，将会对个人的权利尤其是自主选择的权利产生极大的影响，因此这类算法将成为监督管制的核心。其次，相关法律法规也应当对算法的透明度作出规定，由于涉及算法黑箱以及商业秘密等种种原因，算法不可能向公众完全公开，因此在面向国家监管组织和个人时要采用不同的透明度规则，加强对算法的审查监督，以有效规制算法。另外，在算法的事后监察方面，要注意完善算法审查监管体系。一方面，我国可以参考美国设立专门的算法审查机构，负责算法的审批报备、监管以及权利的救济，其中包括事前由决策者、专家和公民对算法进行合理性与合法性的审查与评估，确认其中不含显性的或是隐性的歧视性因素，避免决策过程中如种族、性别、年龄等敏感属性会造成歧视，并纠正部分隐蔽性更高的其他歧视性因素，从一定程度上保证最后决策结果的公正性；事中通过随机抽检监督监测算法系统的运行，评估算法运行的风险，及时纠正错误的决策，这一步可以从政府和行业监管两方面来进行，政府依靠强制性手段进行监管，企业依靠自律性进行自我约束；最后要为受到算法歧视行为危害的主体提供相应的申诉和救济渠道，接受公众对算法产生的质疑，并要求算法的设计者对算法作出必要的解释说明并进行公示，若经营者运用算法扰乱秩序，可作出相应的行政处罚，并以此来震慑潜在的问题经营者。参见韩乾：《大数据时代算法歧视的法律规制》，西南政法大学2019年硕士学位论文，第51页。参见韩乾：《大数据时代算法歧视的法律规制》，西南政法大学2019年硕士学位论文，第51页。第二节构建合理的经营者问责制度 为了更加有效的预防经营者和算法设计者利用算法实施价格歧视行为，从中谋取不当利润，进而损害消费者合法权益，有必要从责任的内容和责任的追究方面进行详细的规定，督促经营者和算法设计者主动规避违法行为。一、优化责任内容规范算法技术作为经营者盈利的工具，从表面上看确属技术问题，但由于算法的开发设计使用过程是非透明的，极易被人类主观当作实施不法行