14第十四章-算法政治与治理

算法政治与治理新编21世纪政治学系列教材

《计算政治学概论》

第十四章目

录一、算法政治的兴起与概念二、从规制到治理：算法政治理论的演进三、算法治理：算法介入国家治理的逻辑与政治效应四、治理算法：算法风险及其治理路径五、结论与展望一、算法政治的兴起与概念（一）算法政治的兴起智能算法的兴起推动机器智能革命，人类社会正加速进入“算法时代”。各国政府已在公共决策、公共服务、城市治理与社会治理等领域广泛应用算法技术，智慧城市项目在全球持续推进。算法日益深度介入政治过程，对政府决策、社会舆论及公民政治行为产生重要影响。“算法政治”因此成为政治学与公共治理研究的重要前沿议题。（二）算法政治的基本内涵在数字智能时代，“算法政治”主要指智能算法在政治场景中的应用及其风险治理问题。算法治理（governancebyalgorithms）指基于算法的治理实践关注算法在政治决策、社会参与与公共治理中的应用及其影响涉及国家、政府与公众等主体如何借助算法实现政治目标并提升治理绩效治理算法（governanceofalgorithms）指对算法本身的规范与监管关注算法应用带来的伦理挑战与社会风险强调政府、企业与社会等多元主体协同推动算法向善二、从规制到治理：算法政治理论的演进（一）规制理论视角下的算法政治规制（Regulation）是公共或部分特定私人机构，为了提升市场竞争效率和降低经济社会风险，基于法律和规则，对社会、商业和政治行为体履行规则情况的监督和执行算法政治：以算法决策为手段的规制体系，并将算法视为与市场制、等级制并列的模式算法规制的形式包括“为管理风险或改变行为而对活动领域进行规范的决策系统，通过持续计算与受规制环境相关的众多动态组件，从获得的数据中生成知识，识别并在必要时，自动优化系统达到预先制定的目标”。算法规制的整体性目标是实现“负责任的算法”，即通过建立算法问责制解决算法技术的负外部性。（一）规制理论视角下的算法政治算法规制理论包括用算法监管和对算法的监管两个方面。算法监管自动化、智能化，提升监管的及时性和有效性公司：通过引入算法实现平台业务的自动化管理，对恶意行为进行规制等政府：基于算法监测系统，通过收集和分析与监管环境相关的数据，实时观测、分析、预警和干预以控制风险金融业、交通业、互联网行业对算法的监管在大数据和人工智能时代，算法往往具有资源配置权算法决策在一定程度上更为客观、规范、透明算法歧视、算法黑箱、算法错误等问题，进而负向影响个体和社会福利（二）治理理论视角下的算法政治治理理论是理解新型技术治理机制的基础。公共部门、私人部门和第三部门之间的边界逐渐消失治理网络的各个成员之间围绕同一目标进行资源的互换网络成员按照共同协商认可的规则约束进行博弈性互动治理网络是一种自组织形式，不需要对国家权力负责在治理理论的基础上，学者们进一步提出了算法政治的治理框架。规制治理：在市场秩序和政府干预之外寻找第三条道路，将被规制者的知识与资源纳入治理过程中敏捷治理：则强调不同的治理主体广泛参与治理过程的同时，快速反应和适应性选择政策工具。实验主义治理：强调在持续变化和不确定环境中，建立临时性行动框架，并在政策评估过程中对行动框架进行修正。公共价值治理：强调算法规制与算法治理之间的互动关系，算法治理创造效率、效益、创新等绩效价值，算法规制创造透明、平等、可问责等程序价值，算法治理催生算法规制，算法规制则可以规范算法治理。（二）治理理论视角下的算法政治

治理权力的集中结构治理权力的分布结构治理对象的结果控制1.设立算法规制独立机构2.公共领域的算法应用限制3.性能指标与技术标准4.算法结果标识1.影响评估与分级责任2.算法“黑箱”测试3.可信算法设计治理对象的过程管理1.算法干涉权2.合意的透明度要求1.算法正当程序2.风险信息共享3.算法治理教育4.算法伦理监督来源：贾开,赵静.技术嵌入、价值倾向与算法分类治理[J].经济社会体制比较,2023(04):101-111.三、算法治理：算法介入国家治理的逻辑与政治效应（一）算法介入国家治理：一个新兴的研究领域国家在治理过程中对算法技术的引入与使用构成算法政治实践的核心场域，是最为典型和直观的算法政治形式本节关注的“算法治理”：算法介入国家治理过程的动力、机制与模式算法催生的新型技术权力与国家这一关键政治主体的交互过程及其潜在政治效应人工智能时代，算法介入国家治理成为全球范围内国家治理变革的重要趋势从历史上看，算法介入国家治理并非新事国家治理的“计算传统”源远流长：“国家计算”、“数目字管理”(韩志明&刘华云，2021；陈明明，2023；Foucault,2007)算法是数字政府建设及其运行不可或缺的治理要素(黄璜，2020；孟天广，2022)然而，上述国家治理的“算法”应用很少被视作一种可用于表征国家治理演进趋势的“算法政治”实践，而更多被作为国家治理工具箱中的一种新生治理技术来看待（一）算法介入国家治理：一个新兴的研究领域现有研究通常认为，算法政治的生成与政治场域中“智能算法”的广泛应用紧密相连智能算法：以数据为原料、以代码为载体、以自主学习为核心除遵循一般的计算逻辑外，还拥有迭代学习、自我强化、黑箱性等特异性逻辑与政府先前使用的传统算法技术相比，具有更高的技术自主性、更强的原理隐蔽性、更广的影响辐射性不同于过去许多简单可控的治理技术，智能算法衍生出一种新型“技术权力”(谭九生&范晓韵，2021；张凌寒，2019；汝绪华，2018；Amoore,2023)，因而其对国家治理过程的介入也成为智能时代国家治理变革日益凸显的新兴领域（二）算法如何介入国家治理：动力、机制与模式算法如何介入国家治理？动力-机制-模式的分析框架算法介入国家治理涉及的三个阶段(Levyetal.,2021)技术采纳：政府为何要引入算法技术？技术嵌入：在决定引入之后，政府如何获得算法技术？技术耦合：在将算法纳入治理工具箱后，政府如何应用算法技术达成预期目标？动力-机制-模式：以国家为中心的算法政治实践全过程进入动力维度：推动算法介入国家治理的多重因素嵌入机制维度：算法嵌入国家治理的多元方式耦合模式维度：算法与政府治理体系的不同耦合样态（二）算法如何介入国家治理：动力、机制与模式动力：政府为何引入算法技术？功能主义视角：算法的治理功能与治理优势是国家采纳算法技术的重要动力提升政府响应速度和工作效率(Gupta&Pal,2021)节约治理成本(Eggersetal.,2017)增强精准性（accuracy）和一致性（consistency）(Coglianese,2021)实现大规模个性化定制的治理目标(Williamson,2014)更为丰富的治理信息和治理知识供给(宋锴业，2022)组织契合视角：经典科层制逻辑与算法系统运作原理的契合性韦伯经典科层制理论中的理性化、非人格化、规则化、专业化、客观化要素算法系统：一种官僚化工具(Peeters&Schuilenburg,2018)“算法官僚”延续了传统官僚制设计的工具理性逻辑，从“韦伯铁笼”到“算法铁笼”(段哲哲,2021)“数字韦伯主义”(Muellerleile&Robertson,2018)对作为社会-技术存在的算法系统与官僚制组织进行的类比(Pääkkönenetal.,2020)（二）算法如何介入国家治理：动力、机制与模式动力：政府为何引入算法技术？社会工程视角：关注驱动算法进入公共部门的观念动力“社会工程”及其背后的极端现代主义意识形态(Scott,1998)“解决方案主义”：对依靠日渐强大的算法技术解决棘手社会问题的信念(Morozov,2014)政企关系视角：关注企业在游说政府应用算法技术过程中的角色“算法影子官僚”(郑崇明，2021)；“算法俘获”(聂辉华，2022)企业基于商业逐利逻辑向政府推销和植入算法技术(Valentine,2019)一种隐蔽的经济和利益驱力（二）算法如何介入国家治理：动力、机制与模式机制：算法技术以何种机制嵌入政府？理论上，赋能政府、赋权社会和赋智决策是算法嵌入的三种关键机制(孟天广，2023)实践中，三种机制相互交织，并经由更为具体的操作化路径，使算法得以嵌入国家治理过程赋能政府：算法技术与政府内部各职能部门日常工作的耦合过程社会服务部门：自动化资格审核与福利发放(Eubanks,2018)交通部门：交通违章的自动识别(Yeung,2018)司法部门：智能算法系统辅助量刑决策(Završnik,2021)赋权社会：算法技术对社会多元主体参与能力的增强作用投放政务机器人促进政民实时互动(Androutsopoulouetal.,2019)利用自然语言分析技术解析网络表达并及时推进政府回应(Engstrometal.,2020)赋智决策：算法技术汇集众智，进而综合提升国家治理的决策质量算法嵌入政府决策的多元路径：反应vs.预测；算法辅助vs.算法取代(Yeung,2018;马颜昕，2019)标准设定：标准固定型(简单的算法系统)vs.标准可变型(具有适应性的、智慧的算法系统)监控与信息收集：历史数据型(反应式的算法系统)vs.推断数据型(预测式的算法系统)执法与制裁：自动型(算法自主决策)vs.建议型(算法辅助决策)（二）算法如何介入国家治理：动力、机制与模式模式：算法与国家治理的耦合样态政企合作模式源于算法的技术复杂性，及其应用于国家治理过程的场景复杂性主要实现机制：公私合营、政府采购优势是政府获得的算法技术将更具专业性，但此中的委托-代理关系可能衍生出信息不对称、监管、俘获与寻租等问题（段哲哲，2021），且可能加剧算法不透明和监督问责的困境（Valentine,2019)政府自建模式政府能够掌控算法系统的开发过程提升政府能力并获得嵌入式的技术专长(embeddedtechnicalexpertise)（Engstrometal.,2020）优势显著，但在现实中则常因受制于资源约束，而难以成为实践的主流政社共建模式政府与学术机构、非政府组织等社会力量或志愿力量合作，或通过发起社会众包竞赛来引入算法技术优势是能够调动社会力量和有效利用社会创新能力，劣势则在于社会开发的技术应用范往往有限，且通常在大型和复杂的任务上表现欠佳，技术可靠性和运行韧性可能堪忧（三）算法介入国家治理的政治效应：基于国家-社会关系的视角国家的算法化变革政府组织模式一种新的组织、协调与合作机制，如“算法牢笼”模式与“算法同僚”模式(Meijeretal.,2021)重塑官僚角色与自由裁量权替代人类官僚，限制裁量权：人类官僚角色更多转向监督算法系统运行、处理例外状况等辅助人类官僚，增强裁量权：人类官僚角色更多转向与数据科学家合作，将自身专业知识与算法研判相结合以作出更为科学、精准的决策，因而在决定如何利用算法判断方面获得了更多的自主性（Vogletal.,2020;Bullock,2019）重构政府内部权力关系算法专家等局外群体进入政府内部，政府内部的权力运行出现外部化趋势(段哲哲，2021;郑崇明，2021)政府内部掌控算法系统的部门获得额外的技术与信息优势，在横向权力关系中拥有更多话语权和更为凸显的权力地位(梅立润，2023)，在纵向权力关系中则将改变过去政府上下级之间的信息不对称现象（景跃进，2023）（三）算法介入国家治理的政治效应：基于国家-社会关系的视角社会的算法化社会运行的算法化：算法成为智能社会不可或缺的基础要素(Cheney-Lippold,2017;贾开，2022)微观层面：个体的经济与社会行为中观层面：市场与社会组织的运行过程社会治理的算法化将社会成员纳入到算法系统的操作范围之内(Fourcade,2021)监视、测量、画像、分类、排序、评分等操作，从“个体”到“数据流”(Fourcade&Gordon,2020)公民日益基于算法推断的“算法身份”来与国家互动（三）算法介入国家治理的政治效应：基于国家-社会关系的视角算法驱动的国家-社会关系变迁国家-社会间权力配置：权力再分配效应算法系统操纵：资源更多者更有能力操纵算法为己所用(Engstrom&Ho,2021;Eubanks,2018)算法的不均衡赋权效应：“代码精英”(codingelite)的崛起与政府获得的知情、评分、排序等权力(Burrell&Fourcade,2021)普通个体通常处于相当被动和选择极为有限的境地，“余数生命”(吴冠军，2020)社会对国家的约束：算法介入之于正当性和问责性的影响民主侵蚀与正当程序问题算法治理的去民主化风险：算法决策的瞬时性、黑箱性vs.公众参与、讨论协商、专家论证等民主环节(张凌寒，2020;张恩典，2020;Burrell,2016;Danaher,2016;König,2020)算法系统出错或出现偏见之时的权利救济与问责障碍(Calo&Citron,2021;Busuioc,2021)权力滥用与监督问责问题可能促使政府以算法决策不可解释性为由，逃避对公共决定的回应与责任承担在技术外包给私人企业的情况下，将责任推诿给技术企业(Coglianese,2021）（三）算法介入国家治理的政治效应：基于国家-社会关系的视角算法驱动的国家-社会关系变迁国家对社会的干预：新的干预调控模式算法嵌入的运行原理：社会测量、社会计算(张敏，2022)涉及问题定义、问题的形式化、数据收集与整合、数据处理与知识生产、应用算法知识采取干预五个步骤（Levyetal.,2021）这为未来国家干预社会提供了两种新思路：基于预测的国家行动逻辑：依靠算法预测这一机器智慧获得“先知”的能力，从而先发制人地进行治理基于设计的国家治理逻辑：将规则与价值规范预先内置于算法系统的设计当中，巧妙、隐蔽和更为自然地达成治理目标。核心是通过设计和改变选择架构（choice

architecture），助推行为者的决策与行动向国家期望的方向发展（(Gritsenko&Wood,2022)四、治理算法：算法风险及其治理路径个体角度：推荐系统给带来“信息偏食”现象造成个体认知窄化的风险。例：推荐算法对信息的过滤，导致“信息茧房”、“过滤气泡”。市场角度：以攫取利润为目的的科技企业对个人数据的商业化利用酝酿“监控资本主义”。例：商业平台滥用用户数据进行“杀熟”。国家与公权力角度：人工智能算法被特定利益集团用于社会控制和政治权力再生产的政治风险。例：国家利用算法对社会展开全景化的执法与审查，形成“算法利维坦”。（一）理解算法风险（二）算法伦理：治理价值与治理路径算