15第十五章-人工智能治理

人工智能治理新编21世纪政治学系列教材

《计算政治学概论》

第十五章目

录一、理解人工智能技术及其治理二、人工智能治理的要素体系三、人工智能治理的场景应用四、人工智能治理的伦理关切五、人工智能治理的未来研究议程一、理解人工智能技术及其治理一、理解人工智能技术及其治理（一）人工智能及其发展阶段

1.人工智能

人工智能可理解为通过计算机系统模拟、延伸和扩展人类智能的一门科学。玛格丽特·博登认为人工智能就是让计算机完成人类心智能做的各种事情。通过开发算法和利用数据构建智能机器和智能系统，人工智能能够执行通常需要人类智能才能完成的任务，如视觉感知、语音识别、决策推理和语言翻译等。

2.人工智能发展阶段

（1）早期奠基突破期（1940-1970）

（2）认知挑战转型期（1970-1993）

（3）机器学习革命期（1993-2012）

（4）算法治理竞争期（2012至今）一、理解人工智能技术及其治理（二）人工智的类型及其流派

1.人工智能的类型

（1）专用人工智能：指仅在特定领域或特定任务中表现出智能的人工智能系统。这类系统虽在某些方面可能超越人类表现（如下棋、图像识别），但其能力严格限定在预设范围内，无法迁移到其他领域。

（2）通用人工智能：指能在几乎所有认知领域达到人类水平的人工智能系统。这类系统具备抽象思维、因果推理、知识迁移等通用智能特征，可以像人类一样学习和适应新环境、解决新问题。（3）超人工智能：指在几乎所有领域都远超人类智能水平的人工智能系统。这类系统不仅具备通用智能，还能实现快速自我改进，可能带来“智能爆炸”，从而引发深刻的存在性风险，底改变人类文明的发展轨迹。

一、理解人工智能技术及其治理（二）人工智的类型及其流派

2.人工智能的流派

（1）符号派（Symbolists）亦称逻辑主义者，其核心观点是智能行为可以通过符号操作来实现。这一流派认为，人类智能本质上是符号处理的过程，即通过符号（如语言、数学符号等）及其操作来表示、处理和生成知识。

（2）连接派（Connectionists）又称为联结主义或神经网络学派，其主要观点是通过模拟人脑的神经网络结构和功能来实现智能。这一流派认为，大脑是智能的基础，智能的本质是大脑结构及其处理信息的机制，智能行为源于大量简单计算单元（神经元）之间的复杂连接和相互作用。

（3）行为派（Behaviorists）或称行为主义人工智能，其关注点在于智能体对环境的适应和行为表现，而非其内部的心理状态或符号操作。行为派认为智能是通过与环境的交互来实现的，强调感知-动作循环的重要性。

（4）进化派（EvolutionaryAlgorithms）或称进化计算学派，其灵感来源于生物进化论，通过模拟自然选择和遗传学机制来优化问题的解决方案。进化派的研究重点在于全局优化、自适应系统设计和复杂问题求解。随着计算能力的增强，进化算法在多目标优化、自动程序设计和机器学习模型优化等领域展现出其独特的优势。一、理解人工智能技术及其治理（三）面对人工智能技术的治理

1.算法治理：是确保人工智能算法在设计、训练和部署过程中的公正性、透明度和无歧视性。随着算法在社会决策中的作用日益增强，算法可能导致的偏见和歧视问题而引发广泛关注。算法治理要求开发者对算法的决策过程负责，增强算法决策的透明度，允许外部审计和评估。算法治理还包括对算法进行定期的偏见检测和纠正，确保算法不会因其歧视与偏见设定而产生不公正结果。

2.技术治理：是确保人工智能系统可靠性和安全性的关键。制定和遵守技术标准可以减少人工智能系统的技术风险，提高系统的稳定性能。技术治理包括系统在架构设计、接口规范、性能指标和安全要求等方面，通过一定的技术标准和其他可能的技术规范来促进人工智能技术的健康发展，避免因技术本身的问题导致产生负面社会影响。3.数据治理：是人工智能治理的基石。数据治理关注的是数据的隐私保护、合法性和安全性。个人数据的收集和使用需要遵循严格的法律和道德标准，保护用户的隐私权益。数据治理要求建立数据保护机制，如数据加密、访问控制和数据泄露应对措施等；同时，还需要确保数据的合法来源，避免使用违法或反道德手段获取数据并从事相关非法获利活动。一、理解人工智能技术及其治理（四）基于人工智能应用的治理

1.组织维度治理：主要是对不同国家为识别和评估人工智能应用可能带来的风险何进行治理所设定的特定组织机构，包括政府、企业和社会组织等共同组成的组织机构，通过发挥不同的功能来对人工智能技术应用的法律风险和道德风险等进行评估和规范，需要定期更新和持续出台相关法律规则以应对现实挑战。

2.制度维度治理：是确保人工智能应用合规性的重要机制，主要体现为不同国家或不同组织所设定的监管框架，包括法律法规、监督机制等，旨在通过正式制度和非正式制度对人工智能的应用进行全面监督和系统治理，确保人工智能技术的发展与人类经济社会的整体利益相一致。3.伦理维度治理：主要涉及特定行业所制定的人工智能应用指南和标准。不同行业对人工智能的应用有不同的要求和风险，需要制定相应的规范来指导人工智能的应用。这些规范包括人工智能算法应用指南和伦理标准等，旨在确保人工智能技术在特定行业的应用是安全、有效和符合伦理的。二、人工智能治理的要素体系二、人工智能治理的要素体系（一）人工智能技术治理（1）技术的创新与监管

创新与监管是各国人工智能技术发展的相向路径。如果将技术创新和监管视为连续谱，美日两国更鼓励技术创新，而中欧则更侧重监管。人工智能治理的三个基本问题：技术逻辑、风险挑战与公共政策选择。（2）技术的风险与矫正

人工智能存在隐私泄露、侵权行为等风险，需要将伦理规则嵌入算法中来解决技术伴生的治理挑战。可通过软件来截堵网上的隐私漏洞，或通过随机换脸来应对人脸识别技术滥用可能导致的隐私泄露和侵权行为等。（二）人工智能组织治理（1）人工智能治理的组织类型

中美人工智能治理中，政府发挥主导作用，企业和科研机构发挥着重要辅助性支撑作用。

欧盟在人工智能治理中主要联合政府机构和国际组织发挥主导作用。（2）人工智能组织治理的重点

就政府主体而言，中国政府侧重于机器人、人工智能等产业经济领域人工智能整体顶层设计，强调建设人工智能创新发展试验区，营造新兴产业集群发展环境。

就社会主体而言，中国科技巨头企业相继发布人工智能应用准则、技术伦理观、伦理框架、宣言等指引性伦理原则；中国科研机构则围绕善治、可信、和谐、担当等核心要义发出宣言或倡议。二、人工智能治理的要素体系（三）人工智能制度治理

（1）人工智能治理的制度体系

美欧中日四个国家及地区人工智能制度体系呈如下特征：其一，战略规划和行动措施类文件由各国政府出台，美欧日发布战略规划类文件较多，我国发布行动措施类文件较多。其二，倡议宣言类文件在各国由不同组织主体发布，美国倡议宣言类文件由政府和社会组织等共同发布，欧盟由政府和企业等

共同发布，日本主要由企业组织发布，中国则由企业、科研机构和社会组织等共同发布。其三，各国政企社研等多主体均有发布原则标准类文件，但企业在各国人工智能原则标准文件的发布上均更多。（2）人工智能治理的制度内容

在战略规划方面，中国人工智能宣言或倡议更多由科研机构和社会组织等联合发出，企业随后跟进。在原则标准方面，各国文件数量均为最多，政企社研各主体均有设定，各国企业组织提出数量均为最多。在行动措施方面，中国则由工业和信息化部制定人工智能产业发展三年行动计划，相应部委据自身职责制定“互联网+人工智能”“人工智能+实体经济”“人工智能试验区”等行动实施方案、指导意见或工作指引等。三、人工智能治理的场景应用三、人工智能治理的场景应用（一）人工智能技术的政务服务应用1.人工智能技术可以优化政务服务流程。2.人工智能技术可以助力政府资源分配更加精准公平。3.人工智能技术能够帮助政府识别潜在的社会问题。

与此同时，生成式人工智能在政务决策、管理、服务和监管领域的深度应用，可能在以下方面出现隐忧并须提前防范：1.对政务服务机构的人力需求削弱，以及技术人才缺口的扩大。2.政务用户的知识产权署名和认可问题，以及可能对用户个人隐私的侵犯。3.由于计算机算法设计的误差性质或现实中自带歧视性的数据集训练而引发的政务服务歧视行为。4.理解特定政务情境下人类语言的隐藏含义和多重情感时的局限性。5.基于数据统计和智能算法而做出的最优决策符合“经济人理性”而不一定符合“公共理性”。三、人工智能治理的场景应用（二）人工智能技术与公共危机治理1.在危机发生时，资源分配是一个复杂的问题，需从资源的可用性、需求的紧迫性、地理位置等进行综合考量。2.同时，人工智能可以通过使用各种算法模型，计算出救援车辆和人员的最优路线，以最短的时间到达受影响区域，并模拟不同的应急响应场景，评估不同策略的效果，评估不同应急响应行动的风险，帮助决策者理解可能的后果。3.然而，公共危机治理中的人工智能应用同时也面临着数据准确度、算法可靠性、响应及时性、信息过载性等现实挑战。（1）数据准确度对包括来自社交媒体、传感器网络、历史记录等海量数据本身可能存在的偏差、不完整或错误等，对系统决策质量的影响。（2）人工智能算法需要能够适应快速变化的环境，并提供稳定可靠的解决方案，这要求算法不仅要有强大的计算能力，还要有良好的泛化能力和稳健性，这要在实际应用中不断评估和优化。（3）人工智能高效的计算能力，需要与现有的危机管理系统无缝集成，从而可以为实时数据处理需求、迅速采取行动奠定基础。（4）人工智能系统需要在公共危机过程中产生的大量数据中过滤无关信息、突出关键数据、提供决策支持来帮助缓解信息过载问题。而这需要人工智能系统与人类决策者在高效且有效的沟通机制下完成。三、人工智能治理的场景应用（三）人工智能技术与城市交通治理

人工智能技术在城市的交通规划和管理、交流流量预测与优化、出行与停车行为、通信与事故预防等方面已有应用。人工智能技术有助于模拟和评估不同的交通规划方案，预测其对交通流和环境的潜在影响。然而，需要注意的是，人工智能技术的快速迭代及其在交通领域的广泛应用，出现了技术标准制定、责任归属、安全监管等现实风险，自动驾驶领域也存在质量安全、责任追溯与分配、数据安全、合规风险等治理问题。因此，城市交通治理需要综合考虑技术、制度、伦理等多方面因素，构建全面的治理框架，以确保人工智能技术在城市交通领域的健康发展。四、人工智能治理的伦理关切四、人工智能治理的伦理关切（一）人工智能治理的现实风险

目前，我们仍处于所谓的机器无自主意识的弱人工智能阶段，但即便是弱人工智能，技术引发的伦理风险也层出不穷，譬如数据泄露和隐私侵犯、信息伪造和内容造假、算法歧视和算法独裁、产品事故问责困难等问题。而且，人类社会的各个方面无不充斥着人工智能的身影，技术的普遍渗透也引发了社会对人工智能取代人类劳动力、损害人类自主性的担忧。（二）人工智能治理的伦理原则（1）自主决定原则（2）安全可靠原则（3）透明公开原则（4）隐私保护原则（5）公平公正原则（6）责任担当原则四、人工智能治理的伦理关切（三）人工智能治理的监管方式1.政府监管：此类监管主要指在法律意义上约束和规范人工智能活动。人工智能治理法律有利于规范人工智能应用场景、明确人工智能权责归属、培育人工智能伦理意识、为人工智能的开发和使用提供价值标准。2.社会监管：社会公众是人工智能的服务对象，更是人工智能伦理治理的参与者和监督者。公众监督主要通过向企业、新闻媒体、行业协会、政府的反馈来实现。3.行业监管：此类监管以行业责任主体伦理培训最为典型。伦理培训指对相关责任主体提前说明、解释在人工智能发展过程中可能涉及到的伦理道德风