联合国-2023以人为本的人工智能治理研究报告（英译中）

12023年12月AI10的风险682机构职能3:制定和协调标准、安全和风险管理框架21机构职能6：监测风险、报告事件、协调应急响应结论252225282.然而，也存在风险。人工智能可以加强偏见或扩大监控；自动化决策可以模糊公职人员的问责制，即使人工智能增强的虚假信息威胁到他们的选举过程。人工智能系统的速度、自主性和不透明性挑战了传统的监管模式，即使越来越强大的系统被开发、部署和使用。如今，人工智能的好处主要集中在少数州、公司和个人身上。4.这项技术需要治理，不仅是为了应对挑战和风险，而且是为了确保我们以不让任何人掉队的方式利用其潜力。衡量我们成功的关键标准是人工智能技术在多大程度上帮助实现可持续发展目标(SDG)。例如，方框1说明了人工智能在应对气候变化及其影响方面的潜力(SDG13)。4为考虑如何治理今天的人工智能，还考虑如何为变革步伐只会加快的环境做7.尽管如此，我们对人工智能方面的补充治理举措抱有紧迫感，包括各国以及欧盟、七国集团、二十国集团、教科文组织和经合组织等区域和政府间进程的举措。然而，需要更多的包容性参与，因为许多社区——特别是全球南方或全球多数社区——在这些讨论中基本上没有出现，尽管他们的生活可能受到影响。需要一种更具凝聚力，包容性，参与性和协调性的方法，涉及世界各地的不同社区，特别是来自全球南方或全球多数派的社区。格的机构，其独特的合法性得到普遍认可，以及其对拥抱世界各国人民多样性的承规范和原则达成共识以及确保良好治理和问责制提供了关键节点。在联合国系统危害也分布不均。需要所有成员国平等参与的全球治理，以使资源可获得，使前沿。人工智能正在提高发达经济体和发展中经济体从医疗保健到农业等领域的生种增长之外，还有一些问题，即需要哪些推动者来确保利益在人类中公平和安全地人类辅助AI人工智能可以帮助人们完成日常任务，以及他们最雄心勃勃、最具创造性和富有成效的努力。人类辅助AI包括无障碍工具和教育改进。已经开发的应用程序可以作为视觉或语音受限的人的虚拟助手，支持以前被忽视或忽视的可访问性需求。人工智能支持的翻译现在涵盖了一百多种语言，促进了访问以及跨文化理解和沟通。新一代辅导应用程序有望在全球范围内扩大获得优质教育的机会。部门机会AI将在某些领域而不是其他领域产生更大的影响。最有希望的是农业和粮食安全、卫生、教育、环境保护、自然灾害和应对气候变化。例如，人工智能不安全。人工智能被用来监测濒危物种(例如P科学机遇联合国利用AI的机会。这需要国家对人才、数据和计算资源的投资，以及国家监营部门参与者之间，国际援助与合作都应补充国内努力。召集科学家解决社会挑战可对人类潜力的关键推动因素。数据和模型的开源和共享可以在传播人工智能的好处以20.人工智能开发、部署和使用的启用者(“共轨”)需要与“护栏”保持平衡，以管理对社会和社区的影响。试金石将是人工智能治理努力在多大程度上产生人类的增强，而不是人类的替代或疏远。一些人工智能的发展依赖于全球南方廉价和可开采的劳动力。即使在全球北方，也存在与重视艺术表达，知识产权和人类劳动尊严有关的问题。如果我们要避免国家内部和国家之间的“人工智能鸿沟”,就需要公平获得这些技术和相关技能以充分利用它们。但是很多人不会。确保人工智能是为了共同利益而部署的，其利益得到公平分配，将需允许联合访问数据、计算和人才的基础知识，以及I和,我们认为从脆弱社区和公地的角度看待风险更有用。我们已尝试按照此方法进行初步分类（方框3）,该方法将在现有工作的基础上进一步发展为风险评估框架。随着技术，其采用和使用的发展，风.个人相互作用）.团体.Societyo民主（选举、信任）o安全（军事和警务用途）.经济.(Eco)系统.值和规范31.关于如何评估或解决这些风险尚未达成共识。然而，正如预防原则对环境困境的规定，对风险的科学不确定性不应导致治理瘫痪。达成共识并采取行动需要全球合作与协调，包括通过共享风险监测机制。国际组织在从化学和生物武器到核能的双重用途技术方面拥有数十年的相关经验，这些经验基于条约法和其他规范框架，可用于解决人工智能的风险。33.我们必须识别、分类和解决人工智能风险，包括就哪些风险是不可接受的，以及如何预防或预先防范这些风险达成共识。还需要对人工智能的意外后果进行警惕和视野扫描，因为这样的系统是在越来越多样化和未经测试的环境中引入的。为了实现这一目标，我们必须克服技术、政治和社会挑战。。利用人工智能改善受教育的机会可能会引起人们对年轻人数据隐私和教师代理数亿学生无法获得优质教育资源的世界里，不使用技术来弥合差距可能会有弊端39.今天，人工智能治理的指南、框架和原则并不缺乏。私营部门和民间社会以及国家、区域和多边机构起草了文件，产生了不同程度的影响。就技术而言，治理工作一直侧重于数据、模型、基准或评估。应用也一直受到关注，特别是在有现有部门治理安排的地方，例如卫生或两用技术。这些努力可以植根于具体的治理安排，如欧盟人工智能法案或美国S.行政命令，它们可以与参与和合规的激励措施相关联。图1提供了一个简化的方案，用于考虑新兴的AI治理格局，咨询机构将在其工作的下一阶段），;（c）提供能力建设，相互保证和监测（IAEA，ICAOd）网络和研究资源库（CERN45.本中期报告中提供的初步建议不是在现阶段提出任何单一的AI治理模型，而是侧重于原则这应该人工智能服务管理，欧洲委员会人工智能公约草案，欧盟人工智能48.人工智能系统的发展主要集中在科技公司手中。人工,但还不够。对于构建、部署和控制AI的公司和其他组织，以及在整个AI生命周期中跨经济和社会多50.人工智能将被多个部门的人和组织使用，每个部门都有不同的用例、复杂性和风险。治理工作必须牢记与多样性、公平、包容、可持续性、社会和个人福祉、竞争性市场以及健康创新生态系统相关的公共政策目标。它们还必须整合错过使用对经济和社会发展的影响。责任方面提供更大的明确性。为了公共利益进行治理还意味着对公共技术、基础设施和公职人员51.数据对于许多主要的AI系统至关重特别注意公共数据，这些数据对于帮助解决气候变化、公共卫生、经济发展、能力建部署和使用的不同文化意识形态。需要在这一治理框架内建立创新结构，让私图2：按机构“硬件”分配的AI治理功能能承担主要责任。包括学术界和独立科学家在内的民间社会将在为政策建立证据、施期间让关键行为者承担责任方面发挥关键作用。每一套职能在和国际组织——都有不同的责任位置。在下一阶段的工作中59.目前，对于人工智能的未来轨迹和影响，没有权威的、包容性的多学科评估的制度化功能。关于人工智能技术的方向和速度以及相关的风险和机遇的共识可能是政策制定者在制定国内人工智能计划以鼓励创新和管理风险时利用的资源。每六个月释放一次科学的、基于证据的见解，向政策制定者通报人工智能开发、部,这可能需要一项国际协议。63.正在制定人工智能的技术和规范标准、安全和风险管理框架的几项重要举措，但缺乏全球协调和统一(表1中的子功能11)。由于其全球成员资格，联合国可以在将各国团结在一起，制定共同的社会技术标准以及确保法律和技术互操作性方面发挥关键作用。据标签和测试标准、数据保护和交换协议，这些标准可以为初创公司提供跨境测试和任、争议解决、业务开发和其他支持机制。现有的法律、财务和技术安排需要发展，20可持续发展目标开发，部署和使用AI系统，使独立的学术研究人员，社会企业己的模型并进行研究和评估所需的基础设施和数据集。这可能需要网络资源和努68.汇集类似于CERN、EMBB或ITER的专家知识和资源，以及原子能机构的技术传播功能，可以为可持续发展目标提供急需的推动(表1中的子功能6)。鼓励私营部门行为者分享和提供研究和开发工具也可以补充这些功能。来自全球南方的专家通常在全球人工智能会议上看不见。这需要改变。69.开放数据和计算的访问也应伴随着能力于利用人工智能实现可持续发展目标至关重要。类似于企业在全球契约下做出的和其他公司为更大的利益开发、部署和使用人工智能的公开承诺。在全球数字契70.人工智能工具的无国界性质可以在全球范围内扩散，这对国际安全和全球稳定构成了新的挑战。人工智能模型可以降低获得大规模杀伤性武器的障碍。人工智能网络工具增加了对关键基础设施的攻击风险，两用人工智能可用于驱动致命的自主武器，这可能对国际人道主义法和其他规范构成风险。机器人可以迅速传播具有人类特征的有害信息，其方式可能对市场和公共机构造成重大损害。不能排除流氓AI逃避控制并构成更大风险的可能性。鉴于这些挑战，能力必须。21。22描23在继续解决人工智能问题的现有国际机构之间解体现规范和规则的最佳实践，包括风险缓解和经济增长。协调、利用并包括在区域、国家和行业层面制定的软性和硬性法律、标准、方法和框架，以支持互操作性。24人工智能治理必须为人们和社会提供切实的利益和保障。有效的全球治理框架必之间的差距。在下一阶段的工作中，我们将基于全球不同利益相关者的观点，探索80.在现阶段，上述初步建议并没有提出任何单一的人工智能治理模式，而是侧重于任何此类制度都必须追求的原则和功能。81.在接下来的几个月中，我们将与世界各告中问题的活动，以及与政府、私营部门、民间社会以及研究和技术界的接触。我,包括风险评估方法和治理互操作性。将进行案例研究，以帮助在特定情况下思考报告中确定的着陆问题。我们还打算深入研究一些领域，包括开源、人工智能和金融部门、标准制定、25我们能否通过促进模型构建生态系统，例如通过数据保护和交换框架，共享计算访问，使AI开发更具包容性？数据标签和测试的通用标准是否会鼓励AI初创公司在更多国家哪些机制将促进利益相关者和成员国之间公平在识别、分类和解决人工智能风险方面达成共识的最佳途径是什么？识别红线的门槛或触发因素应该是什么(也许类似于生物医学研究中禁止人类克隆)？如何监管和执行任何这样的红线？2627MariaVaninaMartinezPosseSeydinaMoussaNdiayeMarietjeSchaakeSha爸JimenaSofiaViverosAlva28该机构将由来自政府，私营部门，民间社会和学术界的38名成