为人类治理人工智能

为人类治理人工智能【译者按】2024年9月，联合国人工智能咨询小组发布《治理人工智能，助力造福人类》的最终报告。报告提出了全球人工智能包容共治、数据共享、多方协作等五项原则，总结分析了现有全球人工智能合作机制的现状。报告提出，当前人工智能全球治理存在代表性不足、协调性不足等问题，导致人类无法应对人工智能技术带来的潜在威胁。报告提出了建设全球人工智能科学小组、加强全球人工智能治理政策对话、设立全球人工智能标准交流中心、在联合国秘书处内设置人工智能办公室等治理举措建议。【关词】人工智能 联合国 治理 机构人工智能技术具有巨大的“向善”的潜力，从开辟新的科学探索领域、优化能源网络，到改善公共卫生和农业发展，乃至实现联合国可持续发展目标等方面都可以发挥重要作用。然而，如果未能实现有效治理，人工智能带来的机遇就难以实现或者无法得到公平的分配。与此同时，快速、不透明和自主的人工智能系统为人类带来了严峻挑战。未来，在全球范围内开展人工智能治理合作是应对风险挑战的关键。一、人工智能全球治理合作的现状（一）人工智能全球治理合作的主要原则从长远来看，人工智能治理必须为人类和社会带来切实的好处和保障。因此，联合国提出了以下原则：人工智能应由各方以包容方式共同治理并造福所有人尽管人工智能具有极大潜力，但是仍然不具有普惠意义，许多人都无法接触使用人工智能。充分利用人工智能的潜力，并使其发展、部署和使用过程中的广泛参与成为可能，是推动全球挑战可持续解决方案的关键。无论国家大小，所有国家都必须能够参与人工智能治理。无论南方或北方的公民，都应该能够通过人工智能创造自己的机会、利用这些机会并实现繁荣。因此，我们需要采取积极和矫正性措施，以解决个别少数群体在技术发展、部署、使用和治理过程中长期以来的历史性和结构性排斥问题，并将数字鸿沟转变为包容性的数字机会。人工智能治理必须以公共利益为导向人工智能系统的开发主要集中在科技公司手中。人工智能的优化、部署和使用涉及开发者、部署者和用户多种群体。从社交媒体的经验来看，人工智能产品和服务能够迅速跨越边界和用户类别进行扩展。因此，除了更广泛的机会与风险考量外，人工智能必须以公共利益为核心进行治理。仅仅要求“不造成伤害”是一项必要但不足的要求。我们需要更广泛的框架对在人工智能生命周期中建造、部署和控制人工智能的主体追责。这不能仅依赖于自我监管，还需要成员国一致执行的具有约束力的规范，以确保公共利益优先于私人利益。此外，人工智能多样化使用的具体人工智能治理应与数据治理和促进数据共享空间协同进行数据是人工智能系统的关键，其治理和管理必须与人工智能治理的其他组成部分相结合。学术界强调，数据治理应作为短期优先事项处理。私营部门实体指出，数据治理措施应补充人工智能治理，强调全面的隐私法和负责任的人工智能使用。国际组织和民间社会组织强调，人工智能训练数据的治理应保护消费者权益，并通过对人工智能训练数据的非排他性访问来支持人工智能开发者之间的公平竞争，强调了对具体和可付诸行动的数据治理措施的呼吁。联合国被确定为应对这些治理挑战和缩小资源差距的一个关键场所。我们需要建立隐私和安全保护框架的法律与技术安排，在符合适用法律的前提下，促进数据使用。同时，还应鼓励发展公共数据共享，尤其是针对解决社会挑战至关重要的公共数据，使多方利益相关者可以使用。人工智能治理必须具有普遍性并与多利益相关方共同协作任何人工智能治理工作都应优先争取不同成员国和利益相关者的普遍支持。尤其需特别关注包容性参与，降低全球南方被排除社区的进入门槛。同时，除了要求现有机构根据人工智能的影响审查其当前职能，还需要新的横向协调和监督职能，并应由新的组织结构来承担。新旧机构可以形成一个共同的治理网络。此外，治理框架还需理解推动人工智能开发、部署和使用的不同文化意识形态，建立创新结构以吸纳私营部门、学术界和民间社会与政府共同参与。可以借鉴以往追求公共利益的合作努力，例如国际劳工组织的三方结构以及联合国全球契约。人工智能治理应立足于《联合国宪章》、国际人权法和可持续发展目标等其他商定的国际承诺联合国在规范性和制度性方面具有独特的作用。我们需要将人工智能治理与联合国的核心价值观与《联合国宪章》及其对和平与安全、人权以及可持续发展的承诺对应，作为其治理基础和指南针。联合国能够从经济、社会、健康、安全和文化等多方面考虑人工智能的全球影响，所有这些都以普遍尊重和执行人权与法治为基础。联合国多个机构已在人工智能对教育、武器控制等领域的影响上开展了重要工作。《全球数字契约》和《数字合作路线图》就是推动技术全球治理框架的多方利益相关者协商的典例。联合国成员国的有效参与、赋能联合国机构并吸纳多元化的利益相关者，对支持和增强全球人工智能治理响应至关重要。本原则在征求意见过程中获得了政府、民间社会、技术界、学术界20243月联合国大会通过了关于抓住安全、可靠和值得信赖的人工智能系统为可A/78/265（二）人工智能全球治理合作的主要机制目前关于人工智能治理的文件不胜枚举，制定主体多样、国际举措纷繁。从主体上看，各国政府、公司、财团、区域以及国际性组织均有涉猎。此外，在联合国系统内也出现了一系列文件226个特定领域与25项文书具有约束力，需要对其进行32份领域级文件专门关注人工智能，但都不具有约束力。表1:2019至2024年（上半年）国际人工智能治理举措及关键阶段性成果表2:联合国及其相关组织与人工智能治理相关的文件所示。表3:专门针对人工智能的治理举措的来源（三）人工智能全球治理合作的主要进展如今，人工智能全球治理已经从原则讨论迈向实际机制建设与具体合作项目的实施，为应对技术带来的全球挑战和机遇奠定了基础。具体包括：明确治理框架与原则。《全球数字契约》与《数字合作路线图》等倡议为全球范围内的人工智能治理提供了宏观指导，强调多利益相关方的参与，并倡导在人工智能开发和应用中遵循透明、公正、包容和可持续原则。建立多边合作机制。联合国鼓励成员国、私营部门、学术界和民间社会共同参与治理框架的设计与实施。例如，联合国机构鼓励通过扩大全球南方国家的参与，缩小全球范围内的数字鸿沟；联合国教科文组织对人工智能在教育领域的应用进行研究；联合国裁军事务处探讨人工智能在军事领域的使用与控制。多国联合基金提供支持。亚洲基础设施投资银行与新开发银行合作，为“一带一路”沿线国家的人工智能与数字基础设施项目提供资金支持。二、人工智能全球治理合作面临的三大挑战多个国家、地区、多利益相关方和其他倡议取得了有意义的成果。然而，除了联合国提出的几项倡议之外，没有一项倡议能真正具有全球影响力。人工智能治理的代表性不足使得其无法应对全球性的人工智能技术及其影响。人工智能倡议和机构间的协调性不足可能使世界人工智能治理变得互不关联、互不兼容。实施性不足削弱了国家、私营部门、民间社会、学术界和技术界将承诺转化为实际成果的能力。（一）代表性不足大多数倡议在政府间层面并不完全具有代表性，许多倡议无法涵盖全球各地区的特点。47项非联合国的区域人工智能倡议中，仅有7118些国家主要为南半球的国家，但即使是人工智能领先的国家，其代表性也不均衡。在治理的早期阶段存在一定程度的实验、规范间的竞争以及对新技术的适应差异，具有选择性是可以理解的。然而，随着国际人工智能治理逐渐成熟，全球代表性才能确保制度的公平和有效。公平性要求更多的声音在如何治理人工智能的决策中发挥有意义的作用。而有效性要求人工智能治理制度必须横跨全球，避大部分国家都认为国际人工智能治理代表性不足的问题亟需解决，而则联合国可以成为将世界团结起来的论坛。表4：在七项非联合国国际人工智能治理倡议中的代表性仅区际样本，不包括区域样本样本：经合组织《人工智能原则》（2019年）、20国集团《人工智能原则》仅区际样本，不包括区域样本（2019年）、欧洲委员会人工智能公约起草小组（2022-2024年）、GPAI《部长级宣言》（2022年）、七国集团《部长声明》（2023年）、《布莱切利宣言》（2023年）和《首尔部长级宣言》（2024年）。加拿大、法英国和美国是所有抽样倡议/文书的缔约方*。

118个国家*未加入任何抽样的人工智能治理倡议/文书

按区域分组划分的未参与国家290个231个33个国家中有25个54个国家中有44个54个国家中有48个*缩写：AG：非洲集团；APG：亚洲及太平洋集团；EEG：东欧集团；GPAI：人工智能全球合作组织；LAC：拉丁美洲和加勒比地区；WEOG：西欧及其他国家集团。（二）协调性不足仅凭大量的人工智能治理倡议并不能保证为人类有效合作，因为区域间的倡议无法保证有效衔接，已经出现了不兼容的风险。没有一个全球性机制让所有国际标准制定组织、国际科学研究倡议或人工智能能力建设倡议相互协调，这导致了各自为政。2显示了可能适用于人工智能的各个具体领域的联合国相关文书，这些措施大多是针对特定领域建立的，而没有一个实体能够全面地开展这方面的工作，这就限制了现有联合国独自应对人工智能对全球多方面影响的能力。（三）实施性不足与私营部门合作十分重要。我们需要民间社会和科学专家的积极参与，让政府和私营公司诚实地履行承诺和主张。在国家内部和国家之间，利用人工智能服务公共利益的推动因素不足，这导致了实施方面的关键问题。尽管许多国家已经制定了国家战略，并且一些国际援助倡议也正在出现，但这些机构的网络和资源仍然不足。因此，在全球层面将国家和区域的能力建设倡议联系起来，汇集资源以支持那些未能参与这些努力的国家，有助于确保所有国家都能分享与人工智能相关的机遇。三、推动人工智能全球治理合作的路径建议（一）建设国际人工智能科学小组建议成立一个独立的国际人工智能科学小组，由该领域的多学科专家自愿以个人身份组成。主要工作一是发布年度报告。调查与人工智能相关的能力、机遇、风险和不确定性，识别在技术趋势方面达成科学共识的领域，以及二是编制季度专题研究摘要。就人工智能帮助实现可持续发展目标的领域进行研究，重点关注可能服务不足的公共利益领域。三是发布特别报告。主要针对新出现的问题，特别是新的风险或治理方面的重大漏洞。该科学小组将涵盖广泛的重点，全面关注一系列优先事项，包括寻找人工智能相关机会的专业知识，以及促进对可持续发展目标应用领域的深入研究。然而，这样的科学小组不一定开展自帮助避免投资方向错误，并保持全球专家网络的信息畅通。建设意义通过联合国独特的全球网络，可以在广泛的基础上达成共同理解，以适合各种社会经济和地理环境的方式提供研究成果。利用联合国的号召力和包容各利益相关者的影响力，国际科学小组能够提供值得信赖的科学合作过程和成果，并纠正信息不对称，以解决代表性和协调性不足的问题，从而促进公平有效的国际人工智能治理。如何建设这种机构有先例可循。例如，联合国原子辐射效应科学委员、都以系统的方法解决影响不同部门和全球人口的复杂问题。然而，人工智能科学小组不应直接照搬这些先例，而应量身定制一种适合可信的科学观点的人提供信息。运作机制3-5年（经秘书长审查后可延长），并可在以下基础上运作：一是成员结构应重视跨学科性，并确保地30-50名成员，通过会3-5年的总体任期二是应举行线上或线下会议。会议可在联合国相关实体所在城市轮流举行。三是应保持独立性，特别是在调查结果四是应与其他国际机构和相关区域组织合作，并在其基础上开展研究工作。五是应设立指导委员会，以制定研究议程，确保观点的包容性并纳入伦理考虑因素，监督资源的分配，促进与学术机构和其他利益相关者网络的合作，并审查小组的活动和成果。主要受众科学小组将有三大主要受众：一是全球科学界。科学小组可以鼓励他们开展更多关注公益的研究。二是会员国和决策者。定期独立评估将为会员国、决策者和本报告建议的其他进程提供信息。三是公众。通过公开报告，科学小组可以成为公众高质量信息的官方来源。（二）在联合国框架下发起更多政策对话必要性当前，全球人工智能治理的现状呈现出明显的碎片化和不完118个国家未能参与最近七个主要的非联合国人工智能治理举措中可见一斑。这些举措的缺失不仅凸显了国际人工智能治理的选择性，也暴露了在代表性方面的显著差距，即使60个国家中也未能幸免。工作机制更多的人工智能治理政策对话，核心在于通过联合国平台召集全球各利益相关方，共同参与到人工智能治理的多边对话中。这个对话机制建议每年举行两次，目的在于促进全球范围内对人工智能治理的深入理解和广泛共识。通过这样的政策论坛，各国能够就人工智能的发展潜力、伦理问题、以及对社会的广泛影响进行开放和坦诚的交流，探讨如何在推动技术创新的同时，确保人工智能的发展能够尊重和保护人权，实现可持续发展目标，为全球人工智能治理提供指导性的原则和实践案例，帮助各国在人工智能的浪潮中找到平衡点，确保技术进步能够普惠全人类。主要作用一是励私营部门和公共部门在人工智能治理上形成合力，共同开发和实施有效的治理措施。通过这种合作，可以更好地应对人工智能带来的跨国界挑战，如数据保护、隐私安全问题、就业影响等。二是该对话机制还将提供一个自愿分享经验的平台，使得各国能够就那些对本国机构构成挑战的人工智能事件进行沟通和学习。三是国际人工智能科学小组的报告将在论坛上得到讨论，确保政策制定能够基于最新的科学发现和证据。表5：人工智能排名前60位的国家参加政府间人工智能治理文件情况汇总（三）创建人工智能标准交流中心必要性在当前探索人工智能的初期阶段，该领域缺乏明确的标准来引导和衡量其发展。图灵测试（TuringTest）作为一个尝试评估机器是否能够展现出与人类相似行为的测试，虽然在公众中引起了广泛的关注和想象，但其文化意义似乎超越了科学意义。这些测试虽然容易为非专业人士所理解，但它们并不构成严谨的科学衡量标准。基于此，建立一个人工智能标准交流中心显得尤为重当前全球人工智能标准建设现状当前全球人工智能标准建设的现状呈现出快速增长和多样化发展的特点。国际电信联盟（ITU）、国际标准化组织（ISO）、国际电工委员会（IEC）以及电气电子工程师学会（IEEE）等机构采用的人工智能相关标准数量正在不断增加。这一增长反映了人工智能技术快速发展和广泛应用的需求。然而，这一领域的标准化工作存在两个主要趋势和挑战。首先，许多标准是为了解决具体问题而制定的，但人工智能领域缺即为了狭隘的技术目的或内部验证而制定的标准与那些旨在纳入更广泛伦理原则的标准之间缺乏协调和一致性。表6：全球主要机构发布的人工智能相关标准数量统计工作机制标准交流中心将通过与国际科学小组和政策对话的紧密联系，推动技术与道德伦理标准的协调发展。该中心将促进国际电信联盟、国际标准化组织、国际电工委员会和电气电子工程师学会等机构联合举办人工智能标准峰会，确保标准的全球影响力和动力。同时，经济合作与发展组织、世界知识产权组织、世界贸易组织等也将参与，以确保标准反映经济、伦理和人权因素。此外，中心将提供能力建设信息，支持实际做法，并分享自我评估工具，以促进标准的实施和监督。随着安全标准的正式确定，这些标准将为未来监测和核查机构提供基础。（四）构建人工智能能力建设组织协调网络建议创建一个人工智能能力建设网络，将联合国下属的一系列合作能力建设中心连接起来，向关键参与者提供专业知识、算力资源和人工智能训练数据。主要工作一是通过支持建立区域和全球网络，促进和协调区域和全球二是提高公职人员的人工智能治理能力，以在推动技术发展的同时，尊重、促进和保护人权。三是向寻求将人工智能应用于本地公共利益案例的研究人员和社会企业家提供培训、算力资源和人工智能训练数据。建设意义能力建设网络应当成为国家和区域能力的催化剂，而不是硬件、人才和数据的集中地。通过加速学习，该网络将推动国家人才中心促进地方人工智能创新生态系统的发展。我们希望该网络跨地区的开放与协作模式。由于训练和部署人工智能模型的能源和其他成本不断上升，以及算力资源闲置的可能性，将算力资源在时间共享的基础上连接起来以便访问，同时利用这种访问促进跨领域人才、数据和人工智能模型的发展，从而实现可持续发展目标，将是非常有意义的。如何建设人工智能的能力建设需要一种全新的方法，特别是跨领域的培训，以培养新一代的多学科专家。此外，能力建设还必须与成果挂钩，通过在沙盒中进行实训和开展合作项目来汇集数据和算力资源，以解决共同问题。因此，鉴于挑战的紧迫性和规模，我们建议采取战略性的方法，通过高性能计算节点网络汇集和调配资源，激励与可持续发展目标相关领域的数据集开发，促进人工智能模型的共享，并将人工智能治理的最佳实践纳入主流。这将（五）设立全球人工智能基金。功能与目标设立全球性人工智能基金，为弥合全球人工智能技术和治理鸿沟具有重要意义。如没有全球范围内的基金支持，许多国家将无法获得必要的人工智能的培训、算力、模型训练等。强大的市场力量影响着人才和算力竞争的走向，地缘政治的竞争也影响着全球人工智能等科技合作的前景。然而，创造一个所有人都能做出共享并分享利益的人工智能生态，更加符合我们的集体利益。同时，确保人工智能模型开发和测试基础设施的多样化使用，有助于避免人工智能过分集中在少数技术公司可能导致的风险。设立人工智能全球基金的目标，是推动构建一个具有互操作性的值得信赖的人工智能模型所依赖的基础设施和数据集，从而更好的为公共利益服务。这个目标不可能通过市场的力量自动实现，只有通过强有力的集体行为才有可能达成。主要投资领域这一基金的重点并非投资构建算力资源，事实上即使最富裕的国家和公司也很难获得足够的算力资源。我们更需要的是推动更好的利用现有的高性能计算资源，推动用更好的方法来连接全球范围内的人才、算力和数据。因此，全球人工智能基金的主要一是基金可帮助有需要的国际创新一个“最低限度”的共享计算基础设施。该设施可帮助这些国家训练一个中小规模的人工智能模型，可实现用当地语言培训农民等功能，为推动联合国可持续发展目标做出贡献。二是基金可推动在全球范围内创建共享的模型、算力生态。该生态可允许全球各国利用自己的背景数据和高质量数据对现有的开源模型进行微调。同时，还可以探索构建可以共享的算力等基础设施，仅收三是可投资构建一些全球通用的数据集。一些基础性的数据集可能很难有商业价值，一般没有公司愿意进行投资，因此需要基金进行投资。四是投资于有助于实现联合国可持续发展目标的具体的人工智能应用的研发工作。运作机制该基金的管理和运作模式旨在通过筹集和汇集实物捐助，包括私营部门的捐助，实现资源的有效分配。基金治理强调独立监督和问责，同时具有包容性，其理事会成员多元化，涵盖政府、私营部门、慈善家、民间社会和联合国机构。此外，基金将整合科学和专家的投入，确保在数据和模型开发中的中立性和信任。在业务运作方面，基金借鉴了欧洲核研究组织和全球疫苗免疫联盟等国际研发合作的经验，以及共享基础设施商业平台的模式。它还将参考全球基金和复杂风险分析基金的做法，这些机构通过汇集数据来支持利益相关方进行危机的预测、预防和应对。总体而言，该基金致力于通过合作和数据共享，提高对全球性挑战的响应能力，确保资源的集中和有效利用。（六）完善全球人工智能数据训练治理框架。必要性目前，全球范围内对于人工智能的数据训练方面还未能形成有效共识。尽管已有建议推动更广泛的数据访问权和共享，但实际执行的并不多。为了创建一个更加多样化和活跃的人工智能生态系统，需要提高人工智能训练数据的文化、语言和其他特征的透明度，以及识别并补充代表性不足或“缺失”的数据。确保人工智能模型数据安全的主要方法确保人工智能模型训练数据安全的主要方法包括数据授权、数据信托和跨境数据安排。数据授权允许数据所有者和主体在维护权利的同时，安全、有限度地使用其数据。数据信托作为一种机制，使个人和组织能够集体提供对其数