人工智能的层次：在迈向人工智能的道路上取得进展

通用人工智能的层次：在迈向通用人工智能的道路上取得进展AGI的定义不同的研究人员提出了不同的定义。通用人工智能（AGI）的概念非常重要，因为它与人工智能的目标、预测和风险相对应。AGI的定义九个案例（及其优势和局限性）：图灵测试。强人工智能——拥有意识的系统。与人脑的类比。认知任务表现达到人类水平。学习任务的能力。具有经济价值的工作。灵活且通用——“咖啡测试”及相关挑战。具备人工智能能力。SOTALLM成为通才。通用人工智能的六项原则基于以上案例的性质和共同点。任何关于AGI的定义都应符合以下六项标准：关注能力，而非流程。实现通用人工智能并不意味着系统能够像人类一样思考或理解（因为这侧重于过程，而不是能力）。实现通用人工智能并不意味着系统具备意识（主观意识）或感知（拥有感觉的能力）等特质（因为这些特质不仅侧重于过程，而且目前还无法通过公认的科学方法进行测量）。注重通用性和性能。更多讨论请参见级别表。通用人工智能的六项原则侧重于认知和元认知任务。大多数定义都侧重于认知任务，也就是非物理任务。人工智能系统的物理能力似乎落后于非物理能力。执行体力任务的能力提高了系统的通用性，但不应被视为实现通用人工智能的先决条件。关注潜力，而非部署。将部署作为衡量AGI的条件，会引入非技术性的障碍，例如法律和社会方面的考虑，以及潜在的伦理和安全问题。注重生态效度。“AGI检测”部分将进行更深入的讨论。关注通往通用人工智能的路径，而不是单一终点。正如采用一套标准的驾驶自动化级别可以清晰地讨论与自动驾驶汽车相关的政策和进展一样，我们认为定义“通用人工智能级别”是有价值的。AGI水平AGI水平性能指的是人工智能系统能力的深度。也就是说，它与人类在特定任务上的表现相比如何。请注意，对于“新兴”以上的所有表现水平，百分位数是参照具备相关技能的成年人样本计算的（例如，“熟练”或更高水平的英语写作能力等任务表现，仅以英语读写流利的成年人群体为参照进行衡量）。通用性指的是人工智能系统能力的广度。即人工智能系统达到目标性能阈值的任务范围。AGI检测为定义AGI而提出的六项原则中有两项（原则2：通用性和性能；原则6：关注通往AGI的路径）与AI能力的广度和深度有关。其余四个原则（原则1：能力，而非过程；原则3：认知和元认知任务；原则4：潜力，而非部署；原则5：生态效度）与测量问题有关。AGI检测本文并未提出基准。有很多问题需要解决。AGI基准将包括一系列广泛的认知和元认知任务（根据原则3），衡量各种属性，包括（但不限于）语言智能、数学和逻辑推理、空间推理、人际和内省社交智能、学习新技能的能力和创造力。该基准测试将包含开放式和/或交互式任务，这些任务可能需要进行定性评估。与传统的AI指标或经过调整的传统人类智能测量方法相比，它们将具有更好的生态效度。要列举出足够通用的智能体能够完成的所有任务是不可能的。因此，通用人工智能（AGI）基准测试应该是一个动态的基准测试。这样的基准测试应该包含一个用于生成和商定新任务的框架。风险评估对通用人工智能(AGI)进行分级定义，可以更细致地讨论性能和通用性的不同组合如何与不同类型的人工智能风险相关。虽然考虑极端风险情景是有价值的，但通过我们提出的本体论来理解通用人工智能（AGI），而不是将其视为单一终点（根据原则6），可以帮助确保政策制定者也能识别和优先考虑近期和通往通用人工智能道路上的风险。与原则4相关自主程度仅凭通用人工智能（AGI）的能力并不能决定风险的走向，而必须结合具体情况来考虑。此表说明了AGI水平、自主水平和风险之间的相互作用。这些自主程度与通用人工智能（AGI）的程度相关