人工智能与未来 课件 11.4 奇点到来和人工智能

TheFuturetechnologyofartificialintelligence第11章

未来技术2035主讲：王红梅11.111.211.311.4人工智能安全技术超级智能和超级对齐脑机接口奇点到来和通用人工智能目录CONTENTS11.4.1奇点到来

11.4.2通用人工智能11.4.1奇点到来

什么是奇点呢？一般认为当人工智能的水平和人类相当或超过人类的时候，就是奇点到来的时候。你可能会问，人工智能真的能超过人类吗？这个问题看起来不那么好回答，但就目前来看，人工智能在某些方面表现的能力确实超越人类。人工智能在某些方面表现的能力确实超越人类。2015年

机器识别的准确率就超越人类2016年，Alpha

Go在围棋比赛中超越人类世界冠军2017年，AlphaZero在9个小时完成学习下国际象棋，远超人类学习的能力2024年

Alpha

Geometry在解决奥数问题时，超越金牌得主。...自动驾驶11.4.1奇点到来

奇点到底什么时候到来？埃隆.马斯克、山姆.奥特曼等预测需要5年，也有人预测需要10年。

但预测毕竟只是预测，下面我们来看看人工智能的能力分层，以及我们目前所处的层次，可以帮助大家更好的理解奇点的到来的可能性和可能的时间节点。11.4.1奇点到来

OpenAI公司2024年推出了一套内部评估其AI系统智能水平的新方法，该方法把人工智能能力分为5个等级。

OpenAI提出通用人工智能的5个等级11.4.1奇点到来OpenAI提出通用人工智能的5个等级11.4.1奇点到来一级：聊天机器人，能够使用自然语言进行对话的人工智能；OpenAI提出通用人工智能的5个等级11.4.1奇点到来二级：推理者，可以解决人类级别问题的人工智能，在该层次，人工智能可以到达人类博士水平的智能；OpenAI提出通用人工智能的5个等级11.4.1奇点到来三级：智能主体，能够代表用户采取行动的人工智能，这个时候的人工智能能学习和执行特定的任务；OpenAI提出通用人工智能的5个等级11.4.1奇点到来四级：创新者，能助力发明创新的人工智能，这个时候的人工智能已经具备创新能力和创造能力；OpenAI提出通用人工智能的5个等级11.4.1奇点到来五级：组织，能够执行复杂组织任务的人工智能，这个时候达到通用人工智能水平，人工智能将能够学习并执行范围极广的任务，如人类的几乎所有行为或人类所不能的某些行为。讨论：你觉得我们目前到了那一级的水平呢；2024年提出的时候，认为处在第二级11.4.1奇点到来AI之父杰弗里·辛顿在一次PBS（美国公共电视网）采访中提到：未来很难预测，人类可能只是智能进化的过渡。他同时指出目前最好的做法是努力确保无论未来发生什么，我们都付出了最大的努力，以确保结果是尽可能好的。从中我们可以看出奇点到来可能是早晚的事情，但也不必恐慌，因为我们人类会尽最大努力，也应该尽最大努力使事情变向好的方向。11.4.1奇点到来

普遍认为在通用人工智能阶段，人工智能要达到普通人的智力水平，目前的人工智能主要是弱人工智能，这里的弱主要是指专用人工智能，如AlphaZero下棋可以，但做其它事情的能力不行，可能连做饭的常识是先有菜，才可以加工成食物的概念都不具备。11.4.2通用人工智能

通用人工智能是指能够像人类一样具备广泛的智能能力，可以理解、学习、推理、解决各种不同类型的问题，并且能够在多种不同的环境和任务中表现出智能行为的人工智能系统。它不仅仅是在某个特定领域或任务上表现出色，而是具有跨领域的通用性和灵活性，能够处理各种复杂的、未曾预见过的情况，具备与人类相似的综合智能水平。11.4.2