生成式人工智能基础 课件 第15章 面向AGI

第1版·微课版生成式人工智能基础第15章面向AGI2022年11月30日，OpenAI对外发布了ChatGPT，这是一款AI聊天机器人程序，它展现出绝妙的人机交互体验，能够充分理解人类自然语言，可以用人类自然对话方式来交互，甚至让人们分不清和自己对话的是人还是机器。此外，还可以用于更为复杂的语言工作，例如自动生成文本、自动问答、自动摘要等多种任务。一时间，人们对其背后的技术了解和研究，对大模型和生成式AI技术，关注冲向了顶峰。当时，ChatGPT上线5天后已有100万用户，上线两个月后已有上亿用户。第15章面向AGI很快，在中国，AI初创企业如雨后春笋般不断涌现。2025年初，发布了低成本高性能生成式AI的DeepSeek（杭州深度求索公司）在全世界爆红，在互联网巨头的资金和学术机构的人才支撑下的“中华AI”茁壮成长，原本以美国企业为中心的性能竞争迎来新局面。据报道称，2025年1月20日，另一家中国企业——月之暗面公司也推出一款模型Kimik1.5，其推理能力超过了美国Anthropic公司的模型Claude3.5Sonnet，性能可以与美国OpenAI在2024年9月发布的模型OpenAIo1相媲美。——毫无疑问，一个AI新时代到来了！第15章面向AGI01生成式AI进步02AGI的涌现03LLM与AGI04生成式AI与AGI目录/CONTENTS05从生成式AI迈向AGI06AI的未来发展PART01生成式AI进步作为AI的一个子集，生成式AI（AIGC）利用神经网络算法来分析和识别训练数据中的模式和结构，并利用这种理解来生成新的原始内容，包括文本、图像、视频、音频、代码、设计或其他形式，既模仿类人的创作，又扩展训练数据的模式。AIGC的应用已经迅速地扩大到社会的各行各业，引来人们的极大关注。

图15-1生成式AI的进步（AI作图·赛博朋克风格）15.1生成式AI进步以下是生成式AI领域快速发展的几个关键方面。（1）技术进步与模型优化。随着深度学习、强化学习等技术的不断发展，生成式AI的性能将得到进一步提升。未来，人们可以期待更加高效、精准的生成式AI模型的出现。•深度学习框架：随着Transformer架构及其变体（如GPT、BERT等）的发展，生成式AI模型的能力得到极大提升，这些模型能够处理更长的文本序列，并在多模态任务中表现出色。15.1生成式AI进步•计算资源增加：GPU、TPU等专用硬件的进步以及云计算服务的普及，使得训练更大规模、更复杂的模型成为可能，降低了进入门槛并加速了研究进程。15.1生成式AI进步（2）多样化应用场景。生成式AI将在更多领域得到应用，如VR/AR、自动驾驶等。这些应用将进一步提升生成式AI的实用价值和社会影响力。•教育与文化创意产业：从文学创作到视觉艺术，再到音乐制作，生成式AI正广泛应用于内容创作过程，提供了自动化写作工具、图像生成编辑器、智能混音软件等一系列解决方案。个性化学习材料的定制、在线课程的设计等方面都受益于生成式AI的强大功能。15.1生成式AI进步•商业营销：企业利用生成式AI进行广告文案撰写、产品描述生成等工作，提高了工作效率的同时也增强了市场竞争力。•医疗健康：通过分析病历数据生成诊断建议、辅助药物研发等，为医疗服务与健康事业提供了新的可能性。15.1生成式AI进步（3）用户体验改善。聊天机器人、虚拟助手等应用使交互变得更加智能和自然，可以更好地理解和回应用户的查询。生成式AI不仅限于模仿现有风格，还能够创造出新颖独特的作品，帮助创作者突破思维定式，探索更多可能性。15.1生成式AI进步（4）商业模式创新。基于内容即服务（CaaS）的订阅式内容生成平台允许用户按需获取高质量的原创内容，降低了内容生产的成本。•微内容与短格式媒体：短视频、动态壁纸等形式的流行促使了相关生成工具和服务的繁荣发展。•版权保护与交易机制：区块链技术和智能合约的应用确保了创作者的权利得到保障，促进了数字资产的流通。15.1生成式AI进步（5）伦理考量和社会影响。随着生成式AI的普及，我们需要关注其可能带来的伦理挑战。例如，如何确保生成的内容符合道德和法律要求，如何保护原创作品的权益等。•版权与原创性问题：明确界定AI生成内容与人类原创作品之间的界限，保护双方权益。•质量控制与编辑：虽然生成式AI可以大幅加快创作速度，但仍需专业人员对最终成品进行校对和优化。15.1生成式AI进步•避免偏见与歧视：注意训练数据的选择，防止模型习得并传播不公正或歧视性的观念。•隐私保护：严格遵守数据保护法规，在收集和处理个人信息时采取必要措施保障安全。生成式AI的快速发展不仅推动了技术创新，也为各行各业带来了新的商业模式和服务形态。生成式AI是一个充满机遇和挑战的领域。通过深入了解其基本概念、应用场景以及未来发展趋势，我们可以更好地把握这一技术的发展脉搏，为未来的创新和发展提供有力支持。15.1生成式AI进步PART02AGI的涌现作为一种理论上的智能形态，通用人工智能（AGI）被认为能够执行任何智力任务，其能力广度和深度可与人类智能相媲美。AGI不限于特定任务或领域，而是具备广泛的理解、学习、推理、适应、创新和自我意识等能力。15.2AGI的涌现迈向AGI，是一条充满挑战与希望的道路。其“涌现”在于AI和复杂系统理论中，是指简单规则或组件通过相互作用产生复杂行为或结构的过程。

图15-2AGI（AI作图）15.2AGI的涌现当谈论AGI“涌现”时，是指通过现有技术的不断迭代和发展，或者是通过发现新方法，有可能达到的一种临界点，使智能特性突然之间变得更加综合和普遍。不过，这样的进展通常需要解决诸多技术和理论上的挑战，包括算法设计、计算资源、数据需求以及对意识、自我和认知的理解等深层次的问题。15.2AGI的涌现目前，关于AGI的发展有两种主要观点：一种认为随着深度学习和其他AI技术的进步，我们将逐渐接近AGI；另一种则认为现有的AI框架存在根本性限制，实现AGI可能需要全新的概念和技术突破。无论如何，AGI的研究仍然是一个活跃且充满争议的领域，涉及计算机科学、神经科学、哲学等多个学科。当前的AI系统，仍然专注于特定的任务或一组有限的任务类型，并不具备广泛的、跨领域的理解和应用能力。15.2AGI的涌现“AGI”这个词汇最早可以追溯到2003年瑞典哲学家尼克·博斯特罗姆发表的论文《先进AI的伦理问题》。在该论文中，博斯特罗姆讨论了超级智能的道德问题，并在其中引入了“AGI”这一概念，描述一种能够像人类一样思考、学习和执行多种任务的AI系统。超级智能被定义为任何智能在几乎所有感兴趣的领域中都大大超过人类认知表现的智能。这个定义允许增强的黑猩猩或海豚也有可能成为超级智能，也允许非生物超级智能的可能性。15.2.1AGI的定义因此，AGI可以被视为是一种更高级别的AI，是当前AI技术发展的一个重要方向和目标。从LLM到生成式AI（AIGC），再到AGI，这一过程体现了AI技术的逐步发展和深化。它不仅仅是技术层面的进步，更是对智能本质、人类价值观和社会秩序的深刻探索和重新定义。这是一场科技革命，也是一场对未来的深刻思考和准备，AGI仍然是一个较为遥远的目标。15.2.1AGI的定义定义：AGI是指一种能够理解、学习并执行任何智力任务的机器智能，其能力范围广泛且灵活，类似于或超越了人类的智能水平。AGI与狭义AI形成对比，后者只能在特定的任务或领域内表现出色，如图像识别、语音处理或棋类游戏等。15.2.1AGI的定义定义AGI的一些关键点如下。（1）多领域适应性。AGI能够在多个不同领域中表现出色，而不仅仅局限于某一特定类型的任务。它应该可以像人类一样，从一个领域快速切换到另一个领域，并能有效地解决问题。（2）自我学习与改进。AGI具备自我学习的能力，可以通过经验积累不断优化自己的性能。这意味着它可以自主地调整和改进算法，以更好地应对新的挑战和环境变化。15.2.1AGI的定义（3）抽象思维与推理。AGI拥有强大的抽象思维能力和逻辑推理技能，能够理解和处理复杂的概念，进行高层次的思考，包括规划、策略制定和社会互动。（4）知识迁移。AGI可以在不同情境之间迁移所学的知识和技能，将某一领域的经验应用到其他相关或不相关的领域，从而实现更高效的解决方案发现。15.2.1AGI的定义（5）创造性与创新能力。AGI不仅限于模仿已有的模式，还应具有创造新事物的能力，提出新颖的想法和解决方案，甚至是在艺术创作等领域展现出独特的风格。（6）感知与自然语言理解。AGI需要具备高度发达的感知系统和NLP能力，以便准确地理解周围的世界并与之交互，包括视觉、听觉等多感官输入的理解，以及流畅的人机对话交流。15.2.1AGI的定义（7）情感与社会认知。虽然这不是所有定义AGI的标准都包含的部分，但有些观点认为真正的AGI还需要某种程度上的情感理解和社交智能，即能够识别他人的情绪状态并作出适当的反应，这对于复杂的社会互动至关重要。15.2.1AGI的定义总之，AIG被描述为一种全能型的智能体，它不仅能完成各种具体的任务，更重要的是它拥有广泛的认知能力和灵活性，可以像人类一样去适应、学习和发展。值得注意的是，尽管近年来AI技术取得了显著进步，但目前还没有任何一个系统达到了真正意义上的AGI水平。AGI仍然是一个充满挑战的研究方向，涉及到计算机科学、神经科学、哲学等多个学科的交叉合作。15.2.1AGI的定义目前，大多数AI系统是针对特定任务或领域进行优化的，例如语音识别、图像识别、自然语言处理、推荐系统等，这是将问题得到简化的一种解决问题的方法。这些系统在其特定领域中可能表现得很出色，但它们缺乏通用性和灵活性，不能适应各种不同的任务和环境。有别于“专用（特定领域）AI”，AGI具有高效的学习和泛化能力、能够根据所处的复杂动态环境自主产生并完成任务，它具备感知、认知、决策、学习、执行和社会协作等能力，且符合人类情感、伦理与道德观念。15.2.2龙头企业对AGI的认识根据网络档案截图，在开发ChatGPT的OpenAI企业的招聘页面上，此前列出的员工六项核心价值观，分别是大胆、深思熟虑、朴实无华、影响驱动、协作和增长导向。而目前，同一页面列出的是五项核心价值观，其中第一项就是“聚焦AGI”，且补充说明称，“任何对此无益的事物都不在考虑范围之内”。其他四项分别是“紧张和拼搏”“规模”“创造人们喜爱的东西”和“团队精神”。15.2.2龙头企业对AGI的认识OpenAI公司在其官网上这样写道：“OpenAI的使命是确保AGI，即一种高度自主且在大多数具有经济价值的工作上超越人类的系统，将为全人类带来福祉。我们不仅希望直接建造出安全的、符合共同利益的AGI，而且愿意帮助其他研究机构共同建造出这样的AGI以达成我们的使命。”2025年年初，全球AI领域中的新晋新秀、中国杭州的深度求索（DeepSeek）基础技术研究有限公司在其招聘平台的“企业文化”一栏中写道：“投身于探索AGI本质的事业，不做中庸的事，带着好奇心，用最长期的眼光去回答最大的问题。”15.2.2龙头企业对AGI的认识实现AGI是AI研究的长期目标之一，它要求机器具有跨领域的学习能力、适应能力、自我意识和创造能力，能够像人类一样灵活应对各种任务和情境。但是，目前仍面临众多技术和哲学挑战，包括如何设计能够自我学习和进化的算法、如何确保智能体的行为符合伦理道德标准、以及如何处理智能体决策的可解释性和可控性等问题。尽管已经有一些初步的尝试和原型，但真正达到与人类智能相媲美或超越的AGI系统尚未实现。15.2.2龙头企业对AGI的认识OpenAI的富有远见的首席执行官山姆·奥特曼在一次采访中分享了他对AI发展轨迹的看法。奥特曼表示：“未来的AI模型可能需要较少的训练数据，而更多地专注于它们的推理能力。”这不仅暗示技术的转变，而且预示着一个新时代的来临，在这个时代，AI的思维过程可能会反映人类的逻辑和直觉。能够达到这种能力的AI——具有人的适应性和常识——就是AGI。山姆·奥特曼将其定义为“能够跨多个领域进行泛化，相当于人类工作的系统。”实现这种状态已成为OpenAI的首要任务，以至于它甚至修改了其愿景和道德原则以适应这种新的努力。15.2.2龙头企业对AGI的认识PART03LLM与AGI虽然LLM已经取得了一些惊人的进展，但它还不符合AGI的要求。

图15-3AI眼下的LLM（AI作图）15.3LLM与AGI（1）LLM在处理任务方面能力有限。它一般只能处理文本领域的任务，无法与物理和社会环境进行互动。这意味着像ChatGPT这样的模型不能真正“理解”语言的含义，缺乏身体而无法体验物理空间。只有将AI体放置于真实的物理世界和人类社会中，它们才能切实了解并习得真实世界中事物之间的物理关系和不同智能体之间的社会关系，从而做到“知行合一”。15.3LLM与AGI（2）LLM不具备自主能力。它需要人类来具体定义每一个任务，它模仿被训练过的话语。（3）虽然ChatGPT已经在不同的文本数据语料库上进行了大规模训练，包括隐含人类价值观的文本，但它并不具备理解人类价值或与其保持一致的能力，即缺乏所谓的道德指南针。15.3LLM与AGI加州大学伯克利分校教授斯图尔特·罗素表示，关于ChatGPT，更多数据和更多算力不能带来真正的智能。要构建真正智能的系统，应当更加关注数理逻辑和知识推理，因为只有将系统建立在我们了解的方法之上，才能确保AI不会失控。扩大规模不是答案，更多数据和更多算力不能解决问题，这种想法过于乐观，在智力上也不有趣。15.3LLM与AGI图灵奖得主扬·勒昆认为：语言只承载了所有人类知识的一小部分，大部分人类具有的知识都是非语言的。因此，LLM无法接近人类水平智能。深刻的非语言理解是语言有意义的必要条件。正是因为人类对世界有深刻的理解，所以我们可以很快理解别人在说什么。这种更广泛、对上下文敏感的学习和知识是一种更基础、更古老的知识，它是生物感知能力出现的基础，让生存和繁荣成为可能。这也是AI研究者在寻找AI中的常识时关注的更重要的任务。15.3LLM与AGILLM，它们的知识更多是以单词开始和结束而非身体感知，这种常识总是肤浅的。人类处理各种LLM的丰富经验清楚地表明，仅从言语中可以获得的东西是如此之少。技术发展趋势不可逆。人类可以为超级AI预先设计一颗善良的心，而这无疑离不开各国在立法层面达成互通和共识，在规范AI方面所做出的努力。15.3LLM与AGIPART04生成式AI与AGI生成式AI和AGI代表了AI领域的两个不同但又相互关联的概念，它们各自关注不同的方面，并且在技术实现和发展路径上也有所区别。（1）技术侧重点。生成式AI主要集中在内容创作和技术应用层面，旨在扩展人类创造的可能性。AGI则更侧重于开发一种全能型的智能体，追求的是超越现有AI系统的广泛适用性和深度理解力。（2）目标导向。生成式AI的目标是为用户提供实用且富有创意的产品和服务。而AGI的目标是创建一个能够像人类一样思考、学习并应对各种情况的智能实体。15.4生成式AI与AGI（3）发展路径。生成式AI已经取得了显著进展，并在多个行业得到了实际应用。AGI仍然是一个长远的研究方向，涉及大量的基础研究和技术突破。尽管两者有着明显的区别，但在某些情况下，生成式AI的进步可能为通往AGI的道路提供宝贵的经验和技术支持。例如，增强型的学习方法、更好的自然语言理解和生成能力等都是通向AGI的重要步骤。同时，随着生成式AI不断进化，它可能会逐渐逼近甚至达到某些形式的“弱”AGI，即在某些特定范围内表现出接近人类水平的多功能性和灵活性。15.4生成式AI与AGIPART05从生成式AI迈向AGI从生成式AI迈向AGI的关键步骤主要如下。（1）增强泛化能力：虽然生成式AI在特定任务上表现出色，但要达到AGI，需要进一步提高模型的泛化能力，使其能在未经训练的领域也能有效运作。（2）跨领域推理：AGI要求AI能够跨越不同的知识领域进行推理，这需要生成式AI不仅能生成内容，还能理解其背后的逻辑和概念。15.5从生成式AI迈向AGI（3）情感与意识：发展能够理解、模拟乃至体验情感的模型，这是AGI追求的一个高级目标，也是生成式AI向更深层次智能演进的关键一步。（4）伦理与自我约束：AGI需要具备道德判断力和自我约束机制，确保其行为符合人类伦理和社会规范，这是当前生成式AI所不具备的。（5）持续学习与进化：AGI应该能够像人类一样持续学习，不断优化自身，而非仅仅依赖于预设的算法和数据集。15.5从生成式AI迈向AGI未来，AGI会从以下几个方面来展现其发展趋势。（1）基础研究突破：在认知科学、神经科学和计算机科学等领域的交叉研究中，寻找灵感和理论依据，以支撑更高级别的智能模型。（2）技术的融合与突破：生成式AI与其他AI技术（如强化学习、符号AI）的深度融合，可能为通往AGI开辟新途径。实现AGI需要在算法、计算能力、数据处理和硬件设计等方面取得重大突破，包括更高效的机器学习算法、量子计算等技术的应用。15.5从生成式AI迈向AGI（3）伦理与法律框架：随着AGI的逼近，建立相应的伦理准则和法律框架以确保安全、公平、无偏见的应用变得愈发紧迫。AGI将深刻影响社会经济，改变工作市场、教育体系、医疗保健、娱乐产业等众多领域，带来生产力的飞跃和社会结构的重塑。AGI可能与人类形成更深层次的合作关系，共同解决问题，提升人类生活质量，但也可能引发失业、技能过时等社会问题。随着AGI智能水平的提升，可能会引发关于意识、自我意识、机器权利（身份）以及人机关系的哲学探讨。15.5从生成式AI迈向AGI（4）安全与监管：确保AGI的安全性，防止恶意使用，将是未来研究的重要方向。需要全球合作，建立有效的监管和治理体系。AGI的未来充满了无限可能性和挑战。它既是科技进步的顶点，也承载着人类对于更好生活的憧憬，同时伴随着对未知后果的担忧。实现AGI的道路漫长且充满不确定性，但无疑，这一领域的发展将深刻影响人类社会的未来走向。15.5从生成式AI迈向AGI从LLM和生成式AI向AGI迈进，是一个长期而艰巨的任务是一个复杂且充满挑战的过程。尽管人们已经在某些方面取得了令人瞩目的进展，但仍有许多关键问题等待解决。通过持续的技术创新、理论突破、跨学科的合作以及对伦理和社会影响的关注，我们可以逐步接近这个宏伟的目标。然而，重要的是要认识到，AGI的研发不仅要追求技术上的卓越，更要考虑其对人类社会的影响，确保这项技术能够造福全人类。15.5从生成式AI迈向AGI迈向AGI的关键要素包括多领域适应性、自主学习与改进、抽象思维与推理、知识迁移、创造性与创新能力、高级感知与自然语言理解，以及情感与社会认知，这些能力共同推动AI从专业化向通用智能进化。（1）多领域适应性：AGI需要能够在多个不同领域内表现出色，而不仅仅是擅长某一类任务。这意味着要开发出能够跨越学科边界的学习算法和技术框架。15.5.1迈向AGI的关键因素（2）自主学习与改进：AGI应该具备自我学习的能力，可以通过经验积累不断优化自身的性能。这要求系统不仅能从大量数据中提取有用信息，还能主动探索未知领域并从中获益。（3）抽象思维与推理：AGI必须拥有强大的抽象思维能力和逻辑推理技能，能够理解和处理复杂的概念，进行高层次的思考，包括但不限于规划、策略制定和社会互动。15.5.1迈向AGI的关键因素（4）知识迁移：AGI应能在不同情境之间迁移所学的知识和技能，将某一领域的经验应用到其他相关或不相关的领域，从而实现更高效的解决方案发现。（5）创造性与创新能力：AGI不仅限于模仿已有的模式，还应具有创造新事物的能力，提出新颖的想法和解决方案，甚至是在艺术创作等领域展现出独特的风格。15.5.1迈向AGI的关键因素（6）感知与自然语言理解：AGI需要具备高度发达的感知系统和自然语言处理能力，以便准确地理解周围的世界并与之交互。这包括视觉、听觉等多种感官输入的理解，以及流畅的人机对话交流。（7）情感与社会认知：虽然这不是所有定义AGI的标准都包含的部分，但有些观点认为真正的AGI还需要某种程度上的情感理解和社交智能，这对于复杂的社会互动至关重要。15.5.1迈向AGI的关键因素从生成式AI迈向AGI，面临的挑战包括理论与算法突破、海量数据需求与隐私保护、确保系统的安全性和可控性，以及促进跨学科合作以解决复杂问题。（1）理论与算法突破：当前的深度学习方法虽然强大，但在某些方面仍然存在局限性，如对因果关系的理解不足、缺乏真正的常识推理等。为了实现AGI，可能需要全新的理论框架和算法设计。（2）数据需求与隐私问题：训练一个真正意义上的AGI需要海量数据，而这可能会引发严重的隐私和安全问题。如何平衡数据获取的需求与保护个人隐私之间的关系是亟待解决的问题。15.5.2面临的挑战（3）安全性和可控性：随着AI系统的智能化程度不断提高，确保其行为符合伦理规范和社会期望变得尤为重要。开发出既安全又可控的AGI系统是一项重大挑战。（4）跨学科合作：实现AGI不仅仅是一个技术问题，它还涉及到计算机科学、神经科学、心理学、哲学等多个学科的知识融合。促进这些领域的深入合作对于推动AGI研究至关重要。15.5.2面临的挑战从生成式AI迈向AGI，其潜在发展路径包括逐步增强现有模型的功能、探索新型计算架构、借鉴人类大脑的工作原理以及通过强化学习让系统在互动中不断优化和学习。（1）逐步增强现有模型：提升LLM和其他生成式AI模型的能力，使其逼近AGI的某些特征。例如，通过引入更多上下文信息、加强多模态处理能力等方式来扩展模型的功能范围。15.5.3潜在的发展路径（2）探索新型架构：寻找不同于当前主流架构的新颖设计方案，如基于记忆网络、符号推理或其他非传统方法构建的AI系统，以期打破现有技术瓶颈。（3）深入研究人类大脑的工作原理：加强对人脑结构和功能的研究，借鉴生物神经网络的特点来启发AI的设计思路，比如模拟大脑皮层中的信息处理机制或探索意识的本质。15.5.3潜在的发展路径（4）强化学习与环境互动：注重强化学习的作用，让AI系统在真实环境中不断试错并从中学习，培养其应对复杂情况的能力。这种方法有助于提高系统的灵活性和适应性。15.5.3潜在的发展路径PART06AI的未来发展AI未来的发展方向涵盖了多个关键领域和技术进步，这些进展有望进一步推动AI的能力边界，并将其应用扩展到更多行业和日常生活中。

图15-4AI的未来（AI作图）15