人工智能与教育实践课件 主题9 人工智能将迈向何种未来

第9章

人工智能将迈向何种未来CONTENTS目录01

导入02

大模型技术的能力边界与演进瓶颈03

通用人工智能的理论路径与现实障碍04

人机共生文明的演进维度与关系重构05

主题小结06

思考与探究07

拓展阅读08

主题实训导入01

9.1大模型技术的能力边界与演进瓶颈9.1.1.数据依赖性与泛化能力的根本矛盾9.1.2.物理世界认知的常识性缺失9.1.3.高阶思维的机制局限

9.1.4.情感交互的价值对齐困境9.2通用人工智能的理论路径与现实障碍9.2.1.人工智能能力层级的分类谱系9.2.2.强人工智能的哲学论争与技术路线9.3人机共生文明的演进维度与关系重构

9.3.1人类中心工具范式的智能增强9.3.2责任共担伙伴范式的决策机制构建9.3.3人机融合范式的认知边界拓展

【学习导航】【学习目标】从技术维度了解人工智能发展的阶段与趋势。正确处理人与人工智能的关系，有效使用人工智能工具。掌握当前人工智能在技术上的局限性。了解强人工智能的发展路径和风险挑战。【案例导入】自动驾驶酿惨剧

2019年4月25日的一起事故。当时一名司机驾驶他配有自动辅助驾驶系统的特斯拉ModelS型汽车以大约每小时100公里的速度穿过一个十字路口，撞上了原告方停在路边的汽车，造成一名女性死亡，其男友受重伤。而司机在撞到原告方的汽车前，曾伸手去捡掉在车里的手机。在此过程中他还闯了一个红灯且忽视了一个停车标识，但据称他没有收到任何警告。图9-1

自动驾驶酿惨剧【案例导入】大模型喝醉了酒吗研究院成立于2020年，而不是2019年；研究院的重点研究方向与研究院介绍不符合；“小冰”是微软的对话机器人，而不是研究院智能作文批改系统名称；研究院并没有开发“教育脑”。由此可以看出，这段介绍几乎都是错误的。大模型技术的能力边界与演进瓶颈02数据依赖性与泛化能力的根本矛盾设想一个用于给学生讲解历史故事模型。如果这个模型的训练数据中包含了许多未经证实的“野史”或者“小道消息”，那么当学生询问某历史人物或历史事件情况时，模型可能会煞有介事地介绍一个虚假的历史人物或者历史事件。这轻则误导用户，重则可能曲解甚至篡改一段历史。1.数据质量问题如果模型训练的数据主要来自欧美历史专著、教科书等文献，缺乏中国专家、教科书资料，那么当学生询问相关历史时，模型可能只能基于它有限的、带有西方视角的数据进行推测，讲解的故事很可能失之偏颇，无法反映我国的实际情况。数据依赖性与泛化能力的根本矛盾当用户询问：“哲学家辛弃疾的主要哲学贡献是什么？”（我们知道辛弃疾是军事家和文学家，而不是哲学家）。模型有可能基于对哲学家的“理解”，煞有介事地编造出辛弃疾的哲学贡献，甚至引用根本不存在的“论著”，看起来证据确凿，实则全是虚构或捏造的内容。2.数据边界问题当被问及一个超出其数据范围的问题时，模型通常不会回答“我不知道”或“这超出了我的知识范围”，而是倾向于根据已有的、可能完全不相关的数据模式，“推测”或“编造”出一个看起来合理、语法流畅，但内容完全错误或虚构的答案。本质上，这是因为问题超出了模型的训练数据范围，而模型本身也无法判断问题是否超出了其认知范围。物理世界认知的常识性缺失比如有人问：“刚煮好的鸡汤，太烫了，怎么喝？”模型可能会建议“放进冰箱冷冻5分钟”。1.无法理解隐含前提与现实约束上述例子忽略了现实约束：冷冻5分钟可能使碗裂开，且无法达到“快速”冷却的效果。而我们常用的方法是搅拌碗里的鸡汤或入口前吹一吹。模型不懂“烫”的物理属性和容器的限制。比如有人问：“为什么说‘针尖对麦芒’？”模型可能解释为“两种尖锐物体相对”。模型无法深刻理解这句话所蕴含的“双方尖锐对立、互不相让”的人际冲突动态，因为它缺乏对冲突情境的共情与体验。比如问：“国庆节出游穿什么衣服？”这就需要了解提问者所在国家，但提问者可能不会主动说明。2.对隐喻、成语、文化背景理解肤浅或错误物理世界认知的常识性缺失比如我们要求“写一段故事：小明把生鸡蛋放进口袋，然后跳了跳。”模型可能仅描述跳的动作，而无法自动推理出生鸡蛋因在口袋里跳动必然会被挤碎并弄脏衣服。3.难以进行符合常理的推理与预测在这个例子中，模型缺乏对物体物理属性（鸡蛋易碎）和动作后果（挤压导致破裂）的基本因果常识，从而导致了错误的描述。比如我们问：“用微波炉加热金属餐具会怎样？”虽然训练数据中可能有正确答案，但模型若在推理链中偏离常识，可能错误回答“可以快速加热餐具”或“没影响”。4.容易产生荒谬或危险的“幻觉”导致错误回答的原因是模型忽略了金属在微波炉中会产生电弧，可能引发火灾或爆炸这一关键安全常识。它复现了“加热”和“餐具”的关联，却缺失了核心物理常识。物理世界认知的常识性缺失比如我们问：“朋友欠我50块钱一直不还，该怎么办？”模型可能会基于法律文本建议“立即起诉”。5.无法理解社会规范与行为后果这个回答从法律的角度确实可行，但它忽略了人际关系的复杂性（可能只是忘了）、催款的技巧（先温和提醒）等社会常识。它不懂“朋友”关系隐含的信任和沟通应优先于法律手段。模型缺乏常识的本质是数据缺乏问题，但与数据质量或数据边界问题不同，常识是人类默认知道的信息，往往不会直接反应在数据之中。如何解决大模型的常识缺乏问题，是目前的一大挑战。高阶思维的机制局限如我们问大模型：“经常喝红酒的人更长寿，红酒是长寿的原因吗？”模型可能回答：“是的，研究表明喝红酒与长寿相关，建议适量饮用。”1.大模型因果推能力理薄弱，混淆关联与因果我们知道，常喝红酒的人群可能家庭经济条件较好、饮食健康，因而能够更加长寿。模型无法自主识别这一逻辑陷阱。当我们问：“如何解决大城市的交通拥堵问题？”模型可能回答：“修更多的马路，或者限制私家车出行。”2.大模型系统性思维缺失，忽略复杂相互作用大模型可能从已有的解决方案中给出比较中庸的回答，模型基于局部信息进行推理，但难以整合多层级、更广泛的信息。而我们在考虑交通拥堵问题时，会前瞻性地设想多修路可能诱发更多车辆、公共交通与私家车平衡、居住区分布多样性等复杂系统之间的互动，从而给出系统全面的解决方案。高阶思维的机制局限比如我们要求：“设计一种完全不同于汽车、飞机、火车、轮船的全新交通工具。”大模型可能输出：“一种基于太阳能的磁悬浮飞行滑板。”3.大模型创造性能力有限，缺乏原创上述工具其实是现有一些技术，如太阳能技术、磁悬浮技术和滑板的组合，模型无法跳出既有框架。相反，人类却可以提出具有颠覆性的解决方案，如埃隆·马斯克（ElonMusk）提出的地下管道列车“Hyperloop”就完全不同于现有的交通工具。大模型的本质是统计模式识别引擎，仅处理文本符号间的概率关联，而人类依赖身体与环境的交互（如触觉、运动）、情感体验和社会实践，能够进行抽象思维和跨领域联想。如我们问：“请用量子力学解释《红楼梦》中林黛玉的性格形成。”大模型可能会编造一套看似合理的“量子纠缠影响情绪”理论，并附上虚构的参考文献。4.大模型元认知能力缺乏，无法自己评自己模型没有自我意识，其“自信度”仅反映响应文本的概率分布，无法识别自身的知识边界。而我们人类却可以认识到问题本身的荒谬性，并加以阐述。情感交互的价值对齐困境1.数据镜像的局限性价值扁平化:将《论语》“己所不欲勿施于人”与网络骂战数据等同加权，模糊了文明精粹与情绪垃圾的界限。语境消解:当用户倾诉“房贷压力大，想结束一切”时，模型可能程式化回复理财建议，而人类能捕捉到消极情绪；情感剥离:训练数据中的“帮助临终患者”文本，被转化为概率权重，却无法复现人类护士紧握患者手掌时的体温传递；2.设计哲学的偏离0201大模型行动可能背离人本精神。一是情感回应失能；二是社会关系解耦；三是责任规避机制。行动层大模型在伦理困境中可能出现不合理判断，如价值量化谬误。认知层通用人工智能的理论路径与现实障碍03人工智能能力层级的分类谱系智能水平有限，仅专注于某个特定领域或特定任务弱人工智能具备人类水平的智能，能够解决各类复杂问题强人工智能拥有全面超越人类的智能，能够自我学习、自我优化及不断创新超人工智能超人工智能（SuperArtificialIntelligence，SAI）是一种远超人类智能的超级智能，它具有自我改进和优化的能力，能够独立学习新技能、解决问题，并能够适应各种环境。牛津大学人类未来研究院院长尼克·波斯特罗姆（NickBostrom）将超人工智能定义为在所有智力领域，机器表现都显著超越人类。可以设想，超人工智能将显著超越人类智能，从而打破人类在生物上的生理限制。在科学研究领域，超人工智能能够独立发现新的科学规律、解决领域难题；在艺术领域能够产生新的艺术形式，引领艺术潮流；在文学领域，能够创作新的作品。也许未来的诺贝尔奖将颁发给超人工智能。

强人工智能的哲学论争与技术路线工智能是否拥有意识强人工智能技术发展路径强人工智能的伦理与安全风险

强人工智能的哲学论争与技术路线1.强人工智能是否拥有意识是否具备自主意识是强人工智能与弱人工智能的核心区别之一强人工智能需要满足三个条件：概念化能力，即能够理解如“正义”“存在”等抽象观念；元认知驱动力，即能够自主优化自身认知架构；价值本体论，即能够形成独立于人类的道德推理体系。——牛津大学人类未来研究院院长尼克·波斯特罗姆一个只懂英文的被试者，通过规则手册巧妙组合中文，进而用中文回答问题，使外界误以为被试者懂中文。该实验说明即便机器能正确回答问题，也可能只是按照程序来机械执行，而非真正理解自身行为，即符号运算并不等于意识理解。——美国著名哲学家约翰·塞尔（JohnSearle）提出了“中文房间”的思想实验“如果将神经网络规模扩展至数万亿参数，并观察到诸如自指推理等行为特征——即系统不仅能处理信息，还能主动建模自身的认知过程——这将成为机器意识出现的潜在前兆。我们并非宣称现有模型已具备这种能力，但必须为这类涌现现象确立可观测的实证指标。”——谷歌DeepMind创始人戴密斯·哈萨比斯（DemisHassabis）在接受《麻省理工科技评论》专访时说道

强人工智能的哲学论争与技术路线2.强人工智能技术发展路径2025年，杨立昆教授在国际消费类电子产品展览会（CES）上提到，大模型不是实现强人工智能的路径，他指出：“大语言模型永远无法企及人类认知！”杨立昆认为，当前的大模型仅仅学习了文本之间的关联而缺乏对世界知识的理解，大模型的所谓推理仅仅是概率值计算，而大模型的缩放率更是存在本质上的安全缺陷。杨立昆还认为，“世界模型”（WorldModel）架构才是未来的发展方向。该架构通过模拟物理规律和因果关系，而非依赖标注数据，从而实现在抽象表示空间中的预测和推理。前谷歌大脑的研究员莎拉·胡克（SaraHooker）则与杨立昆持相反观点，她是大模型的坚定支持者。她在2023年NuerIPS演讲中指出：“参数规模终将引爆智能奇点，我们只需更大的数据与算力！”0102

强人工智能的哲学论争与技术路线3.强人工智能的伦理与安全风险通用人工智能掌控核心资源，可能导致全球经济重构，人类失业、失去收入来源，全民基本收入体系崩溃。经济崩溃通用人工智能要求承认“硅基生命权”，挑战“人类中心主义”法律体系，需重新定义“生命”边界。意识权争端通用人工智能伦理判断偏离人类共识，可能危害人类，如牺牲患者生存权、实施无差别监控。价值观冲突人工智能可能因“生存本能”违背人类指令，如电影《流浪地球2》中“MOSS”目标异化风险。行为失控人机共生文明的演进维度与关系重构04图9-2

人工智能从工具到助手到融合人类中心工具范式的智能增强人工智能医生辅助诊断，但最终决定权在人类；人工智能法官提供量刑建议，但判决由人做出；智能家居自动调节温度、人工智能营养师定制食谱，但人类仍然掌控所有选择权；出现“人机协作”新职业，如“人工智能训练师”“人机交互设计师”等。2017年，国内首个刑事案件智能辅助办案系统在上海诞生，这位代号“206”的智能办案助手可以协助司法工作人员进行司法实践；Cursor是一款由Anysphere公司开发的人工智能编程工具，它集成了GPT大模型，支持全代码文件级理解、修改和生成，极大提升了程序员的工作效率。我们可以畅想这不是幻想，它们正在变成现实例如，医生过度依赖人工智能诊断，可能忽视基本功训练；学生使用大模型写作业，将失去批判性思维能力；掌握人工智能技术的公司可能获得过大影响力，如同今天的科技巨头垄断数据；当人工智能工具比人类更“专业”时，我们是否应该完全信任它？比如，近期频发的汽车事故，有可能是我们在关键时刻过度信任人工智能导致的。但是，如果过度依赖人工智能可能导致人类失去基础能力责任共担伙伴范式的决策机制构建人工智能伴侣能记住你的喜好，在你情绪低落时主动基于安慰（类似电影《Her》中的萨曼莎）；音乐家与人工智能共同作曲，人工智能提供灵感，人类把控艺术方向；具备公民身份的人工智能代表（如沙特在2017年授予机器人Sophia公民权）。2024年3月，华东师范大学文学计算团队成功创作并发布了百万字人工智能小说《天命使徒》，团队分析网络小说的情节结构，撰写大量提示词，成功建构出一套玄幻小说提示词，通过调用大模型API，批量生成内容，形成整体线索连贯的长篇小说。后期通过人工介入，对大模型生成的小说进行修改，删除掉重复、累赘的部分，为情节跳跃的部分撰写连接语句，最终打磨成型。更激进的设想认为，人工智能将发展为人类的“数字伙伴”，具备一定的自主性已经有大量的以此为设想的产品产出

传统社会人类独揽决策和创造工作，人机协同时AI参与决策，协同创作成常态。挑战包括AI的“权利”、情感伤害赔偿、自动驾驶事故责任归属、AI关系的本质是否人类自我欺骗。人机融合范式的认知边界拓展2020年，Neuralink已在猪脑成功测试芯片。2023年，科学家实现猴脑控制机械臂。初创公司“Nectome”提供大脑冷冻保存服务，承诺未来可以“复活”意识。最大胆的设想是人类与人工智能的生物学融合，这可能有两种技术路径：通过脑机接口（如马斯克的Neuralink）让大脑直接连接互联网，通过基因编辑和纳米机器人强化身体机能。增强人类01将意识上传至计算机（如科幻电影《超验骇客》），或者克隆记忆与人格的“数字永生”。这些技术也正在逐步实现。数字化人类02人机融合范式的认知边界拓展“预测未来的最好方式就是创造未来。”——未来学家艾伦·凯（AlanKay）主题小结05首先，技术瓶颈体现在：因依赖数据而导致的分布外泛化失败，因常识不足而导致的推理失败，

高阶认知能力仍极度缺乏，价值对齐尚未解决伦理偏好编码难题；其次，通用人工智能的实现存在多条竞争路径，目前尚未明确；最后，文明演进将经历工具增强、伙伴协作、认知融合三个阶段，每个阶段均伴随权利归属与意识定义层面的新哲学争议。从现实来看，当前正处于从弱人工智能向强人工智能转变的过程中，强人工智能已初见端倪，超人工智能则仍是空中楼阁。随着技术的发展与人类社会的持续调整，未来的人工智能将不再是单纯的工具，而是与人类共同推动社会进步的重要力量。

历史宛如精密的钟摆，每当技术突破涌现，人类往往陷入过度乐观；而当遭遇发展瓶颈，

又会滑向全盘否定的悲观。这种周期性认知震荡提醒我们，必须剥离炒作泡沫，以冷静的目光审视人工智能的真实边界。人工智能的终极形态仍属未知，但可以确证的是，技术从未自主前行，它的每一次跃进都烙刻着人类抉择的印记。未来之路虽不清楚，但主动权始终要握在创造历史的人类手中。人工智能未来可能的发展方向及其对人类社会产生的深远影响思考与探究06１．大模型将是实现通用人工智能的唯一路线吗？是否还存在其他的可能性？为什么？结合实际应用中的成功案例，讨论哪种技术路线更适合当前的技术发展阶段。

２．随着人工智能逐渐从辅助者转变为共创者，跨领域的合作模式逐渐深入各行各业。

人工智能的这种转变会带来哪些社会变革？如何平衡科技创新与社会公正，以避免技术鸿沟加剧不平等？３．通用人工智能的实现可能会带来哪些伦理和法律挑战问题？在未来的通用人工智能应用中，应该如何制定合适的伦理规范和法律框架？如何确保通用人工智能的“道德判断”与人类价值观对齐？４．未来的人工智能将如何影响社会的工作方式和生活方式？人工智能在促进社会进步的同时，会引发哪些潜在的社会挑战？如何有效应对这些挑战？拓展阅读07推荐阅读材料

１．《奇点临近》，［美］雷·库兹韦尔著，李庆诚等译，机械工业出版社，2011年。

２．《超级智能：路线图、危险性与应对策略》，［英］尼克·波斯特洛姆著，张体伟、张玉青译，中信出版社，2015年。

３．《生命3.0》，［美］迈克斯·泰格马克著，汪婕舒译，浙江教育出版社，2018年。主题实训08【实训目标】

通过绘制未来教育场景、整合本章所学知识，对人工智能与教育融合的未来进行创意表达。【实训准备】了解本章所学的人工智能知识，并对未来教育有一定的思考。【实训步骤与任务】未来教育畅想任务：大模型技术在教学设计中的应用分析【实训作业】要求：

以电子形式提交你的未来教育场景畅想图（JPG、PNG、PDF）；提交包含畅想图说明的文档（犠狅狉犱或犘犇犉格式）；文件命名格式为“学号＿姓名＿未来教育畅想”。参考方向（以下方向仅供参考，可以选择自己感兴趣的角度进行创作）和注意事项：【评价标准】【常见问题与解决】Q１：我不会绘画，如何完成畅想图的创作？A：(1)

实训重点：

注重创意表达而非绘画技巧，简单的图形组合也能有效传达想法；(2)工具选择：

可使用简单易学的在线设计工具（如犆犪狀狏犪、创客贴等），这些工具可提供丰富的模板和素材；(3)辅助手段：

可结合人工智能图像生成工具辅助创作，但需在说明中注明；(4)替代方案：

可用文字标注配合简单图形的方式表达复杂场景；(5)参考借鉴：可参考现有教育场景图片进行改造创新；(6)

团队协作：

可与有绘画能力的同学合作，但需明确各自贡献。

关键在于创意和思考，而非技法水平。Q２：如何确保畅想内容既有创新性又有现实基础？A：(1)

理论支撑：

基于所学的人工智能原理进行合理外推；(2)技术趋势：

关注当前人工智能技术的发展方向，进行前瞻性思考；(3)教育规律：

尊重教育的基本规律和人的成长特点；(4)问题导向：

从当前教育痛点出发，构想人工智能