人工智能通识教程 课件 第15章-人工智能未来挑战和边界校对后版本

第十五章AI与人类未来：

共生、挑战与边界主讲教师：王存睿人工智能通识基础目录AI的未来01AI的社会影响02AI的边界03目录AI的未来011.1AI的三体世界英伟达的“三体世界”主要由DGX、AGX和Omniverse组成，三个中心互为一体，构建了训练、模拟和运行的AI“三体世界”。1AI的未来1.2物理模型的应用借助基于Omniverse的参考应用程序NVIDIAIsaacSim，机器人可以通过演示来学习任务，从而消除了对传统编码或编程的需求，使开发人员能够专注于更高价值的任务。1AI的未来1.4《ThreeObservations》2025年OpenAI公司发布了关于AI未来预测的文章《ThreeObservations》提出了关于AI经济学的三个观察和2035年的预测。1.模型智能与训练资源呈对数关系智能∝log(资源)

企业可通过持续增加算力和数据投入获得可预测的能力提升;

当前GPT-4到GPT-5的跨越需要约10倍资源投入，但边际效益递减规律显著;

该规律解释了为何科技巨头持续投入超算中心建设。2.智能成本指数级下降

AI服务价格每年下降10倍的速率远超摩尔定律（晶体管数量每18个月翻倍）;GPT-4的token成本在2023-2024年间下降150倍；

该趋势导致”杰文斯悖论”效应：成本降低刺激需求暴涨，形成技术扩散正反馈循环。1AI的未来1.5《ThreeObservations》3.智能的社会经济价值超指数增长

技术演进：人类个体智力将无法超越人工智能；

科研加速：AI或将10年科研进程压缩至1年；

生产力变革：软件工程领域12-18个月内将出现高效率的AI智能体完成大部分开发任务；

产业重构：会计、保险等行业将率先部署”数字员工”填补人力缺口。4OpenAI公司表示，如果这三点观察结果继续成立，预计到2035年知识工作者将配备智能代理团队，个人生产力提升百倍；软件工程领域将出现”虚拟初级工程师”，处理代码审查、单元测试等基础任务；医疗、法律等专业领域形成”人机协作”新范式；依赖于智力成本和能源成本许多产品的价格最终将大幅下跌。1AI的未来1.6《2025年人工智能指数报告》由李飞飞联合领导的斯坦福大学以人为本人工智能研究所（StanfordHAI）发布了《2025年人工智能指数报告》（ArtificialIntelligenceIndexReport2025）。这份长达456多页的报告是StanfordHAI发布的第8份AIIndex研究，追踪了2024年全球人工智能（AI）行业的发展趋势。1AI的未来1.7《2025年人工智能指数报告》1.AI在苛刻基准上的表现持续提升2024年，AI系统性能大幅提升：在MMMU（多任务语言理解）、GPQA(博士级别科学问题)和SWE-bench(软件工程评测基准)分别提高了18.8、48.9和67.3个百分点。AI系统在生成高质量视频方面也取得了重大进展，在某些场景下，大语言模型甚至在有限时间和预算下的编程任务中超越了人类水平。1AI的未来1.8《2025年人工智能指数报告》2.AI正越来越多地融入到日常生活中从医疗保健到交通运输，AI正迅速从实验室走向日常生活。2023年，美国食品药品监督管理局FDA批准了223种AI医疗设备，而2015年仅为6种。在自动驾驶领域，百度的经济型“萝卜快跑”（ApolloGo）和美国Waymo已经商用。1AI的未来1.9《2025年人工智能指数报告》3.企业全力投入AI，推动投资和使用创历史新高2024年，2024年私人AI投资中国是93亿美元，英国是45亿美元，美国是1091亿美元，。生成式AI尤其强劲，全球AI产业吸引私营投资339亿美元——比2023年增长18.7%。AI的商业应用也在加速，2024年78%的组织报告称在使用AI，比前一年增长55%。同时越来越多的研究证实，AI提高了生产力，在大多数情况下，有助于缩小劳动力中的技能差距。1AI的未来1.10《2025年人工智能指数报告》4.在创造顶级AI模型方面，中国正在缩小与美国的差距2024年，美国推出了40个引人注目的AI模型，显著超过中国的15个和欧洲的3个。虽然美国在数量上保持领先，但中国模型在质量上迅速缩小了差距：在MMLU(大规模多任务语言理解测试集)和HumanEval(手写代码评测集)等主要基准上的性能差异从2023年的两位数缩小到2024年的接近相等。同时，中国在AI出版物和专利方面继续领先。与此同时，模型开发越来越全球化，中东、拉丁美洲和东南亚等地区也推出了引人注目的新模型。1AI的未来1.11《2025年人工智能指数报告》5.AI安全体系不断，但不均衡人工智能相关安全事件急剧上升，工业级模型较少对自己的模型进行风险评估，这主要是因为标准化的模型安全评估仍然很少。目前，斯坦福CRFM团队推出HELMSafety(评估LLM在敏感话题安全响应)以及Safety、AIR-Bench和FACTS等大模型安全评估基准测试为大模型安全提供了一定基础保障。2024年，全球在人工智能治理方面的合作不断加强，致力于透明度、可信度和负责任的人工智能安全框架。主流基础模型的安全性与负责任AI基准测试集的表现1AI的未来1.12《2025年人工智能指数报告》6.全球AI乐观情绪上升，但地区间深层次分歧依然存在在中国（83%）、印度尼西亚（80%）和泰国（77%）等国家的大多数人认为，人工智能产品和服务是利大于弊的。相比之下，加拿大（40%）、美国（39%）和荷兰（36%）等地的乐观情绪仍然远低于其他国家。然而，情绪正在转变：自2022年以来，包括德国（+10%）、法国（+10%）、加拿大（+8%）、英国（+8%）和美国（+4%）在内的几个先前持怀疑态度的国家，乐观情绪显著增长。1AI的未来1.13《2025年人工智能指数报告》7.AI变得更加高效、经济实惠和易于获取得益于越来越强大的小规模语言模型不断发展，以GPT-3.5水平为基准，推理成本在2022年11月到2024年10月间下降了280倍。在硬件层面，成本每年下降30%，而能效每年提高40%。开源权重模型也在缩小与闭源模型的差距，在某些基准测试中，一年内性能差异从8%减少到仅1.7%。这些趋势共同迅速降低了高级人工智能的使用门槛。1AI的未来1.14《2025年人工智能指数报告》8.各国政府正在加强对AI的监管和投资2024年，在全球范围内，自2023年以来，75个国家的AI立法提及率上升了21.3%，自2016年以来增长了9倍。同时各国政府也在进行大规模投资：加拿大承诺投资24亿美元，中国启动了475亿美元的半导体基金，法国承诺投资1090亿欧元，印度承诺投资12.5亿美元，沙特阿拉伯则发起了一项1000亿美元的倡议。|1AI的未来1.15《2025年人工智能指数报告》9.AI和计算机科学教育正在扩大，但普及程度仍不够已有2/3的国家提供或计划提供K-12计算机科学教育，是2019年的两倍，其中非洲和拉丁美洲取得的进展最大。然而在许多非洲国家，由于电力等基础设施的不足，获得计算机学位的机会仍然有限。1AI的未来1.16《2025年人工智能指数报告》10.工业界依然一路领先如图所示，2024年，近90%的著名人工智能模型来自工业界，高于2023年的60%，而学术界仍然是高引用率研究的首要来源。模型规模持续快速增长——训练计算每5个月翻一番，数据集每8个月翻一番，耗电量每年翻一番。然而，性能差距正在缩小：排名第一和第十的模型之间的得分差距在一年内从11.9%降至5.4%，排名前两位的差距现在仅为0.7%。前沿领域的竞争越来越激烈。1AI的未来1.17《2025年人工智能指数报告》11.复杂推理仍是一项挑战人工智能模型在国际数学奥林匹克竞赛问题等任务中表现出色，但在PlanBench等复杂推理基准测试中仍然面临挑战。在Blocksworld零样本评估（特定规划测试领域）中，o1以97.8%的得分远超Llama3.1405B（62.6%）和GPT-4o（35.5%）。而在更具挑战性的MysteryBlocksworld领域（包含语法混淆的测试项），o1的零样本得分达到52.8%，显著优于Llama3.1405B（0.8%）和GPT-4（0%）亚利桑那州立大学的研究团队提出了PlanBench基准测试套件，该套件汇集了自动规划领域特别是国际规划竞赛（IPC）中的典型问题，专门用于评估LLM的规划能力。该基准包含600个积木堆叠问题，测试要求机械手在每次只能移动一个积木到桌面或另一个积木顶部的约束条件下完成堆叠任务。1AI的未来1.18超级人工智能ASI软银公司预测，AGI（通用人工智能）的定义是和人脑一样，ASI（超级人工智能）的定义是比人脑聪明1万倍，这将在2035年实现，超级人工智能将比人脑聪明1万倍，建设它需要400GW的电力、2亿个芯片、9万亿美元的资金——或许还低估了。1AI的未来1.19超级人工智能ASI12个ASI相对人类的能力优势1AI的未来1.20超级人工智能ASI1AI的未来1.21星际之门“星际之门”于2025年1月21日在美国白宫宣布计划，该项目旨在建设下一代人工智能所需的物理与虚拟基础设施，包括遍布全美的数据中心。日本软银集团、OpenAI和美国甲骨文公司三家企业将投资5000亿美元，用于在美国建设支持AI发展的基础设施。该项目的初始投资为1000亿美元，并计划在未来4年内扩展至5000亿美元。星际之门”AI基建项目启航得州阿比林小城首座数据中心拟部署6.4万颗GB2001AI的未来1.22DeepSeek2025年1月20日DeepSeek发布R1模型，被认为可以与美国最先进的模型相媲美，但是成本却大幅降低。1月25-26日随着DeepSeekR1引爆美国舆论美国科技股出现大幅抛售。1月27日，纳斯达克下跌3.1%，标普500下跌1.5%，而AI相关企业股价普遍明显调整，芯片设计和制造商英伟达大跌17.0%，创2020年3月以来最大跌幅，博通公司股价下跌17.4%，台积电下跌13.3%。1AI的未来1.23DeepSeekvs星际之门1AI的未来1.24DeepSeekvs星际之门DeepSeekR1的出现使得“星际之门”（Stargate）落地难度将进一步加大。DeepSeek使得投资者增加了对Stargate项目的质疑。DeepSeek可能导致市场质疑科技巨头大规模资本开支的合理性。DeepSeek出现之前，科技巨头采取的是“不惜一切代价建设”的策略，即通过大规模资本开支，提高算力。DeepSeek

的出现意味着存在更高效利用资本的可能性，效率提升或将降低对GPU芯片的需求，长期可能降低科技巨头资本开支的预期。DeepSeek可能颠覆AI行业格局，冲击美国在AI领域的领先地位。DeepSeek以更低成本达到媲OpenAI等行业巨头的产品，可能颠覆现有行业结构，一定程度扰动了英伟达和科技巨头的传统竞争格局，对英伟达芯片等相关硬件的需求预期可能下降，数据中心基础设施建设公司、电力供应商等与AI硬件相关的衍生行业需求预期也会下降。1AI的未来目录AI的社会影响022.1AI对就业市场影响到2030年，人工智能和自动化预计将改变86%的企业。到2030年，全球将净增7800万个就业岗位，其中将创造1.7亿个新岗位，同时有9200万个岗位将被取代。总体来看，人工智能将成为就业的净创造者。到2030年，约40%雇主会因AI技术发展自动缩减员工队伍。4.到2030年，绝大多数公司（77-85%）计划优先提升现有员工的技能。5.到2030年，员工技能差距日益扩大是企业转型的主要障碍，教育机构需要调整其课程设置以满足企业需求。6.到2030年，技术被认为是塑造劳动力市场最具颠覆性的力量，人工智能和信息处理技术将创造1900万个就业岗位，同时取代900万个。2AI的社会影响2.2AI对就业市场影响——技能差距雇主预计到2030年39%的工人核心技能将发生变化，低于以往预测，这得益于企业对培训的重视，50%的劳动力已完成相关培训。不同经济体和行业的技能颠覆程度有所不同。技能差距仍然是企业响应全球大势、推动自身转型所面临的首要障碍。63%的雇主认为技能差距是一项主要障碍，影响了企业打造面向未来的经营方式。2AI的社会影响2.3AI对就业市场影响——人机协同方面此消彼长2025年，22%由技术（机器，算法等）完成，47%由人来完成，30%由人机合作/协同完成。2030年，技术完成的比例将从22%增长到34%2030年，人来完成的比例从47%减少到33%。2030年，人机合作/协同完成的比例则从30%小幅增长到33%。2AI的社会影响2.4AI对教育行业影响2025年3月28日，教育部召开国家教育数字化战略行动2025年部署会，以“人工智能与教育变革”为主题，围绕落实《教育强国建设规划纲要（2024—2035年）》。教育部党组书记、部长怀进鹏出席会议并讲话指出，“习近平总书记高度重视教育数字化和人工智能，作出一系列重要论述。要深刻领会习近平总书记的重要讲话精神，科学把握人工智能在教育强国建设中的定位、方向、方法，积极推动人工智能赋能教育强国建设。必须牢记使命，始终坚持服务立德树人这一根本任务，始终坚持五育并举、促进学生全面发展的目标不动摇。必须勇于改革创新，深入推动人工智能赋能教育变革，推动各级各类教育课程、教材、教学体系智能化升级，将人工智能技术融入教育教学全要素、全过程，全方位助学、助教、助研、助管、助国际交流。必须优化能力结构，学校管理者要提升数字化领导力和驾驭力，广大教师要提升数字教学能力，促进科学教育与人文教育协同，塑造学生适应人工智能时代的素养能力。”2AI的社会影响2.5

AI对教育行业影响人工智能技术正在引发“学什么”和“怎么教”的教育颠覆性改变。人工智能在不同教育阶段的影响比较2AI的社会影响2.6

AI对教育行业影响——人工智能对教育中伦理挑战对学生数据的收集、存储和使用；算法偏见可能导致某些学生群体面临不公平或歧视性结果的风险；人工智能对学术诚信构成的挑战；学生和教育工作者可能过度依赖人工智能；导致批判性思维、解决问题的能力和人际互动下降的可能性。人工智能在教育领域中的伦理考量与缓解策略2AI的社会影响2.7AI对教育行业影响——4大素养2AI的社会影响目录AI的边界03353.1AI伦理与社会边界——科学伦理重点“伦理”是人类实现个体利益与社会整体利益协调过程中，形成的具有广泛共识的引导社会人际和谐和可持续发展的一系列公序良俗，诸如向善、公平、正义等，其内涵会根据研究主体的特性而改变；2022年3月20日，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，提出“科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障。”，并明确了五大类科技伦理原则。3AI的边界3.2AI伦理与社会边界——硅基数字生命《流浪地球2》科学家图恒宇利用量子计算机，“复活”了因车祸去世的女儿丫丫，赐予她数字生命。电影中超级量子计算机将丫丫的大脑记忆和意识上传，创建一个具有独立意识、情感、记忆的完整个体，带个每个观众都是剧烈的思索和伦理震撼。3AI的边界3.3AI伦理与社会边界——硅基数字生命3AI的边界3.4AI伦理与社会边界——硅基数字生命利用生成技术“复活”逝者影像，这种技术带给人们如何的心理影响？在伦理道德领域，是否应该“复活”逝者？这种做法可能阻碍了人们正常的哀悼过程，也可能导致对死亡的态度产生根本性的改变。当人们过度依赖数字技术同时，虚拟慰藉很可能带来现实伤害，受到情感困扰甚至出现心理或生理疾病。生者如果难以走出失去亲人的阴影，沉溺于虚拟世界中，就会影响在现实世界里对真实情感和人际关系的认知，严重的会影响正常生活。近年来，我国出台《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等法规相继施行，对深度合成内容标识等关键问题进行了规范，需要不断改进理念和方式，多举措防范技术风险和技术伦理问题。3AI的边界3.5AI伦理与社会边界——法律案例1.生成AI作品可享有著作权【案情】李某使用AI软件制作了一张图片。他为这张图片加上“AI绘画”等标签，发布在自己的社交平台上。之后，李某发现这张图片被博主刘女士擅自使用，还截去了署名水印。李某认为刘女士的行为侵犯了自己的著作权，便将刘女士诉至法院。涉案图片与一般的绘画或摄影作品不同，是利用AI技术生成的，那么它是否符合著作权法中关于作品的定义？李某是否拥有著作权？李某认为，使用AI软件进行绘画时，需要设置相关提示词、模型以及其他参数，自己才是图片的主导者，因此应享有相关图片著作权。【说法】法院审理认为，本案中，图片以线条、色彩构成，有审美意义，可以认定为作品，且具备“智力成果”和“独创性”要件。通过设计提示词，不同的人会生成不同的结果，这种差异可以体现人类的独创性智力投入。涉案图片是基于原告的智力投入直接产生，而且体现出原告的个性化表达，因此可以认定涉案图片属于著作权法中规定的作品，李某可以被认定为作者，享有著作权。最终，法院作出判决，认为被告侵犯原告署名权和信息网络传播权，应该对原告赔礼道歉，并赔偿原告经济损失。法官提示，利用人工智能生成的内容，是否构成作品，何人能被认定为作者，需要个案判断，不能一概而论。关键在于查明人类使用AI模型是否给人以创作空间，以及生成的内容是否体现了人的独创性智力投入。本案裁判明确了利用人工智能生成图片的“作品”属性和使用者的“创作者”身份。3AI的边界3.6AI伦理与社会边界——法律案例2.利用AI造谣依法予以严惩【案情】“浙江一工业园突发大火，‘视频曝光’，整个厂房都烧透了！伴有爆炸声，火光冲天！伤亡不明！”前不久一则“图文并茂”的“新闻”在网上广为流传，引起不少网友关注。很快，相关部门予以辟谣。原来这则“新闻”是利用AI技术制作的一则谣言。张某、陈某二人选取网络热点，复制新闻的标题、关键词并利用AI软件自动生成文案和视频，将其发布至网络平台供人浏览，以博取流量，进而牟利。虚假造谣视频累计阅读观看量超167万次，造成恶劣社会影响。二人被公安机关抓获并由检察机关提起公诉。【说法】法院审理认为，利用AI技术自动合成灾情、险情等虚假视频，在网络平台上传播，严重扰乱社会秩序的，应当以编造、故意传播虚假信息罪定罪处罚。对于是否达到“严重扰乱社会秩序”的程度，应当结合虚假信息的发布数量、点击转发量、对社会公共秩序的影响等因素进行综合判断。张某、陈某利用AI技术编造虚假的险情、灾情、警情，严重扰乱社会秩序，其行为已构成编造、故意传播虚假信息罪。法官提示，上述案件是人工智能时代编造、故意传播虚假信息罪的典型，该案警示网络用户在使用AI生成图片、音视频时，应注意甄别图片、音视频的真实性，尤其需警惕具有情绪煽动性、利益诱导性的内容。如发布AI生成内容，还应履行添加标识的义务，从而避免他人混淆，以防被不法分子利用。此外，通过认定与追究编造、故意传播虚假信息罪的刑事责任，可以有效净化网络内容，遏制人工智能时代虚假信息的泛滥之势，保障包括网络秩序在内的社会公共秩序的安定。3AI的边界3.7AI伦理与社会边界——法律案例3.滥用AI换脸最终难逃惩处【案情】傅某在社交平台上发布“广告”，声称可通过“AI换脸”技术，帮助他人通过相关平台的人脸验证，以登录非本人账号。原来，傅某使用相关软件，用“客户”提供的头像制作换脸视频，预存在手机相册中，再点击客户要求通过的人脸验证链接，采用软件控制相关平台的人脸识别系统，读取到其指定的预先制作的人脸视频，以此通过平台的人脸验证。甚至客户只提供身份证号，傅某即从某些非法平台上购买相关公民信息，以制作换脸视频。傅某被公安机关抓获后，被检察机关以非法控制计算机信息系统罪提起公诉。【说法】傅某辩称，其只是借助AI软件，使得系统读取到的是其预先制作的人脸视频，并未“控制”平台的识别系统，刑法也未明确通过AI换脸帮助他人通过实名认证的行为定性为犯罪。法院经审理认为，傅某使用软件程序，改变手机系统原本调用自身摄像头的方式，并用虚拟摄像头助手程序读取指定的人脸视频，实现替换摄像头的功能。这种对后台系统进行干扰的行为，接近一种控制行为，符合“非法控制计算机信息系统罪”的犯罪特征。此外，傅某为制作验证视频而购买他人身份信息，构成侵犯公民个人信息罪。二罪是目的和手段的关系，属于刑法上的“牵连犯”，故从一重罪处断，也就是以非法控制计算机信息系统罪追究傅某刑事责任。3AI的边界3.8AI伦理与社会边界——战争AI(五角大楼“梅文计划”)2022年1月30日，梅文计划主要参与企业之一的ScaleAI获得美国国防部2.5亿美元的合同。2022年2月1日，美国国防部成立首席数字和人工智能办公室。据国外媒体报到，2020年的某夏夜，美国第18空降兵凝视着他们指挥所电脑上的卫星图像，在得到识别和提示目标的指令后，一个人工智能程序已扫描了这些照片，接着该程序给出提示并要求确认它的信息：一辆报废的坦克。信息得到确认后，该系统向配有海马斯M142的炮兵阵地发送指示开火的指令。一枚海马斯火箭立即升空按制定目标摧毁了那辆坦克。这次电脑模拟演习拉开美国梅文计划试验的序幕。此后，通过与美军其他军种及英国等盟国协作，第18空降军使用梅文系统以及与之相连的武器系统，制作从轰炸机、战斗机、无人机和潜艇上打击目标的型号数据。据媒体报到，2022年2月7日，负责AI作战测试的第18空降军抵达乌克兰边境。据彭博社报道，在美军于2024年初在中东进行的空袭轰炸中，梅文智能系统至少帮助美军锁定了85个打击目标，地点涉及伊拉克、叙利亚、也门和红海地区。3AI的边界3.9AI