人工智能通识 课件 第6章 人工智能的发展趋势

第6章人工智能的发展趋势素养目标技能目标知识目标能够分析人工智能与其他领域（如医学、金融学）相结合的应用价值；能结合具体案例分析人工智能安全伦理问题。了解人工智能重点产业；了解人工智能技术与应用发展趋势；熟悉熟悉我国人工智能发展规划、国家重大的政策导向及法规；了解人工智能的安全与伦理问题。增强民族自豪感，厚植家国情怀；提升信息安全意识，培养遵纪守法和道德规范的自觉性；坚定文化自信自强，增强使命感与责任感。学习目标人工智能是新一轮科技革命和产业变革的重要驱动力量，以生成式人工智能为代表的新一代人工智能问世，改变了人工智能技术与应用的发展轨迹，加速了人与AI的互动进程，是人工智能发展史上的新里程碑。末来，人工智能技术与应用的发展又会呈现出哪些趋势？1.2.3.人工智能产业生态人工智能重点产业及发展趋势我国人工智能发展规划4.5.人工智能的安全人工智能的伦理目录6.人工智能伦理法律体系建设01人工智能产业生态主要可分为智能基础设施、智能信息及数据、智能技术服务、智能产品等方面。主要有软件产品开发、信息技术咨询、电子信息服务、信息系统集成、互联网信息服务、集成电路设计、电子计算机、电子元器件等。核心业态关联业态主要有智能制造、智能家居、智能金融、智能教育、智能交通、智能安防、智能医疗、智能物流等细分行业。衍生业态《人工智能标准化白皮书（2018）》中，把人工智能产业生态分为三个层次核心业态关联业态衍生业态02人工智能重点产业智能基础设施智能基础设施是支撑人工智能产业发展的基石，它提供了数据及算力资源，主要包含传感器、AI芯片、数据服务和云计算服务。PART01智能技术智能技术是人工智能行业发展的核心驱动力，侧重核心技术的研发，主要包括深度学习框架、算法模型开发以及人工智能平台。主要涉及的技术包括计算机视觉、机器学习、语音处理及自然语言处理等。PART02智能应用智能应用是建立在基础设施层与技术平台层的基础上，结合大数据和分布式计算技术生成针对各行各业的解决方案，解锁行业的人工智能应用场景，是人工智能技术与各行业的深度融合。智能应用细分领域众多、交叉性强，呈现出相互促进、繁荣发展的态势。PART03人工智能重点产业主要包含三个方面ep技术平台开源化通过技术平台开源化，可以扩大技术规模，整合技术和应用，有效布局人工智能全产业链，是抢占产业制高点的重要手段。谷歌、百度等国内外龙头企业纷纷布局开源人工智能生态，未来将有更多的软硬件企业参与开源生态。PART01多模态模型加速文本、图像和视频融合多模态模型能够处理视觉信息、文本信息、听觉信息等多元化数据，能够对不同表现形式的信息进行融合理解，是人工智能全面理解真实世界的重要一步。未来模型将面对更加复杂多样化的交互场景，更加注重各种形式的信息融合。PART02人工智能技术发展趋势阿里云通义千问大语言模型2025年1月20日，中国人工智能企业深度求索（DeepSeek）发布的开源模型DeepSeek-R1，犹如一颗投入平静湖面的巨石，在国际上激起千层浪。DeepSeek以开源思维挑战AI行业的传统路径，展现了中国人工智能技术的巨大潜力，其使用的算力能够远低于全球平均水平，还可以免费使用，而且是开源的，打破了美国对AI话语权的垄断。具身智能成为AI发展新形态具身智能是指一种使机器能够通过感知、理解和模仿人类动作的能力，这种智能不仅仅局限于机器的思维和计算能力，而是注重于机器能够像人类一样感知和交互的能力。它包含人工智能领域几乎所有的技术，是人工智能的集大成者。PART03走向通用人工智能的途径愈发明晰通用人工智能是一种可以执行复杂任务的人工智能，能够完全模仿人类智能的行为，能够执行任何人类智能活动的计算机系统。不需要人为干预就可以解决任何问题，它被认为是人工智能的更高层次。通用人工智能时代可能很快就会到来，未来十年内行业可能会拥有超强的AI系统。PART04人工智能技术发展趋势2025年央视春晚《秧BOT》2025年春节联欢晚会上，杭州宇树科技的H1人形机器人在舞蹈《秧BOT》中亮相，H1是首款能原地后空翻的电驱动人形机器人。该机器人目前最快速度为每秒3.3米，预计到2025年年底能达10米每秒，甚至超越人类跑步世界纪录。未来随着技术的不断突破和成熟，人形机器人或将在一两年后为工厂自动化、家庭带来更多可能性。脑机接口创造新的交互方式脑机接口，是在人或动物大脑与外部设备之间创建的直接连接，实现脑与设备的信息交换。脑机接口技术可以用于帮助瘫痪患者恢复行走、说话等功能；可以用于帮助盲人、聋人感知周围环境。PART05人工智能技术发展趋势“脑机融合智能辅助机械手系统”抓取饮用水瓶01.大语言模型将成为个人智能助理和新一代的流量入口随着大模型能力的不断增强以及插件生态的不断丰富，大模型有望成为新一代的人机交互方式以及流量入口。GPT-4正在逐步开放插件功能，通过底层模型连接第三方应用，从而构建丰富的生态系统。GPT-4自插件功能开放以来，目前已经接入超过500个插件，其中包括教育、金融等场景。人工智能应用发展趋势GPT-4构建的应用生态02.专业数据与成本驱动行业模型百花齐放大模型在垂直领域的商业化落地过程中，需要根据企业自身的特殊需求，对大模型进行微调和优化，从而形成了百花齐放的格局。企业端应用出于对模型的经济性考量，未来将呈现阶梯式需求。人工智能应用发展趋势大模型多层级结构05.03.04.降低应用成本，带动大模型端侧算力发展当前人工智能的使用成本十分高昂，ChatGPT每天消耗50万千瓦时的电力，英伟达B200芯片价格高达3万美元以上。随着大模型小型化、场景化需求增加，推理将逐步从云端扩展向端侧，用户可以更加经济、可靠、安全的使用AI服务，大模型端侧的应用布局不断加速。改写劳动力市场的未来大模型的应用带来劳动力市场结构的调整和变化。短期而言，可能替代部分低技能或重复性工作；中期来看，大模型也将创造新的人工智能相关就业机会；长期来看，大模型的应用将会深度改变各行业的工作模式和商业模式，让企业的组织架构更加扁平化和小型化。重塑科研范式人工智能与前沿科学的结合展现出了巨大潜力，可显著降低前沿科技研究中的智力成本并提升研究效率。生命科学、气象预测、数学、分子动力学等前沿科学均得到了人工智能的广泛助力，人工智能将带来科研范式的变革和新的产业形态。人工智能应用发展趋势03我国人工智能发展规划

2020年8月，为加强人工智能领域标准化顶层设计，推动人工智能产业技术研发和标准制定，促进产业健康可持续发展，国家标准化管理委员会、中央网信办、国家发展改革委、科技部、工业和信息化部五部门印发了《国家新一代人工智能标准体系建设指南》。

人工智能标准体系结构包括“A基础共性”、“B支撑技术与产品”、“C基础软硬件平台”、“D关键通用技术”、“E关键领域技术”、“F产品与服务”、“G行业应用”、“H安全/伦理”等八个部分。我国人工智能标准体系结构人工智能标准体系架构

2023世界人工智能大会（WAIC）“聚焦·大模型时代AIGC新浪潮论坛”上，中国信息通信研究院《2023大模型和AIGC产业图谱》正式发布。

图谱整体上包含行业应用，产品服务，模型与工具和基础层四个主要部分，图谱深入梳理了大模型和AIGC产业链上下游发展状况，详细展示了大模型和AIGC产品分类及分布态势。我国人工智能标准体系结构中国信通院《2023大模型和AIGC产业图谱》到2020年，人工智能总体技术和应用与世界先进水平同步，人工智能产业成为我国新的重要经济增长点，技术应用成为改善民生的新途径。到2025年，人工智能基础理论实现重大突破，部分技术与应用达到世界领先水平，人工智能产业成为带动我国产业升级和经济转型的主要动力。到2030年，人工智能理论、技术与应用总体达到世界领先水平，我国成为世界主要人工智能创新中心。010302新一代人工智能发展规划2017年7月，国务院印发了我国第一个人工智能规划——《新一代人工智能发展规划》。这份具有里程碑意义的规划，对人工智能发展进行了战略性部署，确立了“三步走”目标，力争到2030年把我国建设成为世界主要人工智能创新中心。构建开放协同的人工智能科技创新体系，从前沿基础理论、关键共性技术、创新平台、高端人才队伍等方面强化部署。01培育高端高效的智能经济，发展人工智能新兴产业，推进产业智能化升级，打造人工智能创新高地。02建设安全便捷的智能社会，发展高效智能服务，提高社会治理智能化水平，利用人工智能提升公共安全保障能力，促进社会交往的共享互信。03新一代人工智能发展规划加强人工智能领域军民融合，促进人工智能技术军民双向转化、军民创新资源共建共享。04构建泛在安全高效的智能化基础设施体系，加强网络、大数据、高效能计算等基础设施的建设升级。05前瞻布局重大科技项目，针对新一代人工智能特有的重大基础理论和共性关键技术瓶颈，加强整体统筹，形成以新一代人工智能重大科技项目为核心、统筹当前和未来研发任务布局的人工智能项目群。06新一代人工智能发展规划

美国斯坦福大学发布的《2023年人工智能指数报告》显示，我国人工智能领域发表论文数量居首位，在发表论文总量世界前十的机构中，我国共占九席。高水平论文被引用量与美国的差距进一步缩小，腾讯、阿里巴巴和华为等公司已经成为人工智能研究领域排名进入世界前十的公司。

百度、阿里巴巴、华为、字节跳动、腾讯、小米、科大讯飞、三六零、京东、医渡科技分别为我国人工智能行业龙头企业。从地域来看，我国人工智能企业主要集中在北京市、上海市、广东省、浙江省，形成京津冀、长三角、粤港澳三足鼎立的格局。

我国人工智能核心产业规模2021年突破4000亿元，比2019年增长6倍多，2023年达5787亿元，企业数量超过4400家，已建设近万个数字化车间和智能工厂。2023年我国数字经济核心产业增加值占国内生产总值比重达10%，提前实现《“十四五”数字经济发展规划》的2025年发展目标。新一代人工智能发展规划人工智能技术与智能计算产业正处于中美科技竞争的焦点，我国在过去几年取得了很大的成绩，但依然面临诸多发展困境，特别是由美国的科技打压政策带来的困难。美国在AI核心能力上长期处于领先地位，中国处于跟踪模式；高端算力产品禁售，高端芯片工艺长期被卡；国内智能计算生态孱弱，AI开发框架渗透率不足；AI应用于行业时成本、门槛居高不下。我国应发展用得起、安全可信的人工智能技术，消除我国信息贫困人口、并造福“一带一路”国家；低门槛地赋能各行各业，让我国的优势产业保持竞争力，相对落后的产业能够大幅地缩小差距。2025年初，以宇树科技、深度求索等人工智能企业为代表的“杭州六小龙”爆火出圈，被外界称为“神秘的东方力量”。在人工智能这一科技新赛道，我国已经显示出引领时代浪潮的全新气象。新一代人工智能发展规划04人工智能的安全人工智能技术需要大量的数据来进行训练和学习。这些数据可能包括个人的生活习惯、消费行为、位置信息等敏感信息。如果这些数据被不当收集或滥用，将对个人隐私造成严重威胁。人工智能应用中的数据源于许多方面，用户个人在智能应用软件中输入和提供的数据资料，都可能成为人工智能应用中被监控的部分，构成对用户自身完整的行为勾勒和心理描绘，用户很难在此情况下保护自己的个人隐私。数据采集过度网络安全漏洞或内部人员恶意泄露，大量用户的数据可能会落入不法分子手中。即使数据被加密存储，也有可能被黑客攻击并解密。一旦数据被泄露，可能会被用于进行精准营销、针对性广告等商业目的，侵犯用户的隐私权益。人们的个人数据，如电话号码，银行卡信息，购车记录，收入状况，网站注册信息等，已成为私人非法交易的严重灾区，这些个人信息被不法分子通过非法交易获得并循环使用。数据泄露、滥用2018年3月17日，美国《纽约时报》曝光Facebook造成5000多万的用户隐私信息数据被名为“剑桥分析”的一家公司泄露，这些泄露的数据中包含用户的手机号码和姓名、身份信息、教育背景、征信情况等，被用来定向投放广告追求商业价值和经济利益。一再发生的泄密事件使得用户隐私数据信息泄露变得更加“有利可图”。Facebook数据泄露案例数据安全人工智能技术以数据为驱动，数据安全是人工智能安全的一个核心问题。数据安全问题主要涉及数据采集过度，数据泄露、滥用等方面。随着人工智能技术的发展，黑客们也开始利用人工智能技术进行攻击。他们可能会利用人工智能算法来破解密码、窃取敏感信息等。黑客攻击随着无人机、机器人等智能设备的普及，人工智能武器也逐渐成为现实。武器智能水平大幅提高，脑机接口、机械外骨骼等人机融合技术不断出现，人与机器之间的关系正面临根本性变化。未来机器甚至可能取代人类本身，成为军事行动的实际决策者和执行者，引发更深层次的伦理危机。如不及时对人工智能军事应用加以约束，科幻电影《终结者》中的杀人机器人恐将成为现实。人工智能武器人工智能的智能和能力正在不断提高，如果人工智能失控或被恶意利用，可能会对人类造成威胁，如自动化武器、恶意软件等。人工智能对人类安全的威胁安全风险05人工智能的伦理信息茧房由学者凯斯·桑斯坦提出，是指信息传播过程中，由于获取信息并非是全方位的，用户只会听到看到愉悦我们和我们关心的信息，久而久之，会将自身桎梏于像蚕茧一般的“茧房”中，导致单向度思考下的价值迷失等一系列问题，进而做出思想偏执狭隘的决策。用户点赞、评论、分享等行为模式，都构成了算法分析用户偏好的数据。基于个性化算法驱动，新闻、短视频、音乐、广告等内容产品的推荐将越来越符合用户兴趣爱好。这种看似便利、迎合的姿态之下，却存在着潜在问题。过滤掉海量繁杂信息的同时，也不可避免地导致用户信息获取片面化。信息茧房信息茧房偏见算法算法偏见是指在看似没有恶意的程序设计中带着创建者的偏见，或者所采用的数据是带有偏见的。数据偏见：工智能算法的训练依赖于大量的数据。如果这些数据存在偏见，那么算法在做出决策时也可能存在偏见。例如，在招聘过程中，如果简历筛选系统使用了有性别歧视的算法，可能会导致女性求职者被低估或忽视。不公平决策：由于算法的偏见，可能导致某些群体在特定场景下受到不公平对待。例如，在信货审批过程中，如果算法对某一种族或社会经济地位较低的人群存在偏见，可能会导致这些人难以获得贷款。误判和偏见问题：工智能算法的训练依赖于大量的数据。如果这些数据存在偏见，那么算法在做出决策时也可能存在偏见。例如，在招聘过程中，如果简历筛选系统使用了有性别歧视的算法，可能会导致女性求职者被低估或忽视。人们应对机器人的道德和行为判断力进行判定，确保其在人类的道德伦理范围中，避免人工智能产物做出危害人类安全的行为。人类必须对人工智能的行为进行严格的监管，也要大力发展人工智能自身的伦理监督机制，使其为人类所用。机器人被赋予人权，我们该如何与他们相处呢？是将他们看作冰冷冷的机器，还是将他们看作另一种“人”呢？人机关系全球首位机器人公民索菲亚人权伦理问题

第一定律机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。

第二定律机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。

第三定律机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。人机关系机器人学的三大法则，也被称为阿西莫夫机器人学法则，是由科幻小说作家艾萨克·阿西莫夫提出的一套指导机器人与人类相处的原则。当人工智能产品能够替代人类进行一系列的社会工作，在其与人类共同生活工作的过程中发生过错应该由谁来承担责任，是使用者自己，还是生产者或人工智能产品来承担。例如，当自动驾驶汽车发生事故时，可能涉及到软件编程错误、硬件故障、使用者操作不当或其他外部因素。在这种情况下，传统的责任理论可能难以适用。与传统产品不同，人工智能系统具有学习和自适应的特性，可能产生无法预测的行为，使责任归属更加复杂。人工智能算法模型的复杂性，易导致结果不确定性。从现行法律上看，侵权责任主体只能是民事主体，人工智能本身还难以成为新的侵权责任主体。传统的责任归属理论基于个人的过失或产品的缺陷。然而，在AI的案例中，责任可能分布在多个环节，包括AI设计者、开发者、使用者和可能的其他参与者之间。责任归属06人工智能伦理法律体系建设人工智能伦理设置原则

牛津大学学者LucianoFloridi和JoshCowls在2019年哈佛数据科学评论杂志上发表的文章中提出了如今被学术界广为认可的AI伦理五原则：行善、不伤害、自治、正义以及算法可解释性。

近年来，技术界也越来越关注AI伦理问题。全球人工智能顶会上出现了越来越多的AI伦理论文，话题范围涉及AI可解释性，安全AI，隐私与数据收集，公平与偏见等。五项总体AI核心原则全球人工智能伦理法律体系建设

2015年1月欧盟议会法律事务委员会（JURI）成立专门工作小组，开始研究机器人和人工智能发展相关的法律问题，2019年4月，欧盟委员会发布了正式版的人工智能道德准则《可信赖人工智能的伦理准则》，提出了实现可信赖人工智能（TrustworthyAI）全生命周期的框架。

2018年5月25日，欧盟《通用数据保护条例（GDPR）》