《 人工智能引论》课件 第11、12章 人工智能应用、人工智能伦理与安全

第十一章人工智能应用11.1人工智能在计算机视觉中的应用11.2人工智能在自主智能系统中的应用11.3人工智能在智能制造中的应用11.4人工智能在智慧城市中的应用11.5人工智能在医疗健康中的应用11.6人工智能在科学探索中的应用第十一章人工智能应用

人工智能的迅速发展将深刻改变人类社会生活、改变世界。为抢抓人工智能发展的重大战略机遇，构筑我国人工智能发展的先发优势，加快建设创新型国家和世界科技强国,党中央、国务院于2017年印发《新一代人工智能发展规划》，提出了面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施。我国人工智能发展进入新阶段，迎来了新机遇。当前，人工智能的触角已经延伸至我们日常生活的每一个角落，无论是生产制造、医疗健康、交通运输、科学探索，还是艺术创作等众多领域，都能感受到其日益增长的影响力。11.1人工智能在计算机视觉中的应用目标检测与识别设备损伤检测利用AI驱动的计算机视觉技术，实现对设备表面的全面自动检测，精确识别出各类损伤与缺陷，减少人为误判，提升检测效率和准确性。人脸识别技术通过分析和比较面部特征信息，自动核实个体身份，关键技术流程包括图像采集、预处理、人脸检测、面部特征定位等，广泛应用于智能手机解锁、门禁系统等领域。自然灾害监测AI驱动的计算机视觉技术提升了对洪水、火灾、地震等自然灾害的监测、预警及应对能力，通过卫星遥感和无人机摄影识别灾害征兆，提高评估风险和影响的准确性。123图像与视频自动生成利用深度学习算法，计算机程序能从海量数据中学习复杂的视觉规律，独立创作出既仿真又具创新的图像作品。图像自动生成通过深度学习技术，实现了动态视频内容的高效率自动化生成，满足多样化应用需求，包括基础编辑、剪辑和人物替换等。借助AI技术，图像修复领域取得显著进展，能够自动识别并修复图像中的缺陷或损伤区域，极大提升图像质量。AI驱动的图像修复视频内容自动生成11.1人工智能在计算机视觉中的应用11.2人工智能在自主智能系统中的应用无人驾驶车辆自动驾驶汽车的定义

自动驾驶汽车是一种无需人类驾驶员操控，能独立完成行驶任务的先进交通工具，它通过精密传感器和人工智能技术感知环境并确保安全。华为自动驾驶技术方案

华为利用激光雷达作为核心技术，结合摄像头和毫米波雷达等设备，通过激光反射生成点云图判断障碍物，同时开发高精度地图技术。Tesla自动驾驶体系

Tesla构建了基于视觉感知的自动驾驶系统，不依赖激光雷达或毫米波雷达，通过摄像头捕捉图像数据，使用神经网络解析构建三维向量空间。突破性进展——“端到端架构”技术。核心在于将自动驾驶系统中的多样化架构和模块整合为一个协同工作的统一体系，实现从输入到输出的直接映射训练。所有功能模块均围绕最终的决策目标进行优化，从而确保了系统优化过程的统一性和可控性。11.2人工智能在自主智能系统中的应用无人机集群军事革新的先锋无人机集群在现代战争中展现出改变战局的潜力，通过群体智能执行复杂任务，标志着未来战争形态的发展方向，成为军事革新的先锋。

民用领域的突破

随着AI技术的集成，无人机在民用领域（以我国“大疆”公司为代表）实现自主飞行和图像识别，特别是在紧急救援中快速定位被困人员，极大提升了救援效率，开辟了新的应用场景。

编队控制技术的创新

利用深度强化学习算法，无人机群编队控制与避碰研究取得突破，通过马尔可夫决策过程统一建模，实现了更高效、智能的无人机群协同操作。

11.2人工智能在自主智能系统中的应用极端环境下的探索机器人深海探测的突破“海斗一号”全海深自主遥控水下机器人的研发，使中国在深海探测领域取得了重大进展，能够覆盖全球所有海洋深度，为深渊科学考察提供了前所未有的技术支持。火星探索的里程碑“天问一号”及其“祝融号”火星探测车的成功着陆与巡视，不仅标志着中国成为第二个在火星表面成功着陆并开展巡视探测的国家，也展示了中国在太空探索技术领域的重大成就。AI技术的关键作用极端环境下的探索机器人研发中，AI技术的应用极大提高了机器人的自主决策、感知导航、任务执行和资源管理能力，是推动极端环境探索取得突破性进展的关键技术。12311.3人工智能在智能制造中的应用工业流程自动化全流程自动化控制

工业流程自动化通过整合智能感知、决策和执行机制，实现生产线的自动化控制与协调，如Tesla超级工厂的全流程无人操作，提升生产效率和质量。智能感知与自动决策

结合AI与通信技术，如海尔冰箱互联工厂，实现信息自动感知、事件自动决策和场景自动更新迭代，增强制造企业的国际竞争力，优化生产流程。1211.3人工智能在智能制造中的应用产品检验自动化利用计算机视觉和图像识别技术，人工智能能够自动化进行产品质量检验，通过精确识别产品缺陷，提高检验效率和准确性。产品检验自动化不仅显著提升产品质量的稳定性和可靠性，还有效降低了生产成本和人力资源消耗，实现了生产效率和成本的双重优化。华为“昇腾智造解决方案”是一套专为工业制造领域企业量身打造的综合性AI支持方案。该方案建立在昇腾AI基础软硬件平台之上，广泛应用于质量检测、测量定位、设备监控等关键生产和运营管理环节。以电子组装行业为例，该方案通过对螺钉、涂胶等细节的检测，将异物识别的准确率提升至99.9%以上。在半导体晶圆领域，通过智能分析技术，将缺失图案的识别准确率提升至99%以上DeepLearningforIndustrialApplications(DLIA)是一种先进的工业缺陷检测系统，专为应对工业生产中复杂的缺陷分类与检测问题而设计。DLIA系统依托于深度学习框架，通过训练和学习海量样本数据，模拟并超越了人眼的视觉识别能力，能够以极高的精度识别出微小的瑕疵。在药品或胶囊的包装过程中，DLIA的机器视觉技术能够利用颜色识别功能区分不同颜色的药品，有效防止了错误装载的发生。11.3人工智能在智能制造中的应用仓储物流自动化

智能感知与监控

通过部署智能感知设备和物联网技术，人工智能能够实时监控仓储物流中的物料存储、分拣和运输过程，确保操作的透明性和可追踪性。

自动化机器人应用

自动化机器人在仓储物流中的应用，包括自动搬运、分拣和包装，显著提升了处理速度和精确度，同时降低了人力成本和操作失误率。

效率与成本优化

人工智能技术的应用不仅提高了仓储物流的效率和精准度，还通过优化资源分配和减少浪费，有效降低了整体物流成本和运营风险。

案例：阿里云智能仓储Dematic全球物流智能仓储的核心形态是无人仓，它通过自动化设备和机器人替代人工操作，实现了商品入库、存储、拣选、分拣和出库等流程的自动化。11.4人工智能在智慧城市中的应用智能交通管理通过数据分析和智能控制技术，智能交通管理能够实时监控并调整交通流量，减少拥堵，提高道路使用效率，实现交通流的动态平衡。交通流量优化智能交通管理系统利用先进的传感器和AI分析技术，能够预测交通事故的发生，及时发出预警，从而有效减少事故发生率，提升驾驶安全。事故预警系统结合视频云、大数据和人工智能技术，智能交通管理实现了对路况的实时监控和分析，为城市交通规划和应急管理提供了有力的数据支持和决策依据。路况实时监控深圳作为中国的经济特区和迅速崛起的城市，面临着特有的交通挑战。2017年，深圳交警与华为公司携手，共同建立了联合创新实验室，致力于构建“城市交通大脑”。2019年，双方进一步通过优化全市的感知网络体系，将“城市交通大脑”提升为“鹏城交通智能体”。AI驱动的智能交通信号灯系统，该系统通过整合大量车辆感知设备与人工智能技术，实现了从传统的“车看灯”读秒通行方式，向现代的“灯看车”读车数放行方式的转变。11.4人工智能在智慧城市中的应用智慧能源管理实时监控与数据分析

通过人工智能和大数据技术，智慧能源管理能够实现对能源资源的实时监控和深入分析，有效揭示系统运行规律，为能源的优化配置提供数据支持。日本柏叶智慧城市项目所建立的“区域能源管理系统”（AEMS）实现了区域用电、用水、燃气等能源使用的可视化，以及街区间电力的融通。AEMS的智能控制中心采用基于大数据的人工智能算法模型，以预测和调控街区在用电高峰期的电力需求。我国苏州工业园区采用尖端的智能化能源管理系统，实现了太阳能、风能、地热能等多种能源的高效协同利用。在这一体系中，AI扮演了至关重要的角色，特别是在多种能源的协调管理和优化调度方面。精准预测与智能调度利用AI技术对能源数据进行挖掘，智慧能源管理不仅能够精准预测能源供需趋势，还能制定出智能化的调度方案，确保能源的高效利用1211.4人工智能在智慧城市中的应用智能废料管理智能垃圾分类

利用人工智能和图像分析技术，智能垃圾分类系统能自动识别并分类垃圾，如波兰Bin-e公司的智能垃圾桶和美国AmpRobotics公司的图像分析系统，显著提高分拣效率。智能垃圾收集技术

结合AI与物联网技术的智能垃圾箱，通过实时监控和数据分析，优化垃圾收集和回收流程，提升废料处理的效率和可持续性。AI管理体系

采用AI技术建立的管理体系，如上海市普陀区的智能AI面板，集成多项功能，提升了垃圾分类的准确性，同时减少对居民生活的干扰。11.5人工智能在医疗健康中的应用医学影像智能诊断技术原理与应用医学影像智能诊断依托机器学习和深度学习算法，通过分析大量医学图像数据，识别复杂特征，辅助医生进行更精确的诊断，如眼底图像智能诊断系统DeepDR。准确性与优势医学影像智能诊断在特定领域如皮肤癌识别和乳腺癌筛查中，深度学习模型展现出比专家更高的准确性，显示了人工智能在提高诊断精度方面的潜力。面临的挑战尽管医学影像智能诊断取得了进展，但在临床应用前仍面临数据质量、标准化及隐私保护等挑战，需解决这些难题以实现其广泛应用。12311.5人工智能在医疗健康中的应用健康监测与远程医疗通过集成AI技术的智能健康监测系统，用户能够实时跟踪生命体征和健康参数，如心率、睡眠模式，实现对健康状况的全面掌握。利用机器学习和数据分析算法，智能穿戴设备收集的生理数据被深入分析，帮助个人及时发现健康风险，获取个性化的健康管理建议。智能健康监测系统在全球范围内，医疗资源的不均衡分配是一个普遍现象，特别是在乡村和偏远地区，居民面临看病难的问题。我国郑州大学第一附属医院的国家级远程医疗中心通过超高清编解码、语音人机交互、图像自动追踪等技术，让医生与患者之间、医生与医生之间能够实现“面对面”的交流，显著提升了工作协同性。远程医疗的突破11.5人工智能在医疗健康中的应用人工智能驱动的药物研发药物设计和发现

AI通过分析庞大的生物医学数据集，识别疾病相关靶点，并设计能干扰这些靶点的药物分子结构，极大提高药物设计的精准度和效率。化学合成与药物筛选

在化学合成阶段，AI预测分子的稳定性和反应性，指导合成路径设计；在药物筛选中，深度学习模型预测分子活性，加速识别潜在药物候选分子。多药理学研究与药物再利用AI技术评估药物对多个生物靶点的作用，理解药物副作用，改进药物设计。同时，AI分析已有药物数据，预测旧药物对新适应症的效用，促进药物再利用。12311.6人工智能在科学探索中的应用自动化实验与发现

蛋白质结构预测

通过深度学习技术，如AlphaFold程序，人工智能能够以前所未有的准确性预测蛋白质的三维结构，为生物医学研究提供关键支持。

新材料与化合物发现

借助人工智能技术，美国麻省理工和Deepmind公司等机构已成功发现具有卓越性能的新材料，并设计出大量新晶体，这些成果不仅拓宽了材料科学的研究范围，也为实际应用提供了丰富选择。

11.6人工智能在科学探索中的应用数据分析与表征学习海量数据收集与管理AI技术能够高效地收集、管理并分析庞大的数据集，挖掘出潜在的模式、规律和趋势，辅助科学家深入理解自然现象或复杂系统的行为模式。精确测量与数据去噪利用AI技术，显著提升测量分辨率和降低噪声，消除测量过程中的误差，确保不同地点测量结果的一致性，提高科学研究的准确性。数据细化AI技术可以大幅提升测量数据的分辨率和准确性。通过深度卷积网络等方法能够将低分辨率的时空测量数据转化为高清晰度、超分辨的图像。例如，AI模型PRIMO重建Messier87星系中心黑洞的高分辨率图像，揭示了更为细微的“事件视界”，这一成果对于依据图像测量中心黑洞的质量具有重大的科学意义。11.6人工智能在科学探索中的应用科学模拟与预测AI技术在科学预测和模拟中展现出强大潜力，研究者能够基于现有数据集训练科学模型，并进行未来趋势的预测或进行虚拟实验。瑞士洛桑联邦理工学院的研究团队运用强化学习技术，成功开发了一种用于控制核聚变反应中磁层的非线性反馈控制器。这种AI引导的实验方法标志着从传统的工程预设计状态控制向目标导向的AI优化控制的根本性转变，有效缩小了模拟与实际操作之间的差异。在理论物理领域，控制方程在物理系统研究中扮演着核心角色，它们能够构建模型以预测未知现象。美国华盛顿大学的研究团队开发了一种深度自编码器网络模型，该模型能够从高维数据中提取出可解释的低维动力学模型及其相应的坐标，形成了一种新的数据驱动模型发现范式。人工智能应用的风险随着科技的发展，AI工具在日常生活中的应用越来越广泛，从生活消费到工作生产，都离不开AI的辅助。当人们过度依赖AI工具时，可能会忽视自身的判断和思考，一旦AI工具出现问题或错误，可能会导致决策失误。我们需要理性看待AI工具，既要充分利用其带来的便利，也要警惕其可能带来的风险，失业和社会不平等：自动化和AI技术可能会取代人类劳动力，导致一些传统工作岗位的消失，特别是那些重复性高、机械化程度高的工作。这可能加剧社会中的贫富差距，增加技术进步带来的社会不平等。隐私和数据安全问题：大量的个人数据被AI系统用于分析和预测，可能会带来隐私泄露和数据安全问题。如果数据不受良好保护，可能导致个人信息被滥用或者被黑客攻击。伦理和道德问题：在某些情况下，AI系统的决策过程可能缺乏透明度和可解释性，这使得难以评估其伦理和道德的合理性。例如，在自动化招聘系统中可能存在歧视性，而在医疗诊断系统中可能存在误诊的风险。依赖性和控制问题：过度依赖AI系统可能使得人们失去对基本技能和知识的掌握，从而降低了个体的独立性和应对复杂问题的能力。此外，AI系统的算法和决策也可能会被少数人或组织所控制，从而影响社会的整体利益。本章小结人工智能应用技术的快速发展将对社会、经济以及个人生活的深远影响。在本章中，我们广泛了解了人工智能在各领域的应用现状，包含机器视觉、自主智能系统、智能制造、智慧能源、医疗健康和科学探索等重要领域。通过相关技术的发展简史和具体案例介绍，我们了解到人工智能目前在社会生活和科学研究中扮演怎样的角色，承担怎样的任务，具有哪些发展趋势和潜在风险。通过本章的学习，我们对人工智能的应用场景有了更加具象化的认识。谢谢大家第十二章人工智能伦理与安全12.1新一代人工智能伦理规范12.2

可信人工智能12.3人工智能可解释性12.4人工智能安全第十二章人工智能伦理与安全12.1新一代人工智能伦理规范第十二章人工智能伦理与安全12.1.1新一代人工智能伦理规范概况人工智能伦理的基本特征：第一，人工智能伦理属于工程伦理学范畴第二，人工智能伦理是对人工智能技术的道德规制12.1.2人工智能引发的伦理问题隐私问题人工智能伦理规范中涉及的隐私问题主要是指在人工智能应用场景中的信息隐私或数据隐私。规制人工智能伦理中隐私问题，要做到合乎伦理地使用人工智能，数据的收集、处理和共享以尊重个人的隐私权为前提。保护人工智能使用者的知情权，人工智能使用者有权了解自身数据使用情况、有权反对收集或处理相关数据，当相关数据正在被收集和处理时有被通知的权利。12.1.2人工智能引发的伦理问题道德认定问题在实践中表现为人工智能本身是否应具备内在的道德约束。

在具体的应用场景中，学界讨论最多的问题是自动驾驶汽车应用下“电车难题”和“隧道难题”，以及由此引发的无人驾驶汽车的伦理困境及影响。12.1.2人工智能引发的伦理问题算法偏见问题在人工智能做出决策时，尤其是在推荐用户做出某个决策时，可能会产生偏见与歧视问题，该决策可能对某个或某些特定的个人或群体产生不公正或不公平的对待。12.1.3人工智能伦理规范的核心原则第一，科技伦理原则第二，创新发展原则第三，公平公正原则第四，可问责性原则12.2

可信人工智能第十二章人工智能伦理与安全算法的不透明性引发自主决策权与用户知情权的关注算法在处理个人数据时存在侵犯隐私的风险算法在使用过程中存在歧视的风险算法的权力增强导致了人与技术之间对抗性上升12.2.1人工智能的不可信任的表现和成因12.2.2可信人工智能的安全类型技术安全算法模型的健壮性是技术安全的核心

数据保护是技术安全的关键环节

系统稳定性与可靠性是技术安全的重要保障

持续的安全监测与更新是技术安全的必要条件12.2.2可信人工智能的安全类型应用安全数据隐私保护

算法模型安全