人工智能-通识到应用课件 项目3：AI动力-大算力

AI动力——大算力CONTENTS目录01

项目概述02

超级计算机03

AI芯片大算力04

云计算05

大算力技术06

07

总结与展望项目实践01项目概述项目背景与目标大数据与大算力的驱动作用在人工智能发展中，大数据提供丰富信息资源，大算力确保数据被高效处理和分析，二者是推动人工智能前进的两大驱动力。知识目标理解大算力在人工智能中的作用和重要性，掌握超级计算机、AI芯片、云计算等大算力技术的基本原理和应用，了解大算力技术的最新发展趋势和未来方向。技能目标能够使用基本的大算力工具进行数据处理和分析，评估不同大算力技术的适用性和性能，具备初步的大算力系统设计和优化能力。素质目标培养对大数据和大算力重要性的认识，增强解决复杂问题的能力，提升逻辑思维和问题解决能力，激发对科技创新的兴趣和热情，增强创新意识和团队合作精神。知识导图与课前学习知识导图概述涵盖超级计算机、AI芯片大算力、云计算以及大算力技术等方面，展示了本项目的知识体系。超级计算机学习要点需理解超级计算机的基本概念及其发展、系统架构，了解其在科学研究等领域的应用实例与发展趋势。AI芯片大算力学习要点要理解AI芯片的定义、类型及其在AI中的作用，分析其设计原理、制造工艺和性能指标，了解大算力加速技术与应用领域。云计算学习要点需理解云计算和服务模型（IaaS,PaaS,SaaS）、云计算的优势与主要特点，了解云资源管理与调度的基本概念。大算力技术学习要点要了解高性能计算技术、并行与分布式计算、弹性计算与资源优化的基本概念与主要特点。02超级计算机超级计算机概述基本概念超级计算机是能执行一般个人计算机无法处理的大量资料与高速运算的计算机，是超大型电子计算机。与个人计算机差异基本组成组件和个人计算机无太大差异，但在规格与性能上远超个人计算机。特点具有强大的计算和处理数据的能力，运算速度大都可达每秒TFLOPS（万亿）次以上，特点为高速度和大容量。发展历程超级计算机不断发展，运算能力持续提升，以满足各领域日益增长的计算需求。中国发展情况1983年中国研制出第一台超级计算机银河一号；2016年，神威·太湖之光成为世界第一，运行速度为93014.6TFlops。系统架构

硬件架构-节点由多个节点组成，每个节点含多个处理器（CPU和GPU），通过高速网络连接，负责执行计算任务。

硬件架构-高速互联网络使用高带宽、低延迟的网络技术，如Infiniband，网络拓扑结构多样，以优化通信效率。

硬件架构-存储系统分为主存储（内存）和长期存储（硬盘、SSD等），配备高性能并行文件系统和大规模存储设备。

硬件架构-加速器可能集成特定应用的加速器，如“前沿”超级计算机搭载AMD的InstinctMI250XGPU。系统架构

软件层面-操作系统通常运行定制化的Linux操作系统，如RedHatEnterpriseLinux等。

软件层面-并行编程模型支持多种并行编程模型和接口，如MPI、OpenMP、CUDA等。

软件层面-作业调度系统配备高级作业调度系统，如Slurm、PBS/Torque、LSF等。性能评估计算能力以每秒浮点计算次数（FLOPs）衡量，现有的超级计算机运算速度大都可达到每秒TFLOPS（万亿）次以上。存储能力包括内存和硬盘容量，用于存储数据和程序。网络带宽指超级计算机系统内部各个节点之间传输数据的能力。I/O性能指超级计算机进行输入输出操作的能力，包括读取和写入数据到磁盘的速度。性能监测工具如Ganglia、Nagios、Perfmon等，可实时监测性能指标并提供报告和图表。测试方法通过性能测试评估超级计算机在不同负载下的性能表现，针对性地进行优化和改进。应用案例与发展趋势

应用案例-科学研究利用超级计算机模拟希格斯玻色子的粒子对撞过程，推断能量粒子的特性。

应用案例-能源和环境德国斯图加特大学使用超级计算机模拟地下水和地层流动，优化天然气储层的开发和注入过程。

应用案例-医学研究美国纽约市的MemorialSloanKettering癌症研究中心用超级计算机进行肿瘤基因组学研究，制定治疗方案。

应用案例-金融和经济美国华尔街的投资公司使用超级计算机进行高频交易，捕捉市场变动。

发展趋势中国超级计算机不断突破速度极限，创造更多应用场景，未来将继续发挥算力底座作用。

对国家科技发展的作用成为服务国家重大科技创新领域、实现高水平科技自立自强的重要支撑，推动国产自主信息技术创新链、产业链融合发展。03AI芯片大算力AI芯片类型与特点图形处理器（GPU）

GPU是通用型芯片，有数百或数千个内核，可并行运行大量计算。在游戏3D渲染、分析、深度学习和机器学习算法方面表现出色，比传统CPU快10-100倍，如Nvidia-Teslav100。但价格和功耗高，推理端并行运算能力无法完全发挥。专用集成电路（ASIC）

ASIC是专用型芯片，针对特定算法优化，高性能、低功耗。常见的有NPU、DLP和谷歌TPU等。执行任务效率比CPU高，但硬件编程语言难掌握，单个单元计算能力弱，硬件成本高。现场可编程门阵列（FPGA）

FPGA是半定制化芯片，硬件含可配置逻辑块和可编程互联，出厂部署后可更新功能。凭借灵活性和并行计算能力受青睐，但开发速度慢，软件生态不健全，初始设计投入大，通用性受限。芯片设计与制造流程

芯片设计阶段首先进行需求分析和产品规格定义，明确设计方向。接着开展系统级设计，确定芯片架构等。之后进行具体电路设计，用硬件描述语言描述电路，通过仿真验证代码，将RTL级代码转成门级网表，最后进行布局绕线和版图验证，生成GDS版图。

芯片制造阶段先从沙子中提取硅单质，制成单晶硅棒，再切割成硅晶圆片。前段生产进行晶体管制造，包括光刻等工艺；后段生产制作晶体管间电连线。最后切割晶圆得到芯片，嵌入封装并进行功能和性能测试。大算力加速技术与应用概念和原理大算力加速技术指用专用硬件（如GPU、ASIC、TPU和FPGA）执行计算，比仅用通用CPU效率高，利用专用硬件强大功能加速计算过程。主要应用领域广泛应用于高性能计算、深度学习、机器学习、人工智能和大数据分析等领域，能满足处理大量数据和复杂计算的需求。具体应用案例在智能驾驶中，AI芯片处理车辆周围环境数据实现自动驾驶；人脸识别方面，用于安防、金融等领域快速识别人脸；语音识别中，为智能助手等设备提供支持；自然语言处理里，为智能客服、机器翻译等应用服务。04云计算云计算基本概念与架构云计算的基本概念云计算是基于互联网的计算方式，提供动态、可扩展、虚拟化的资源和服务。资源和服务涵盖服务器、存储、数据库等。NIST和ISO/IEC都对其有明确的定义，强调基于网络访问、资源池化等特征。云计算的资源共享特点“云”是一个资源共享池，使用者可随时获取“云”上资源，按需求量和使用量付费。云计算把许多计算资源集合起来，通过软件自动化管理，快速提供算力，且价格低廉。云计算架构的组成部分云计算架构由云服务提供商、客户/消费者、云服务合作伙伴/云代理、运营商和审计人员组成。其资源管理架构包括物理资源层、虚拟化层、资源调度层和应用层等，各层次协作实现资源统一管理和优化分配。云平台服务模型

基础设施即服务（IaaS）定义：提供虚拟机、存储、网络等基础计算资源，用户按需租用。应用场景：测试与开发环境、灾难恢复、高性能计算等。特点：用户通过互联网获取基础资源。

平台即服务（PaaS）定义：提供开发、运行和管理应用程序的平台，含操作系统、数据库等。应用场景：Web应用开发、移动应用开发、数据分析等。特点：简化开发流程，提高开发效率。

软件即服务（SaaS）定义：提供软件应用服务，用户通过互联网直接使用。应用场景：企业管理软件、办公软件、电子商务等。特点：用户无须管理底层基础设施和软件，只需关注业务功能。云计算的优势与特点

虚拟化技术虚拟化是云计算显著特点，包括应用虚拟和资源虚拟，突破了时间、空间的界限。

动态可扩展云计算能在原有服务器基础上增加功能，迅速提高计算速度，实现动态扩展虚拟化层次，扩展应用。

按需部署不同应用对应不同数据资源库，云计算平台可根据用户需求快速配备计算能力及资源。

灵活性高云计算兼容性强，能兼容低配置机器和不同厂商硬件产品，还可获得更高性能计算。云计算的优势与特点

可靠性高单点服务器故障时，可通过虚拟化技术恢复应用或部署新服务器，不影响计算与应用正常运行。

性价比高将资源统一管理优化了物理资源，用户可用廉价PC组成云，费用减少且计算性能不逊于大型主机。

可扩展性用户利用应用软件可快速部署，扩展自身已有业务和新业务。云资源管理与调度01云资源管理的概念云资源管理是通过虚拟化、调度等手段，对计算、存储和网络等资源进行统一管理和优化分配的过程。02云资源管理的关键技术包括虚拟化技术、资源调度技术、负载均衡技术和容错技术等，广泛应用于互联网、金融等多个领域，为应用提供稳定、高效、安全的计算资源。03云计算环境下资源调度的目标提高资源利用率、减少任务执行时间、保证服务质量。04云计算环境下资源调度的特点具有动态性、可扩展性、多租户性等特点。05云计算环境下资源调度的算法包括静态调度算法（如FIFO、SJF）、动态调度算法、启发式调度算法等，新兴算法如基于深度强化学习和在线学习的实时调度算法也在不断发展应用。05大算力技术高性能计算技术

01概念与核心高性能计算（HPC）是利用超级计算机实现并行计算的理论、方法、技术及应用的技术科学，核心是利用并行处理单元和并行体系架构实现高性能并行计算。

02主要目标与应用领域主要目标是提供强大计算和高效数据处理能力，应对各领域增长的计算需求。常用于处理大规模、计算密集型任务，如复杂模拟、建模、仿真、优化和数据分析等。

03系统特点-高度并行化高性能计算系统能同时执行多个计算任务，利用并行处理提高速度和效率，包括多处理器、多计算节点、多核处理器和加速器（如GPU）等支持并行计算。

04系统特点-大规模存储器需处理大规模数据集，具备大容量和高带宽存储系统，以存储和访问海量数据。

05系统特点-高速互联网络计算节点通过高速互联网络通信和交换数据，实现节点间数据共享、协作和任务调度。高性能计算技术

系统特点-高性能软件和编程模型使用高效算法和优化技术发挥硬件计算能力，并行编程模型如MPI和OpenMP等广泛用于应用开发和优化。并行与分布式计算并行计算概念并行计算可同时执行多个计算任务以更快完成工作，分为时间并行和空间并行，空间并行用多个处理器并发计算，降低解决复杂问题的时间。并行计算分类与编程模型常见并行编程模型有共享内存模型、消息传递模型、数据并行模型和任务并行模型，在科学计算、数据分析、机器学习等领域广泛应用。分布式计算概念将计算任务分布到多台计算机或节点上并行计算，把数据分散成多部分，由分散计算机组同时计算后合并结果。分布式计算核心思想与应用场景核心思想是共享稀有资源和平衡负载，一般用于解决任务量大的计算问题，与并行计算不同，它是将任务分发到多个计算机或节点上。并行与分布式计算区别并行计算在同一台计算机上同时处理多个任务，分布式计算将任务分发到多个计算机或节点上。弹性计算与资源优化

弹性计算概念弹性计算指云计算系统能根据工作负载需求变化，自动、动态调整计算资源分配和使用，满足不同应用和服务需求。

弹性计算优势能根据实际需求动态调整资源，提高利用率，通过自动化实现资源自动伸缩和优化，提高系统可用性，提供全方位弹性和扩展能力，增强云计算平台和服务提供商的灵活性和竞争力。

资源优化目的在满足应用需求前提下，最大限度减少资源浪费，降低运营成本。

资源优化方法-预测计算需求通过人工智能技术预测未来计算需求，据此动态调整计算资源分配。

资源优化方法-实时监控与智能调度实时监控系统状态和性能指标，对任务进行智能调度，实现负载均衡。

资源优化效果可提高计算资源利用率，降低总体拥有成本（TCO），提升系统性能和可靠性。06项目实践探秘超级计算机任务描述

任务目的深入了解超级计算机的工作原理、硬件配置及在科研领域的应用。

任务意义探索超级计算机在提供大算力支持方面的独特优势，助力解决复杂科学问题。任务分析

传统计算机的局限性在处理大规模数据和高复杂度计算任务时，传统计算机显得力不从心。

超级计算机的重要作用-天气预报超级计算机能处理大量气象数据，提高天气预报的准确性和及时性。