人工智能与未来 课件 5.3 通算力

Computility第5章

算力2035王红梅5.15.25.35.4算力那些事算力概述通用算力超算算力目录CONTENTS5.55.6智算算力拓展：算力网络5.3.1通用算力的概念5.3.2通用算力如何产生5.3.3通用算力的发展5.3.4云计算

二战爆发后，军事需求大大刺激了算力的发展。人类在1946年发明了电子计算机。计算机的演变过程中，微型化、便携性的各种技术诞生了个人电脑，它包括台式计算机、笔记本电脑、平板电脑、智能手机等。5.3.1通用算力的概念

通用算力，主要指台式机、笔记本、平板电脑、智能手机等主要靠CPU输出算力的设备展现的算力。5.3.1通用算力的概念为什么CPU输出的算力称为通用算力呢？这是因为CPU的设计目标是通用性，即能够处理各种不同类型的任务，而不是专门针对某一种特定任务，更像一个全才。早期的人工智能应用也依靠CPU提供算力服务。5.3.1通用算力的概念还是要归结到两个问题：冯·诺依曼架构有哪几部分组成，各个部分如何协调工作？影响其性能的运算（算力）是如何产生的？讨论：面对以下问题，你如何解决？依据或理由是什么？（1）要购买一台电脑，在预算固定的情况下，在购买大硬盘，大内存和高性能CPU之间如何权衡？（2）如果是台旧电脑，打游戏比较慢，想提升性能，如何选择更新配件？

既然今天广泛使用的数字电子计算机都是从冯·诺依曼架构发展而来的，所以探讨算力产生，还是需要从冯·诺依曼架构开始。

5.3.2通用算力如何产生？通用算力如何产生？1.计算机求解问题的过程2.计算机指令3.计算机程序计算机的计算过程与我们到饭店就餐过程相似，5.3.2通用算力如何产生？1.计算机求解问题的过程冯·诺依曼架构由控制器、运算器、存储器、输入设备和输出设备构成。5.3.2通用算力如何产生？1.计算机求解问题的过程运算器

控制器输出设备输入设备存储器读程序读数据写数据图中实线表示数据流，虚线表示命令流冯·诺依曼架构由控制器、运算器、存储器、输入设备和输出设备构成。5.3.2通用算力如何产生？1.计算机求解问题的过程运算器

控制器输出设备输入设备存储器待解问题算法+数据读程序读数据写数据计算机求解实际问题时，首先需要对问题进行分析，可以得到算法和数据；进一步表示为程序，然后通过输入设备输入计算机，计算机自动执行程序进行问题求解；最后输出结果。图中实线表示数据流，虚线表示命令流程序冯·诺依曼架构由控制器、运算器、存储器、输入设备和输出设备构成。5.3.2通用算力如何产生？1.计算机求解问题的过程（1）输入设备的功能是把程序变成二进制数存入存储器，如图中①。（2）计算机执行程序时，先由控制器从存储器读取程序，如图中②。图中实线表示数据流，虚线表示命令流控制器输入设备存储器待解问题算法+数据读程序①②程序冯·诺依曼架构由控制器、运算器、存储器、输入设备和输出设备构成。5.3.2通用算力如何产生？1.计算机求解问题的过程（3）然后根据程序的要求向功能部件（比如运算器）发命令，如图中③。（4）运算器得到命令后从存储器读取数据，如图中④，并进行运算，如图中⑤。图中实线表示数据流，虚线表示命令流控制器输入设备存储器待解问题算法+数据读程序①②运算器

③读数据④

⑤程序冯·诺依曼架构由控制器、运算器、存储器、输入设备和输出设备构成。5.3.2通用算力如何产生？1.计算机求解问题的过程（5）运算器的计算结果一般还要写入存储器，如图中⑥，（6）如需输出，控制器会命令存储器把数据交给输出设备，如图中⑦。图中实线表示数据流，虚线表示命令流运算器

控制器输入设备存储器待解问题算法+数据读程序读数据写数据①②③④

⑥输出设备⑦⑤程序举例编写文档并进行打印控制器运算器我们日常说的CPU（中央处理器）包含控制器和运算器。CPU5.3.2通用算力如何产生？1.计算机求解问题的过程控制器运算器实际上中央处理器，除控制器和运算器外，为提升效率，还有小容量的寄存器，寄存器CPU通用寄存器程序计数器指令寄存器存储要运算的数据存储CPU需执行的下一条指令在内存中的地址存储当前正在执行的指令相当于提前排队不是有存储器吗？为啥还在这里要用寄存器存数据和指令？5.3.2通用算力如何产生？1.计算机求解问题的过程内部存储器存储器外部存储器内部存储器也就是内存，常用来存储从外存中读取的数据和程序。外部存储器也就是外存，常用来存储永久性的数据。在讨论算力和结构的时候，存储器一般指内存我这更懵了，外存，内存和寄存器，怎么这么多用来存储的，难道是不差钱！5.3.2通用算力如何产生？1.计算机求解问题的过程哈哈哈！错错错，恰恰是差钱！我这更懵了，外存，内存和寄存器，怎么这么多用来存储的，难道是不差钱！外存内存寄存器CPU速度越来越快价格越来越高5.3.2通用算力如何产生？1.计算机求解问题的过程讲个商城柜台卖品、储物间和仓库的故事高档商场，费用很高展示在柜台的是正在出售的商品。商店的储物间费用就低一点，存储的是下一个要出售的商品。仓库很大，距离远，价格低，但没有关系，存放的是大量库存。寄存器内存外存5.3.2通用算力如何产生？1.计算机求解问题的过程结合前面的知识，大家是不是就知道了，当预算一定，想购买一台电脑时，需要在CPU，内存和外存等之间权衡。5.3.2通用算力如何产生？1.计算机求解问题的过程讨论，游戏加载一般都需要时间，对吗？问问大家，游戏加载的是什么？

实际上游戏的加载是把存储在外存（硬盘）的上的数据，传输到内存中的。比如场景、人物模型、皮肤纹理等。为什么要加载，不加载直接在硬盘上读不可以吗？内存（16GB)，读写速度是17纳秒硬盘(2TGB)，读写速度是50微秒1微秒=1000纳秒相差3000倍约会时等10分钟20.83天寄存器的速度更快，是内存速度的100倍‌。

此时你是否明白，对于游戏有点卡的旧电脑，是不是可以采用直接升级内存容量的办法快速提升性能。5.3.2通用算力如何产生？1.计算机求解问题的过程5.3.2通用算力如何产生？2.计算机指令

讨论了计算机问题求解过程，可控制器得到程序以后是怎么知道程序的功能的呢？这就要理解计算机指令了。

计算机指令就是能指挥计算机完成一定动作的命令，分为操作码和地址码两部分。操作码

地址码指定指令的功能，如加法、乘法等指定被操作的数据的地址5.3.2通用算力如何产生？2.计算机指令

操作码

地址码指定指令的功能，如加法、乘法等指定被操作的数据的地址如在餐厅上餐中有：“给01号桌上盘红烧肉”，其实这也是一个指令：其中“上盘红烧肉”相当于操作码；“01桌”相当于地址码。5.3.2通用算力如何产生？2.计算机指令

我们日常使用的计算机之所以能完成多种功能，是因为我们的计算机中有很多的指令。

一种计算机中所包含的全部计算机指令称为计算机指令系统。

每台计算机都有自己的指令系统，由CPU生产厂家在制作CPU时植入CPU的控制器中。5.3.2通用算力如何产生？3.计算机程序

计算机程序与计算机指令有非常紧密的关系。程序是对指令的调用，也就是说，我们在编写一个在某计算机上运行的程序时，我们对这台计算机的指令系统是熟悉的，根据解决问题的需要从指令系统中挑选出功能符合的指令进行排列组合就得到解决问题的程序。系统

指令Windows系统printmacOS系统lpLinux系统lp或lpr打印

5.3.2通用算力如何产生？3.计算机程序

假如程序和数据已经存入存储器中，下面我们分析一下程序是如何自动执行？因为程序和数据都是二进制数，为区分，存储器被分成了程序区和数据区，程序区保存程序，数据区保存数据。指令1指令2指令3...程序区数据1...数据区控制器

存储器命令产生部件译码器指令系统程序计数器运算器⑤5.3.2通用算力如何产生？3.计算机程序

假如程序和数据已经存入存储器中，下面我们分析一下程序是如何自动执行（1）取指令CPU中的程序计数器中保存着程序入口地址，如图中①所示。指令1指令2指令3...程序区数据1...数据区控制器

存储器命令产生部件译码器指令系统程序计数器运算器⑤①②通过该入口地址找到存储器中第一条指令，就是指令1，并进行读取，如图中②所示。5.3.2通用算力如何产生？3.计算机程序

假如程序和数据已经存入存储器中，下面我们分析一下程序是如何自动执行（2）译码译码就是分析指令结构，理解指令的含义。并把理解结果送给命令产生部件如图中③所示。指令1指令2指令3...程序区数据1...数据区控制器

存储器命令产生部件译码器指令系统程序计数器运算器①②③④命令发生器向有关功能部件（比如运算器）发出操作命令如图中④所示。5.3.2通用算力如何产生？3.计算机程序

假如程序和数据已经存入存储器中，下面我们分析一下程序是如何自动执行（3）执行功能部件得到操作命令后就开始一系列动作，这就是执行指令。如果是运算指令就由运算器进行相关运算，如图中⑤所示。如果是打印输出指令，则由打印机打印出来。指令1指令2指令3...程序区数据1...数据区控制器

存储器命令产生部件译码器指令系统程序计数器运算器⑤①②③④5.3.2通用算力如何产生？3.计算机程序

假如程序和数据已经存入存储器中，下面我们分析一下程序是如何自动执行当这条指令执行结束后，计算机的一次运算完成，我们说的算力单位的一次运算就是指这么一个完整的过程。指令1指令2指令3...程序区数据1...数据区控制器

存储器命令产生部件译码器指令系统程序计数器运算器⑤①②③④取指令-》分析指令-》运行指令5.3.2通用算力如何产生？3.计算机程序

当然，这条指令执行结束后，程序计数器会自动加1，得到下一条指令地址。然后重复取读取、分析指令、运行指令的过程，直到程序中的所有指令被执行完毕。5.3.2通用算力如何产生？3.计算机程序

计算机的所有工作都是在执行程序。计算机执行程序的核心就是执行指令。

所以计算机算力强弱直接由执行指令的快慢决定。因此，人们常用单位时间内执行指令的条数作为算力大小的度量单位，如算力单位OPS和FLOPS。5.3.3通用算力的发展自有CPU芯片以来，沿着摩尔定律预示的规律发展，集成度不断翻倍、主频不断提升、晶体管数量快速增加。但制作CPU芯片赖以生存的半导体加工技术也似乎到达了极限。计算机科学家又发明了并行处理技术来加速CPU的算力。输入设备输出出备控制器运算器存储器CPU输入设备输出出备控制器运算器指令CPU数据冯·诺依曼结构哈弗结构5.3.3通用算力的发展1.并行架构哈弗架构指令存储器和数据存储器是物理上分开的，使用不同的总线进行数据传输。输入设备输出出备控制器运算器指令CPU数据哈弗结构哈佛架构的指令存储器和数据存储器分开，有各自“独立的”指令总线和数据总线，可独立编址和访问。可提升性能。尽管哈佛架构在性能上具有优势，‌特别是在对执行速度和并行处理能力要求高的应用中表现出色，‌但其复杂性和成本较高，‌使得它在通用计算系统中的应用相对有限。5.3.3通用算力的发展1.并行架构在冯·诺依曼架构中程序存储在内存中，程序指令按照顺序串行一条条的执行。如果可以同时执行多条指令，让指令并行计算，那么将极大的提升CPU的性能。按照这种思路，‌通过在单个芯片上集成多个CPU核心，‌使得处理器能够同时处理多个任务，‌从而提高整体性能。5.3.3通用算力的发展2.多核处理器除了双核处理器，后面还产生了4核、8核等多核处理器。5.3.3通用算力的发展2.多核处理器并行传输方式

串行传输方式到底选并行，还是选串行呢？有没有其它更好的方式可选择呢？

随着互联网的蓬勃发展，催生了很多的互联网公司。这些公司购买了大量的服务器，建设了机房，为用户提供服务。例如邮箱服务、音视频下载服务、网页访问服务等。所有这些服务，其实也就是算力服务。

服务器通过互联网为网民提供各种算力服务，那么到底什么是服务器呢？5.3.4云计算服务器与个人计算机的主要区别在于，个人计算机一般供一个人使用，而服务器对外提供服务，可以很多人一起使用，而且能够并行处理多人请求，再者，服务器会安装很多个CPU，甚至是集群性质的。它每天24小时工作，全年无休。5.3.4云计算5.3.4云计算

另一方面，一台计算机的算力是有限的，在互联网技术的基础上采用分布式计算，可以把零散的算力资源汇聚、打包，从而实现为一个更高性能更低成本的算力。云计算就属于这种情况。你可以想象我们的食堂与个人做饭问题5.3.4云计算Cloudservices用户用户用户用户用户可以多种形式享受云服务云属性：算力形态不定算力地点不定算力来源不知云计算之所以得到广泛应用，主要原因是它可以提供廉价算力。为什么云计算可以提供廉价算力？归纳起来有以下几个原因：（1）云计算规模效应降低了存储、网络和管理成本。（2）云计算远程服务的特征可以把服务器集群部署进行优化，从而降低成本。（3）云计算的高伸缩性，能够平衡资源使用高峰和谷底，能够极大提高资源利用率。5.3.4云计算你可以想象我们的食堂与个人做饭问题云计算如今的的服务模式主要包括以下三种提供基础的计算资源，如服务器、存储和网络。用户可以像管理自己的物理资源一