深度学习实践教程（第二版）-课件 第3章PyTorch基础

深度学习第3章PyTorch基础Pytorch怎么操作这些图像？怎么操作这些海量数据？2第3章PyTorch基础3.1张量是什么3.2Tensor的创建3.3Tensor的调整形状操作3.4Tensor的加、减、乘、除、取绝对值操作3.5Tensor的比较操作33.6Tensor的数理统计操作3.7Tensor与Numpy的互相转换操作第3章PyTorch基础3.8Tensor的降维和增维操作3.9Tensor的裁剪操作3.10Tensor的索引操作3.11把Tensor移到GPU上去4课上练习第3章PyTorch基础3.1张量是什么

PyTorch处理的最基本操作对象就是张量，张量的英文是Tensor，表示的是一个多维的矩阵。5第3章PyTorch基础3.1张量是什么

6第3章PyTorch基础3.1张量是什么

7图3.3四阶张量、五阶张量第3章PyTorch基础3.1张量是什么

PyTorch处理的最基本操作对象就是张量，张量的英文是Tensor，表示的是一个多维的矩阵。零阶张量就是一个

，一阶张量就是

，二阶张量就是一般的

，多阶张量就相当于一个

。8矩阵多维的矩阵数组矢量数第3章PyTorch基础3.1张量是什么

张量的3个属性：1.阶（rank）：维数。2.形状（shape）：行和列的数目。3.类型（type）：元素的数据类型。9第3章PyTorch基础3.1张量是什么

10数据类型含义torch.FloatTensor32位浮点型（默认类型）torch.DoubleTensor64位浮点型torch.ShortTensor16位整型torch.IntTensor32位整型torch.LongTensor64位整型表3.1常用的张量数据类型第3章PyTorch基础3.2Tensor的创建1.创建给定元素值的Tensor【例3-1】比如要定义一个32位浮点型Tensor，其值是矩阵：[[1,2],[3,4],[5,6]]。输入：importtorcha=torch.FloatTensor([[1,2],[3,4],[5,6]])print(a)输出：tensor([[1.,2.],[3.,4.],[5.,6.]])11第3章PyTorch基础3.2Tensor的创建2.创建一个指定形状的Tensor对于张量，可以在定义时直接赋值，也可以先定义一个未赋值的空矩阵。比如：【例3-3】输入：importtorchastc=t.Tensor(3,2)print(c)输出：tensor([[7.5338e+28,6.1687e+16],[6.3369e-10,2.5038e-12],[4.0058e-11,4.1729e-08]])12第3章PyTorch基础3.2Tensor的创建3.创建一个和给定的Tensor形状一样的新Tensor【例3-4】输入：importtorchastd=t.Tensor(3,2)e=t.Tensor(d.size())print(e)输出：tensor([[0.0000e+00,0.0000e+00],[2.1019e-44,0.0000e+00],[7.3908e+22,1.4764e-41]])13第3章PyTorch基础3.3Tensor的调整形状操作创建一个二阶张量，长度为6，元素为[0,1,2,3,4,5]，将其改编成形状为2*3的张量。【例3-5】输入：importtorchasta=t.arange(0,6)print(a)b=a.view(2,3)print(b)输出：tensor([0,1,2,3,4,5])tensor([[0,1,2],[3,4,5]])14第3章PyTorch基础3.4Tensor的加、减、乘、除、取绝对值操作【例3-7】输入：importtorchasta=t.Tensor([[1,2],[3,4]])b=t.Tensor([[10,20],[30,40]])c=t.add(a,b)#加法d=t.sub(a,b)#减法e=t.mul(a,b)#乘法f=t.div(a,b)#除法g=t.pow(b,2)#幂操作h=t.abs(d)#求绝对值print("a=",a)print("b=",b)print("c=",c)print("d=",d)print("e=",e)print("f=",f)print("g=",g)print("h=",h)15第3章PyTorch基础3.4Tensor的加、减、乘、除、取绝对值操作【例3-7】输出：a=tensor([[1.,2.],[3.,4.]])b=tensor([[10.,20.],[30.,40.]])c=tensor([[11.,22.],[33.,44.]])d=tensor([[-9.,-18.],[-27.,-36.]])e=tensor([[10.,40.],[90.,160.]])f=tensor([[0.1000,0.1000],[0.1000,0.1000]])g=tensor([[100.,400.],[900.,1600.]])h=tensor([[9.,18.],[27.,36.]])16第3章PyTorch基础3.5Tensor的比较操作Tensor常用的比较函数有很多，比如torch.equal()、torch.eq()、torch.gt()、torch.lt()、torch.ge()、torch.le()、torch.ne()、torch.topk()、torch.sort()等等。1.torch.equal(tensor1,tensor2,out=None)说明：如果两个张量有相同的形状和元素值，则返回true，否则返回False。参数：tensor1(Tenosr)：用于比较的张量1tensor2(Tensor)：用于比较的张量2out(Tensor,可选的)：输出张量17第3章PyTorch基础3.5Tensor的比较操作Tensor常用的比较函数有很多，比如torch.equal()、torch.eq()、torch.gt()、torch.lt()、torch.ge()、torch.le()、torch.ne()、torch.topk()、torch.sort()等等【例3-8】输入：importtorchasta=t.Tensor([[1,2],[3,4]])b=t.Tensor([[1,2],[2,3]])result=t.equal(a,b)print(result)输出：False18第3章PyTorch基础3.6Tensor的数理统计操作Tensor中的求最小值、最大值、均值、累加、累积等的操作也很多，比如：torch.min()、torch.max()、torch.mean()等等。1.torch.max(input)说明：返回输入张量所有元素的最大值参数：input(Tensor)：输入张量19第3章PyTorch基础3.6Tensor的数理统计操作Tensor中的求最小值、最大值、均值、累加、累积等的操作也很多，比如：torch.min()、torch.max()、torch.mean()等等。【例3-10】输入：importtorchasta=t.Tensor([1,2,3])max=t.max(a)print("max=",max)输出：max=tensor(3.)20第3章PyTorch基础3.7Tensor与Numpy的互相转换操作NumPy(NumericalPython)是Python语言的一个扩展程序库，支持大量的维度数组与矩阵运算，此外也针对数组运算提供大量的数学函数库。它提供了一个多维数组（ndarray）数据类型，以及关于多维数组的操作，NumPy已经成为其他大数据和机器学习模块的基础。Tensor类似于Numpy的ndarray，但ndarray不支持GPU运算，而Tensor支持。Tensor与Numpy可以方便的互相转换。21第3章PyTorch基础3.7Tensor与Numpy的互相转换操作1.Tensor-->Numpy直接用.numpy()即可。要注意，转换后，numpy的变量和原来的Tensor会共用底层内存地址，所以如果原来的Tensor改变了，numpy变量也会随之改变。22第3章PyTorch基础3.7Tensor与Numpy的互相转换操作【例3-12】输入：importtorchasta=t.ones(3)b=a.numpy()print("a=",a)print("b=",b)输出：a=tensor([1.,1.,1.])b=[1.1.1.]23第3章PyTorch基础3.8Tensor的降维和增维操作Tensor关于维度的操作有很多，比如降维（torch.squeeze()）和增维（torch.unsqueeze()），张量拼接（torch.cat()）、张量扩大（torch.Tensor.expand()）、张量缩小（torch.Tensor.narrow()）等等。24第3章PyTorch基础3.9Tensor的裁剪操作clamp(x,min,max)对Tensor中的元素进行范围过滤，不符合条件的可以把它变换到范围内部（边界）上，常用于梯度裁剪（gradientclipping），即在发生梯度离散或者梯度爆炸时对梯度的处理。x是一个Tensor，min、max是两个标量，如果x<min，返回min；如果min<x<max，返回x；如果x>max，返回max。25第3章PyTorch基础3.10Tensor的索引操作Tensor支持与numpy.ndarray类似的索引操作，下面通过一些例子讲解常用的索引操作。如无特殊说明，索引出来的结果与原Tensor共享内存，即修改一个，另一个也会跟着改。26第3章PyTorch基础3.11把Tensor移到GPU上去PyTorch提供了一个名为cuda()的简单函数，将张量从CPU复制到GPU上。27课程为什么可以不受限于GPU28GPU是什么GPU和CPU的区别课程不受限于GPU29GPU是什么GPU和CPU的区别课程不受限于GPU课程为什么可以不受限于GPU30GPU是什么GPU和CPU的区别课程不受限于GPU程序在GPU和CPU下运行的比较1.课程为什么可以不受限于GPU32GPU是什么GPU和CPU的区别课程不受限于GPU本书部分程序在CPU下运行的时间.课程为什么可以不受限于GPU程序运行视频：33GPU是什么GPU和CPU的区别课程不受限于GPU本书部分程序在CPU下运行的时间.（下一页）课程为什么可以不受限于GPU34本书部分程序在CPU下运行的时间.课程为什么可以不受限于GPU课堂练习（1）PyTorch的默认数据类型是：

。答案：torch.FloatTensor课堂练习（2）张量的阶就是张量的

、张量的形状就是张量的

、张量的类型是

。答案：维数、行和列的数目、元素的数据类型课堂练习（3）用

查看Tensor的数据类型，用

查看元素个数

。答案：dtypenumel()课堂练习（4）用

函数或

可以查看Tensor的尺寸。答案：size()shape课堂练习