工业互联网技术与应用 课件 项目9 AI部署与云平台搭建

项目9AI部署与云平台搭建【学习目标】了解TensorFlow、TensorFlowServing掌握TensorFlow的安装方法掌握TensorFlow的基本使用方法掌握TensorFlowServing的安装方法掌握实验环境的云平台搭建方法掌握实验环境的AI部署方法了解综合布线系统的实施方案了解层次化网络拓扑设计【岗位能力素养】具备工业云平台搭建的综合能力具备AI部署的综合能力项目9AI部署与云平台搭建线9.1TensorFlow的安装9.2编写TensorFlow程序9.3TensorFlow

Serving安装项目实施1—AI部署项目实施2—工业云平台搭建

9.1TensorFlow的安装【任务引入】

做为一名网络管理员，只有非常熟悉综合布线的知识和典型案例，才能在工作中提高网络维护的效率。【任务分析】

在信息社会，计算机网络线路是重要的组成部分。了解综合布线及子系统，明确各项标准，才可以掌握网络布线和施工要求。

9.1.1人工智能的应用实例目前，人工智能已经广泛的应用到工业上，如在设计仿真中的应用、在生产排产中的应用、在生产工艺优化中的应用、在个性化生产中的应用、在生产质量监控中的应用、预防维护中的应用和供应链及销售环节，甚至在客服领域人工智能也能发挥不小的作用。如台湾中钢公司，他们采用人工智能技术分析轧钢过程中的缺陷。为了更好的将27吨的钢坯，轧到0.5毫米的成品，预测和分析过程中的缺陷，他们收集了过去一年7000多批次的产品数据。经过数据清洗，筛选出了可能影响产品质量的特征数据，并且转换成了可供机器学习使用的数据。这些数据中，80%拿来做学习，20%拿来做检验。然后他们设计了4种数学模型，来看哪种模型更符合实际情况。最后他们根据模型分析一条产品线产生的2000多个数据，发现炉内压力对缺陷影响最大。最终中钢公司在人力资源和钢坯质量方面，都得到了很好的改进，成本大幅降低。9.1TensorFlow的安装印度塔塔钢铁公司也是个大型的钢铁企业，他们利用人工智能发现汽车用带钢的表面缺陷。PCB板的生产过程现在很成熟，线条非常密集，依靠员工的检测，很难知道不该连的线是不是连了，该连的线是不是没连上。清华跟英业达合作，利用包含人工智能的机器视觉，发现人工无法检测的PCB板故障，每年增加上亿元的效益。华星光电通过机器学习与快速训练，对LED面板进行检验。识别出哪些是合格的LED，节省了60%人力。可见人工智能AI与工业互联网IIoT、大数据分析、云计算和信息物理系统的集成将使工业以灵活、高效和节能的方式运作。想做到人工智能的融合落地，首先要收集数据，我们之前采用的摄像头就是一种图像采集设备。在我们的工业互联网实训教学平台上，我们首先通过摄像头采集开心果的图片，在通过人智能技术对开心果的质量进行分析，找出原料中不合格的产品，然后我们将识别的结果反馈给机器，机器对不合格的产品进行分拣剔除，最终我们就得到了完全合格的产品。这是完全模拟了人工智能在质量控制领域的应用。9.1TensorFlow的安装9.1.2认识TensorFlowTensorFlow™是一个基于数据流编程（dataflowprogramming）的符号数学系统，被广泛应用于各类机器学习（machinelearning）算法的编程实现，其前身是谷歌的神经网络算法库DistBelief。Tensorflow拥有多层级结构，可部署于各类服务器、PC终端和网页并支持GPU和TPU高性能数值计算，被广泛应用于谷歌内部的产品开发和各领域的科学研究。TensorFlow由谷歌人工智能团队谷歌大脑（GoogleBrain）开发和维护，拥有包括TensorFlowHub、TensorFlowLite、TensorFlowResearchCloud在内的多个项目以及各类应用程序接口（ApplicationProgrammingInterface,API）。自2015年11月9日起，TensorFlow依据阿帕奇授权协议（Apache2.0opensourcelicense）开放源代码。TensorFlow支持多种客户端语言下的安装和运行。截至版本1.12.0，绑定完成并支持版本兼容运行的语言为C和Python，其它（试验性）绑定完成的语言为JavaScript、C++、Java、Go和Swift，依然处于开发阶段的包括C#、Haskell、Julia、Ruby、Rust和Scala。9.1TensorFlow的安装9.1.2TensorFlow的下载与安装

（1）二进制版本的安装二进制版本是事先编译好的版本，相比源码版二进制版本有着安装简单、迅速等优点，使用PIP（Python包管理工具），用户可以快速的安装TensorFlow并解决安装过程中的软件依赖问题。1）PIP命令介绍PIP命令格式：pip<command>[options]常见的命令有：$pipinstallrequests此命令安装名称为“requests”的Python软件包。$pipsearchxml此命令将在软件包仓库搜索名称中包含“xml”的软件包。$pipshowbeautifulsoup4

此命令将显示软件包“beautifulsoup4”的详细信息。$pipuninstallrequests此命令将卸载名称为“requests”的Python软件包。9.1TensorFlow的安装

pip常用命令表命令功能install安装包安装download下载下载包uninstall卸载卸载包freeze冻结按需求格式安装的包的输出list列表列出已安装的包show显示已安装软件包的信息check检查已安装的软件包是否具有兼容的依赖项config配置管理本地和全局配置search搜索PyPI查找包wheel根据您的需求构建轮子hash包存档的哈希计算哈希completion用于命令完成的辅助命令debug显示对调试有用的信息help帮助显示命令的帮助9.1TensorFlow的安装2）使用PIP安装TensorFlow目前TensorFlow提供两个版本供用户选择，使用CPU计算的版本和使用GPU技术的版本。复杂的人工智能算法训练与计算经常涉及上亿的参数，这些参数的计算需要大量的计算能力，目前在深度学习领域，GPU计算已经成为主流，主流的GPU具有强大的计算能力和内存带宽，如图所示，无论性能还是内存带宽，均远大于同代的CPU。同时，GPU的thousandsofcores的并行计算能力也是一大优势。理解GPU和CPU之间区别的一种简单方式是比较它们如何处理任务。CPU由专为顺序串行处理而优化的几个核心组成，而GPU则拥有一个由数以千计的更小、更高效的核心（专为同时处理多重任务而设计）组成的大规模并行计算架构。同时CPU相当的一部分时间在执行外设的中断、进程的切换等任务，而GPU有更多的时间并行计算。9.1TensorFlow的安装如果你的服务器没有专门用于计算的GPU，你需要使用下面的命令安装CPU版本。$pipinstall/tensorflow/linux/cpu/tensorflow-0.5.0-cp27-none-linux_x86_64.whl如果你的服务器安装有GPU运算卡，并且已经安装了NVIDIA（英伟达）公司的CUDA（ComputeUnifiedDeviceArchitecture）SDK运算平台，你可以使用下面的命令安装开启GPU支持的版本。$pipinstall/tensorflow/linux/gpu/tensorflow-0.5.0-cp27-none-linux_x86_64.whl9.1TensorFlow的安装（2）基于Docker的安装使用Docker技术，用户无需关心软件的依赖问题，TensorFlow提供Docker的安装方式，关于Docker的基础知识，请参考本书项目八的内容。如果用户决定使用Docker方式安装，需首先安装Docker，一旦Docker已经启动运行,仅需一个命令启动容器即可。$dockerrun-ittensorflow/tensorflow该命令将从Docker的官方库中下载一个已经安装好TensorFlow及相关依赖的容器并启动交互式终端。9.1TensorFlow的安装（3）基于源码方式安装使用源码包方式进行安装即下载软件的源代码文件，在自行进行编译安装。相比二进制方式，其源代码公开，如果你有足够的能力，是可以自己对源代码进行补充修改实现自己想要的功能。也可以在编译的时候对源代码进行剪裁，自由选择所需的功能。但源代码编辑的时间较长且容易出错，一旦出现问题一般新手很难解决。1）安装Bazel，根据Bazel官方给出的安装方法，我们使用FedoraCOPR库的方式，首先在/etc/yum.repos.d中新建文件corresponding.repo，接着输入以下内容：[copr::vbatts:bazel]name=Coprrepoforbazelownedbyvbattsbaseurl=/results/vbatts/bazel/epel-7-$basearch/type=rpm-mdskip_if_unavailable=Truegpgcheck=1gpgkey=/results/vbatts/bazel/pubkey.gpgrepo_gpgcheck=0enabled=1enabled_metadata=1最后使用yuminstallbazel命令进行安装，如下图所示：9.1TensorFlow的安装9.1TensorFlow的安装2）安装依赖包，使用如下的命令：yuminstallswigyuminstallpython-develpipinstallnumpypipinstallmock3）下载TensorFlow源码并进行编译安装，首先使用下面的命令下载源码，如图所示。gitclone/tensorflow/tensorflow.git接下来我们运行命令：./configure9.1TensorFlow的安装9.1TensorFlow的安装9.2编写TensorFlow程序本节通过利用TensorFlow编写“HelloWorld”程序为例展开介绍。（1）编写“HelloWorld”程序首先打开一个python终端：$python等待屏幕出现python环境提示符“>>>”后输入下面的程序：>>>importtensorflowastf>>>hello=tf.constant('Hello,TensorFlow!')>>>sess=tf.Session()>>>printsess.run(hello)回车执行后屏幕显示：Hello,TensorFlow!这就是一个最简单的HelloWorld程序，我们可以输入exit()退出Python环境。（2）加法程序我们再写一个小程序利用TensorFlow进行加法计算。重新进入python环境，等待屏幕出现Python提示符后输入下面的程序：>>>importtensorflowastf>>>sess=tf.Session()>>>a=tf.constant(10)>>>b=tf.constant(32)>>>printsess.run(a+b)回车执行后屏幕显示：429.3TensorFlowServing安装9.3.1TensorFlowServing简介上一任务中介绍的TensorFlow是用于进行模型的训练、验证和预测，模型完善之后我们需要将其用于真实的生产环境。Google公司为我们提供了TensorFlowServing用于部署机器学习模型。它灵活、性能高、可用于生产环境，可以轻松部署新算法和实验，同时保持相同的服务器架构和API。在早2017年TensorFlow的开发者便提出了TensorFlowServing。但那时候客户端和服务端的通信只支持gRPC，而在实际生产环境中比较广泛使用的C/S通信手段是基于RESTfullAPI的。随着版本的更新，目前TensorFlowServing已经可以支持RESTfullAPI通信方式了。9.3TensorFlowServing安装9.3.2TensorFlowServing的安装跟我们之前介绍的TensorFlow一样，TensorFlowServing同样支持docker、二进制、源码编译这三种安装方式，接下来我们以Docker安装为例介绍其安装方法。使用Docker部署模型的好处在于，避免了与繁琐的环境配置打交道。使用Docker，不需要手动安装Python，更不需要安装numpy、tensorflow各种包，直接一个Docker就包含了全部。Docker的方式是如今部署项目的第一选择。需要说明的是在实际生产环境中，管理员需要充分考虑实际的应用情况去选择对应的安装方式，而不是一味的追求简便。我们使用命令：dockerpulltensorflow/serving 从官方的库中拉取TensorFlowServing的Docker镜像。项目实施1—AI部署首先，我们拉取tensorflow-serving的docker镜像：dockerpulltensorflow/serving接下来我们将“开心果识别”的模型（model.zip）进行解压，并放置在某个模型目录下。模型目录的结构应当遵循如下命名规则：/BasePath/ModelName/ModelVersion/。其中BasePath表示模型根目录，这个可以根据需要放置在任意位置，在本示例中，我们设置为/models/；ModelName表示模型名称，在本示例中，我们将模型取名为cnn；ModelVersion表示模型版本，这里我们将模型版本设为1。当一切设置好以后，我们在命令行中输入：ls/models/cnn/1我们应该可以看到如下输出：saved_model.pbvariables然后，我们输入如下命令：

sudodockerrun-p8501:8501-v/models:/models-eMODEL_NAME=cnn-d-ttensorflow/serving其中，-p8501:8501表示将本地的8501端口映射到容器的8501端口。8501端口是tensorflow/serving默认的RestfulAPI端口。-v/models:/models是将本地的/models文件夹映射成容器的/models文件夹。/models文件夹是tensorflow-serving默认的模型根目录。-eMODEL_NAME=cnn是设置容器的MODEL_NAME环境变量。项目实施1—AI部署接下来，我们打开浏览器输入以下网址来验证模型是否加载成功：http://localhost:8501/v1/models/cnn/versions/1/metadata其中，cnn是模型名称，1是模型版本。操作者应根据实际情况修改。如果模型配置成功，可以看到类似于下图的输出：项目实施1—AI部署项目实施2—工业云平台搭建第一步：首先准备开发环境：Ubuntu18.04和Python3.6，以及安装软件包FireEye-master.zip。第二步：安装并创建虚拟环境。（1）安装虚拟环境sudoaptinstallpython3-venv（2）创建虚拟环境（需创建目录/srv/FireEye）sudocd/srv/FireEye #进入根目录sudopython3.6-mvenv.venv #创建虚拟环境sudosource.venv/bin/activate #激活环境项目实施2—工业云平台搭建

第三步：构建react工作环境。（1）配置nodejs从网上下载node.js版本=v10.21.0，复制到根目录/srv下

sudocd/srvsudotar-xvJfnode-v10.21.0-linux-x64.tar.xz #解压缩文件sudoln-s/srv/node-v10.21.0-linux-x64/bin/node/usr/local/bin/ #建立软连接sudoln-s/srv/node-v10.21.0-linux-x64/bin/npm/usr/local/bin/ #建立软连接sudonpminstall-gnpm@6.9.0--registry= #修改npm版本项目实施2—工业云平台搭建

第三步：构建react工作环境。（1）配置nodejs从网上下载node.js版本=v10.21.0，复制到根目录/srv下

sudocd/srvsudotar-xvJfnode-v10.21.0-linux-x64.tar.xz #解压缩文件sudoln-s/srv/node-v10.21.0-linux-x64/bin/node/usr/local/bin/ #建立软连接sudoln-s/srv/node-v10.21.0-linux-x64/bin/npm/usr/local/bin/ #建立软连接sudonpminstall-gnpm@6.9.0--registry= #修改npm版本配置完毕后，使用node--version和npm--version可以验证配置是否成功项目实施2—工业云平台搭建（2）安装docker

sudoapt-getinstalldocker-compose

安装完毕后，使用docker–version验证docker是否安装成功。

安装成功以后，配置docker加速器，以便快速获取镜像资源。 sudovi/etc/docker/daemon.json添加如下内容：

{

"registry-mirrors":[""],

"registry-mirrors":[""]

}项目实施2—工业云平台搭建

最后一步：部署工业云平台：

（1）在ubuntu18.04中，把安装包(FireEye-master.zip)解压缩，然后进入FireEye-master文件夹中。将生成的序列号在后端进行注册。

（2）安装pip包（进入FireEye-master目录下的子目录server）

sudoapt-getinstallbuild-essentiallibssl-devlibffi-devpython-devpython3-devlibtiff5-devlibjpeg8-devzlib1g-devpython3-pip

sudopython-mpipinstall--upgradepip#更新pip版本

sudopip3install-rrequirements.txt安装完毕后，使用pip3list验证是否安装成功。项目实施2—工业云平台搭建（4）安装项目模块