模块2：人工智能边缘设备应用技术栈-理论

模块2：人工智能边缘设备应用技术栈人工智能边缘设备技术栈数据处理方法PARTONEPARTTWO人工智能边缘设备技术栈人工智能边缘设备应用011.1数据处理平台数据处理平台是一种能够对数据进行检索、处理和维护等操作的软件平台。数据处理平台通常是一个分布式系统，即把一个需要非常巨大的计算能力才能解决的问题分成许多小的问题，然后把这些小问题分配给多个计算核心进行处理，最后把这些计算结果综合起来得到最终的结果。1.2操作系统操作系统是一种针对系统快捷操作的软件，能够有效分配和管理软硬件资源，向用户提供方便地使用硬件的服务，使整个计算机系统能高效运行。操作系统需要处理大量的异构数据以及多种应用负载，并负责将复杂的计算任务在边缘计算设备上部署，调度及迁移，从而保证计算任务的可靠性以及资源的最大化利用。与传统的物联网设备上的实时操作系统相比，边缘计算设备的操作系统更强调数据处理、人工智能计算任务和计算资源进行管理效率。1.3硬件设备硬件设备是指构成边缘设备的所有物质元器件、线路和部件。相比于操作系统等软件系统，硬件设备通常较难改动，边缘设备的性能通常会受到硬件水平的制约，一般而言很难扩展。……1.4计算框架在人工智能边缘设备技术栈中，计算框架是一种可复用软件。计算框架提供了可复用的软件体系结构，以及若干可复用的构件或模块，同时提供了一系列扩展点，可由开发者扩展和定制以产生具体的系统，是开发者的工具。人工智能边缘计算框架分为两类，一种可以执行模型的训练和推理预测任务；另一种仅执行推理预测任务，这一类的框架能够通过获取已经训练好的模型，进行预测优化。1.5智能算法智能算法是一种对特定问题求解步骤的一种描述，它是指令的有限序列，其中每一条指令表示一个或多个操作。面向人工智能边缘设备的深度学习算法需要考虑到计算资源的受限性，因此相关研究工作主要从减少算法所需的计算量出发。面向边缘计算设备的人工智能算法主要分为两类：一类是边缘智能算法，即针对计算能力有限的边缘计算设备，结合具体的应用场景进行算法设计；另一类是深度模型压缩算法，目的是将在云端表现良好的模型进行压缩，使该模型能够在边缘端运行。1.6智能编程库人工智能编程库是一种集合了人工智能模型和函数的代码编程库。人工智能编程库是开发时使用的主流软件系统，其向上提供编程接口方便使用者进行开发，向下调用深度学习加速库，兼容多种硬件产品。智能编程库包括函数库和模型库两种：函数库是一种为科学与工程计算而形成的各类数值计算相关的程序库，用于计算；模型库是各种人工智能模型的集合，用来存储人工智能模型的代码，是决策支持系统的核心部分。数据处理方法人工智能边缘设备应用022数据处理方法人工智能数据处理平台提供了数据处理程序运行的环境，保证数据处理相关程序的正常运行。在实际生产应用环节中，需要根据人工智能设备所处实际环境进行数据处理相关的程序编写和应用开发。图像数据处理文本数据处理2.1图像处理数据当人工智能边缘设备结合计算机视觉技术进行应用时，所采集到的数据通常为图像数据。图像数据处理是信号处理在图像领域上的一个应用。目前大多数的图像均是以数字形式存储，因而图像处理很多情况下指数字图像处理。提高图像的视感质量如进行图像的亮度、彩色变换，增强、抑制某些成分，对图像进行几何变换等，以改善图像的质量。提取图像中所包含的某些特征或特殊信息被提取的特征或信息往往为人工智能边缘设备中的智能模型分析图像提供便利。提取特征或信息的过程是模式识别或计算机视觉的预处理。图像数据的变换、编码和压缩便于图像的存储和传输。2.1图像处理数据——图像降噪图像噪声是干扰图像质量的重要原因。减少图像噪声的过程被称为图像降噪，也称为图像去噪。中值滤波是一种基于排序统计理论的可有效抑制噪声的非线性平滑滤波。其滤波原理是：首先确定一个以某个像素为中心点的邻域，然后将邻域中各像素的灰度值进行排序，取中间值作为中心像素灰度的新值，这里的邻域通常被称为窗口；当窗口在图像中上下左右进行移动后，利用中值滤波算法可以很好地对图像进行平滑处理。2.1图像处理数据——灰度与二值化（1）彩色图像在图像处理中，用RGB三个分量（R：Red，G：Green，B：Blue），如图所示，即红、绿、蓝三原色来表示真彩色。像素点是最小的图像单元，一张图片由大量的像素点构成。2.1图像处理数据——灰度与二值化（2）图像灰度化因为一个像素点的颜色由红、绿、蓝三个颜色变量表示，所以我们通过给这三个变量赋值，来改变这个像素点的颜色，比如改成红色（255，0，0），可以表示为（x，y，（R=255，G=0，B=0））。灰度化则是让像素点矩阵中的每一个像素点都满足下面的关系：红色变量的值，绿色变量的值，和蓝色变量的值，这三个值相等，即“R=G=B”，此时的这个值叫做灰度值，如图所示。2.1图像处理数据——灰度与二值化（3）图像二值化二值化是让图像的像素点矩阵中的每个像素点的灰度值为0（黑色）或者255（白色），也就是让整个图像呈现只有黑和白的效果。在灰度化的图像中灰度值的范围为0~255，在二值化后的图像中的灰度值范围是0或者255。常用的二值化方法：阈值法（小于阈值的为0，大于阈值的为255）、平均值法（求所有像素的平局值，让每一个像素点与平均值比较，小于平均值的为0，大于平均值的为255），如图所示。2.1图像处理数据——图像增强图像增强指的是改善图像的质量和视觉效果，或突出感兴趣的部分，以便于人或机器分析、理解图像内容。增强往往考虑图像的某方面效果，而不追求其退化的原因增强图像中的有用信息，其目的是要改善图像的视觉效果。如图所示，扩大图像中不同物体特征之间的差别，抑制不感兴趣的特征，使之改善图像质量、丰富信息量，加强图像判读和识别效果，满足某些特殊分析的需要。2.2文本数据处理——缺失值处理文本数据在真实采集过程当中不可避免存在许多缺失值、异常值等。1.缺失值处理缺失值一般用NaN（NotaNumber，非数）表示。importpandasaspdimportnumpyasnpdf=pd.DataFrame({'学号':[1,2,2,3,4],'姓名':['小明','小红','小红','小王','小赵'],'成绩':[90.0,80.0,80.0,np.nan,60.0]})#查看数据df

学号姓名成绩01小明90.012小红80.022小红80.033小王NaN44小赵60.0表DataFrame对象数据2.2文本数据处理——缺失值处理首先需要使用isnull()函数来判断数据中是否存在缺失值，若存在缺失值则显示为True，否则显示为False。在筛选出缺失值以后，对于不同的应用场景需结合相应的业务规则进行填补或去除。一般来说，不同的缺失程度有不同的处理方法。当缺失值较少时，可以直接采用dropna()函数对缺失值进行删除处理。df.isnull()

学号姓名成绩0FalseFalseFalse1FalseFalseFalse2FalseFalseFalse3FalseFalseTrue4FalseFalseFalsedf.dropna()

学号姓名成绩01小明90.012小红80.022小红80.044小赵60.02.2文本数据处理——缺失值处理或者使用fillna()函数对应填补mean()均值或median()中位数。在fillna()函数中加入参数inplace=True，即可对原始对象进行修改。df['成绩'].fillna(df['成绩'].mean())

学号姓名成绩01小明90.012小红80.022小红80.033小王77.544小赵60.0090.0180.0280.0377.5460.0Name:成绩,dtype:float64df['成绩'].fillna(df['成绩'].mean(),inplace=True)df2.2文本数据处理——缺失值处理当缺失值较多时，需要使用isnull()函数产生变量缺失值的指示变量，即0与1，使用apply()函数将其替换成int类型。每一个缺失变量生成一个指示哑变量参与后续建模。df['成绩'].isnull().apply(int)0010203140Name:成绩,dtype:int642.2文本数据处理——重复值处理对于重复值，直接删除数据是最主要的处理方法。使用duplicated()函数查找重复值。在查找出重复值之后，可使用drop_duplicates()函数删除重复值。df[df.duplicated()]

学号姓名成绩22小红80.0df.drop_duplicates()

学号姓名成绩01小明90.012小红80.033小王77.544小赵60.02.2文本数据处理——异常值处理异常值又称为离群点，是指在数据集