Python人工智能技术与应用 课件 模块3 掌握机器学习技术的基础应用

《Python人工智能技术与应用》能力模块三掌握机器学习技术的基础应用任务一

完成基于K-means的汽车产品聚类分析实训TaskImport任务导入某无人汽车制造商打算开发一款新系列的汽车产品，在汽车产品开发之前需要了解消费者需求、市场趋势以及竞争对手情况等信息，从而更好地制定产品策略和市场推广方案。你作为该制造厂市场部门的市场数据分析师，主要职责是分析市场数据、趋势和消费者行为，以协助企业做出战略决策。现需要你利用Python编程语言和统计学知识对市场上的各类型汽车的竞品进行分析，帮助汽车制造商了解市场格局以及消费者需求，从而为产品设计和开发提供指导。素养目标引导问题的过程中，培养学生形成勤于思考的能力获得分析解决问题以及多元化思考解决问题的方法，形成创新意识。TaskObject任务目标知识目标了解聚类算法的定义与实现过程。了解K-means算法的定义和实现过程。了解K-means算法的适用情形与应用场景。技能目标掌握使用机器学习工具sklearn库搭建K-means模型。能够思考并确立好基于K-means实现对汽车产品数据分析的思路。培养勤于思考的职业习惯。新

授基于K-means实现汽车产品聚类分析项目04CONTENTS目录聚类分析算法定义与实现过程01K-means算法实现过程02K-means适用情形与应用场景0301聚类分析算法定义与实现过程聚类分析定义聚类分析过程聚类分析是一种无监督学习方法，通过度量数据点之间的距离来捕捉它们之间的相似性，并将它们分成相似的类别。聚类分析的过程包括选择合适的距离度量方法、选择聚类算法、初始化聚类中心、计算相似性、将数据点分配到聚类中心、更新聚类中心、重复以上步骤、评估聚类效果等步骤。通过度量数据点之间的距离来捕捉数据点之间的相似性，将数据点进行分组01聚类分析算法定义与实现过程指的是两个点在空间中的最短直线距离。欧式空间距离

欧式空间中两个点的最短直线距离dist(A,B)（一）选择合适的距离度量方法01聚类分析算法定义与实现过程又称“城市街区距离”(CityBlockdistance)或“出租车距离”。指从一个十字路口开车到另一个十字路口的驾驶距离。曼哈顿距离a+b为这两辆车的曼哈顿距离（一）选择合适的距离度量方法01聚类分析算法定义与实现过程对于k-means聚类，需要随机初始化k个聚类中心。（三）初始化聚类中心根据相似性，将每个数据点分配到与之距离最近的聚类中心。（五）将数据点分配到聚类中心聚类算法可以是层次聚类、k-means聚类、DBSCAN聚类等。每种算法都有其适用的场景和特点，需要根据问题需求选择合适的算法。（二）选择聚类算法对于每个数据点，计算其与其他数据点的相似性，即距离。可以根据选择的距离度量方法来计算距离。（四）计算相似性01聚类分析算法定义与实现过程重复以上步骤，直到聚类中心不再发生变化或达到预定的迭代次数。（七）重复以上步骤重新计算每个聚类的中心，即聚类中所有数据点的平均值。（六）更新聚类中心01聚类分析算法定义与实现过程组内距离小：聚类后的每一个类别中成员与成员之间的相似度高组间距离大：聚类后不同类别的成员之间的相似度低聚类算法评估的原则：组内距离最小，组间距离最大（八）评估聚类效果聚类算法结果评估的原则是小的组内距离和大的组间距离K-means算法实现过程02K均值聚类算法是先随机选取K个对象作为初始的聚类中心。然后计算每个对象与各个种子聚类中心之间的距离，把每个对象分配给距离它最近的聚类中心。肘部法是一种常用的K-Means聚类算法中确定K值的方法之一。其基本思想是随着聚类数K的增加，样本点到其所属类的距离会逐渐减小，因此K值增大会导致聚类效果变好。

当K值增加到一定程度时，聚类效果提升的效果会逐渐变小，这时再增加K值就不会对聚类效果产生显著的改善，甚至会导致过拟合，即产生过多的子簇，从而使聚类效果变差。故当聚类效果由好开始变坏时的K值即是选择的K值。02

假定取K=3，以下复现K-means算法对样本实现聚类的过程。左图为待聚类的样本。选取3个中心点，右图所示，红色、绿色和蓝色方框分别是选定的3个中心点。（一）随机选取中心点K-means算法实现过程待聚类的样本选取中心点红色、蓝色、绿色方框为中心点02对每个样本，找到距离自己最近的中心点，完成一次聚类。判断此次聚类前后样本点的聚类情况是否相同，若相同，算法终止。否则继续下一步。（二）通过距离度量进行类别划分K-means算法实现过程完成了一次聚类后的结果02（三）根据该次聚类的结果，更新中心点K-means算法实现过程重新选定了中心点02对每个样本，找到距离自己最近的中心点，完成一次聚类，判断与此次聚类前样本点的聚类情况是否相同。若相同，算法终止，否则继续下一步。（四）再次通过距离度量进行类别划分K-means算法实现过程根据新的中心点的二次聚类结果02（五）根据该次聚类的结果，更新中心点K-means算法实现过程根据聚类结果，再次更新中心点02对每个样本，找到距离自己最近的中心点，完成一次聚类。判断与此次聚类前样本点的聚类情况是否相同。（六）第三次通过距离度量进行类别划分K-means算法实现过程根据更新后的中心点，进行第三次聚类02（七）算法在上一步终止，最终的聚类结果K-means算法实现过程最终聚类结果03K-means适用情形与应用场景（一）K-means算法的适用情形

K-means算法适用于以下情形:数据集包含数值型数据、数据集具有固定的类别数量、数据集具有较大的数据量、聚类结果的可解释性较强。

K-means算法是一种基于距离度量的算法，因此它适用于数值型数据。

例如连续的数值变量。数据集包含数值型数据03K-means适用情形与应用场景（一）K-means算法的适用情形K-means算法需要预先指定聚类数量K，因此它适用于那些已经知道聚类数量的数据集。数据集具有固定的类别数量饮料产品数据集K=403K-means适用情形与应用场景（一）K-means算法的适用情形由于采用随机选取中心点的方法，K-means算法通常不能保证找到全局最优解，因此它适用于那些对聚类结果没有强烈要求的应用场景。聚类结果不需要完美K-means算法是一种可扩展的算法，它可以处理大量的数据点，并且可以通过并行化等方式加速计算。数据集具有较大的数据量K-means算法将数据点划分为不同的类别，这些类别具有直观的可解释性，因此它适用于那些需要对聚类结果进行解释的应用场景，例如市场细分和客户分群等。聚类结果的可解释性较强03K-means适用情形与应用场景（二）K-means算法的应用情形市场细分：K-means算法可以将潜在客户划分为不同的类别，帮助企业了解不同市场细分的特征和需求，制定相应的营销策略。客户分群：K-means算法可以根据客户的属性和行为，将客户划分为不同的群体，帮助企业更好地了解客户需求和行为，提供更个性化的服务和产品。模式检测：K-means算法可以检测出数据中的聚类模式，帮助企业发现数据中的规律和趋势，从而做出更好的决策推荐系统：K-means算法可以将用户划分为不同的群体，帮助推荐系统更准确地推荐相似兴趣的产品和服务。图像分割：K-means算法可以将图像中的像素点划分为不同的区域，帮助图像分析和识别等应用场景。基于K-means算法实现汽车产品聚类分析实训04

汽车产品聚类分析是一个常见的数据挖掘问题，其目的是将不同的汽车产品根据其特征属性进行聚类，以便更好地理解和分析不同汽车产品之间的相似性和差异性。选择K-means算法，根据K-means的聚类结果，即可分析出vokswagen汽车的聚类结果。流程为：（一）实现思路01收集数据并导入02数据探索性分析03数据特征处理04确定K值05运行K-means预测04

scikit-learn（简称sklearn）是一个用于机器学习的Python第三方库。它提供了丰富的机器学习算法和工具，包括分类、回归、聚类、降维、模型选择和数据预处理等功能。基于K-means算法实现汽车产品聚类分析实训（二）工具学习模块名称描述datasets包含一些标准数据集和数据生成器，用于测试和演示cluster包含一些聚类算法，如KMeans、DBSCAN等decomposition包含一些降维算法，如PCA、NMF等ensemble包含一些集成学习算法，如随机森林、Adaboost等feature_extraction包含一些特征提取方法，如PCA、特征选择等linear_model包含一些线性模型，如线性回归、岭回归、逻辑回归等model_selection包含一些模型选择和评估方法，如GridSearchCV、交叉验证等metrics包含一些评估指标，如精度、召回率、F1-score等preprocessing包含一些数据预处理方法，如缩放、归一化等sklearn的主要模块04可通过sklearn的preprocessing模块中的labelencoder方法进行一些数据预处理。下表为labelencoder的使用方法和使用sklearn对模型进行训练和预测。基于K-means算法实现汽车产品聚类分析实训（二）工具学习

sklearn的labelencoder的使用方法方法名称描述fit计算每个特征的编码transform将特征编码为整数fit_transformfit和transform的结合inverse_transform将编码解码回原始特征值04基于K-means算法实现汽车产品聚类分析实训（二）工具学习使用sklearn对模型进行训练和预测步骤描述命令1导入KMeans方法fromsklearn.clusterimportKMeans2加载数据集X=np.array([[1,2],[1,4],[1,0],[10,2],[10,4],[10,0]])3创建KMeans模型，设置聚类中心数量kmCluster=KMeans(n_clusters=2)4调用fit()函数，训练模型kmCluster.fit(X)5调用predict()函数，预测样本、其输出分别是：K中心点和数据集的完全标记kmCluster.predict(X)6调用score()函数，计算误差值kmCluster.score(X)7使用labels_方法获取聚类结果kmCluster.labels_8使用cluster_centers_方法获取聚类中心kmCluster.cluster_centers_04

收集汽车产品的特征数据，如品牌、价格、车型、发动机排量、燃油类型、车身尺寸等等，并进行数据清洗和处理。可选用car_price.csv数据集。car_price.csv数据集包含大量汽车特征数据，其中根据我们的研究目标选择最相关的特征，例如"fueltype"(燃油类型),"aspiration","doornumber"(车门数量)等。使用pandas.read_csv方法导入数据集。收集数据并导入（三）案例实现流程基于K-means算法实现汽车产品聚类分析实训04

下表是使用Pandasdataframe中的方法进行数据探索性分析。数据探索性分析（三）案例实现流程基于K-means算法实现汽车产品聚类分析实训子模块方法描述数据的整体概览head()返回前几行数据，默认前五行tail()返回后几行数据，默认后五行info()显示数据集的基本信息，包括每列的名称、非空值的数量和数据类型describe()提供数据集的基本统计信息，如均值、标准差、最大值和最小值等value_counts()计算每个唯一值出现的次数数据可视化dataframe.value_counts().plot(kind=”bar”)绘制条形图和饼图dataframe.boxplot()绘制箱线图洞察数据data.corr()探究变量之间的关系04（三）案例实现流程基于K-means算法实现汽车产品聚类分析实训使用sklearn中的labelencoder方法进行数据特征处理。非数值数据转化为数值数据。使用sklearn的LabelEncoder方法将数据中的非数值字段转化为数值，例如CarName(汽车品牌)、燃油类型（fueltype）、enginetype(引擎类型)等。采用sklearn.preprocessing.MinMaxScaler()方法进行特征标准化。数据特征处理04（三）案例实现流程基于K-means算法实现汽车产品聚类分析实训使用K-means算法对预处理后的数据集进行聚类分析，将每个汽车型号分配到一个簇中。运行K-means预测确定要将汽车产品分成的簇的数量。可以使用肘部法来确定最佳K值。确定K值《Python人工智能技术与应用》任务二

完成基于KNN的人脸识别实训NEXT：《Python人工智能技术与应用》能力模块三掌握机器学习技术的基础应用任务二完成基于KNN的人脸识别实训TaskImport任务导入现市场部门已经提供了准确可靠的汽车产品竞品分析，公司根据市场情况以及自身资源制定了无人驾驶开发的项目。出于安全考虑和法律要求，国家规定所有的自动驾驶车辆必须搭载人脸识别系统。你作为该无人驾驶汽车制造厂商的无人驾驶系统开发小组中的感知算法工程师，主要职责是基于深度学习和机器学习技术，训练和优化算法模型，提高感知算法的准确度和效率。现需要你使用机器学习技术实现驾驶员人脸的识别，提供驾驶员身份安全认证服务。素养目标引导问题的过程中，培养学生形成勤于思考的能力获得分析解决问题以及多元化思考解决问题的方法，形成创新意识。TaskObject任务目标知识目标了解机器学习分类算法的定义和流程。了解主流的分类算法。了解最近邻算法(KNN)的定义。了解最近邻算法(KNN)的适用情形和适用场景。了解最近邻算法(KNN)和K-means算法的联系和区别。技能目标能够思考并确立基于KNN算法实现人脸识别的思路。掌握使用sklearn库实现对人脸识别数据进行处理。了解人脸识别技术在自动驾驶中的应用，培养主动探究，联系实际的职业精神。新

授机器学习分类算法的定义与流程01CONTENTS目录主流分类算法02最近邻算法(KNN)定义与适用场景03人脸识别技术在自动驾驶中的应用04基于KNN算法的人脸识别项目实现0501机器学习分类算法的定义与流程分类算法是指通过对带标签数据集的分析，从中发现训练集特征到训练集标签的规则，使用所学习到的规则去预测新数据的类别的机器学习算法。白羊群中分类出黑羊（一）分类算法的定义01学习数据特征和标签之间的联系。即归纳、分析训练集，找到合适的分类器，建立分类模型得到分类规则。1.“学习步”对新数据进行类别预测。即用已知的测试集来检测分类规则的准确率，若准确度可以接受，则使用训练好的模型对未知类标号的待测集进行预测。2.“分类步”机器学习分类算法的定义与流程（二）分类算法的流程

分类水果甜度的预测02主流分类算法KNN算法通过周围最近“K”个邻居来判断自身分类通过搜索K个最相似的实例（邻居）的整个训练集并总结那些K个实例的输出变量，对新数据点进行预测。最近邻算法（KNN）02主流分类算法

逻辑回归函数试图在数据集中绘制出这样的曲线作为“分界线”计算数据点是否属于某个类别的可能性，将数据点划分为可能性最高的那个类别。朴素贝叶斯算法主要解决二分类问题，用来表示某件事情发生的可能性。逻辑回归算法02主流分类算法

支持向量机在不同类别的数据集间寻找一个最大的“间隔”SVM训练算法构建一个模型。支持向量机算法03最近邻算法（KNN）定义与适用场景

KNN算法通过找到训练集样本空间中的K个距离预测样本X最近的点，统计K个距离最近的点的类别，找出个数最多的类别，将X归入该类别。

将未知样本Xu划分为W1中

从图中可以清晰看出，当K=5时，其周围有四个点都是红色点，未知样本Xu应该属于类别W1，即红色点。03最近邻算法（KNN）定义与适用场景

将未知样本Xu划分为W1中

从图中可以清晰看出，当K=5时，其周围有四个点都是红色点，未知样本Xu应该属于类别W1，即红色点。（一）KNN算法的适用情形数据集较少03最近邻算法（KNN）定义与适用场景

将未知样本Xu划分为W1中

KNN算法对特征数目的敏感度很高，当特征数目较少时，KNN算法效果会比较好。但是当特征数目较多时，算法效果可能会变差。（一）KNN算法的适用情形特征数目较少03最近邻算法（KNN）定义与适用场景分类问题：KNN算法适用于分类问题，如对图像、文本等数据进行分类。在电商领域中，可以使用KNN算法对客户进行分类，如对于新客户，可以根据其购买历史、搜索记录等信息，将其分类为潜在的高、中、低价值客户。回归问题：KNN算法也适用于回归问题，如根据房屋的特征预测其价格。在金融领域中，可以使用KNN算法对股票价格进行预测，根据历史数据预测未来某一天股票的价格。推荐系统：KNN算法也可以用于推荐系统中，如根据用户的历史购买记录和浏览行为，推荐相似的商品或服务。（二）KNN算法的适用场景03最近邻算法（KNN）定义与适用场景K-means训练的数据是带标签的数据，KNN训练的数据是不带标签的数据KNN：训练KNN模型的数据是带标签的数据，已经是完全正确的数据。K-Means：训练K-means的数据集是无数据（三）KNN和K-means的区别有无数据标签03最近邻算法（KNN）定义与适用场景KNN算法K值的含义——最近的K个邻居、这里K=1KNN算法：K为选定的邻居数。对于给定的样本X进行分类，就从数据集中X附近找离它最近的K个数据点。这K个数据点，哪一类类别占的个数最多，就把X的label设为哪一类类别。（三）KNN和K-means的区别K的含义03最近邻算法（KNN）定义与适用场景

K-meansK的含义表示最后的聚类结果数，这里K=3K-means:K为数据集最后输出结果的类别数量。假设数据集合可以分为K个簇，K是人工固定好的数字。（三）KNN和K-means的区别K的含义04人脸识别技术在自动驾驶中的应用驾驶员疲劳检测（DriverMonitorSystem，DMS）是一种通过人脸识别技术与主动安全辅助系统结合来确保人车共驾安全的技术，当系统检测到驾驶员出现疲劳行为时，将会采取报警、制动等安全措施。目前市场上的主要应用有斯巴鲁DriverFocus系统和凯迪拉克的SuperCruise智能驾驶系统。

驾驶员疲劳检测系统实例（一）用于驾驶员疲劳检测的系统

04人脸识别技术在自动驾驶中的应用人脸识别将探测到的人脸与已保存到的人脸特征进行比对。来识别驾驶员身份是否准确。比如，凯迪拉克XT4就能通过B柱的摄像头刷脸开车门。汽车防盗系统进行驾驶员身份确认（一）用于驾驶员疲劳检测的系统

基于KNN算法的人脸识别实训05首先使用图像处理技术来提取人脸图像中的特征；使用机器学习分类算法来训练模型，以识别不同的人脸；最后，根据训练好的模型来识别新的人脸图像；KNN算法的人脸识别过程（一）案例分析基于KNN算法的人脸识别实训05在人脸识别中，KNN算法可以通过比较待识别人脸图像与已有人脸图像的距离，找到最相似的K个人脸图像，并将待识别人脸图像归类到这K个图像中的主要类别中，从而实现人脸识别。KNN算法在处理小规模的人脸识别问题时，能够获得较好的识别效果。通过sklearn实现KNN，自动计算距离，自动选择最佳的K值，自动处理缺失值，根据需要使用不同的距离度量。模型训练好后通过knn.predict方法，直接输出一个包含基于输入数据的最近邻算法预测的类别标签数组。KNN算法的人脸识别原理（一）案例分析基于KNN算法的人脸识别实训05（二）案例实现sklearn库提供了一个名为datasets的模块，其中包含了许多常用的预训练数据集。这些数据集已经被打包成可用于机器学习算法和模型的格式，可以直接用于训练和测试。sklearn库内置LFW数据集，可提供人脸训练数据。LFW数据集包含13233张人脸图像，其中有5749个不同的人，每个人至少有2张图像。数据准备步骤代码描述1fromsklearn.datasetsimportfetch_lfw_people导入fetch_lfw_people函数2lfw_people=fetch_lfw_people(min_faces_per_person=70,resize=0.4)使用fetch_lfw_people函数加载LFW数据集3X=lfw_people.data从LFW数据集中提取数据（每个样本都是一张图片的像素值）4y=lfw_people.target从LFW数据集中提取标签（每个样本对应的人名）LFW数据集使用方法基于KNN算法的人脸识别实训05（二）案例实现lfw_people.data是一个numpy数组，其中包含了从LFW数据集中提取的人脸图像的像素数据。每一行代表一张图像，每一列代表一个像素，每个像素的值表示图像中该像素点的颜色值。特征表示基于KNN算法的人脸识别实训05（二）案例实现KNN模型训练及预测实现流程序号流程命令1导入sklearn中的KNeighborsClassifier类fromsklearn.neighborsimportKNeighborsClassifier2实例化KNN模型knn=KNeighborsClassifier(n_neighbors=3)3训练模型knn.fit(X_train,y_train)4预测y_predict=knn.predict(X_test)5评估模型accuracy_score(y_test,y_predict)KNN模型训练及预测实现流程《Python人工智能技术与应用》任务三

完成基于朴素贝叶斯算法的汽车行为预测实训NEXT：《Python人工智能技术与应用》能力模块三掌握机器学习技术的基础应用任务三完成基于朴素贝叶斯算法的汽车行为预测实训TaskImport任务导入你作为无人驾驶系统开发小组中的决策算法工程师，你的主要职责是研究、评估、选择适合特定应用场景的感知算法、处理和分析传感器数据，开发和实现相关汽车决策算法等。现需要你通过机器学习算法和历史行车数据对汽车的行为进行预测，为汽车的执行提供支持。素养目标引导问题的过程中，培养学生形成勤于思考的能力获得分析解决问题以及多元化思考解决问题的方法，形成创新意识。TaskObject任务目标知识目标了解朴素贝叶斯算法的原理与步骤流程了解朴素贝叶斯算法的特点和应用。了解朴素贝叶斯算法的原理与步骤流程。了解汽车轨迹预测技术的定义。了解汽车轨迹预测技术的现有解决方案。技能目标能够思考并确立基于朴素贝叶斯算法实现汽车轨迹预测的思路。掌握Python实现对汽车行为预测数据进行预处理、特征处理与模型评估。掌握Python实现对汽车行为预测数据进行朴素贝叶斯建模，培养理论联系实际，解决实际问题的职业能力。新

授基于朴素贝叶斯算法的汽车轨迹预测项目实现04CONTENTS目录朴素贝叶斯算法的原理与步骤流程01朴素贝叶斯算法的特点与应用02汽车轨迹预测技术0301朴素贝叶斯算法的原理与步骤流程贝叶斯定理（贝叶斯公式）（一）朴素贝叶斯算法的原理贝叶斯定理是一种用于计算条件概率的数学公式，可以帮助我们通过已知的信息（先验概率），来计算出一个事件发生的概率（后验概率）。01朴素贝叶斯算法的原理与步骤流程（一）朴素贝叶斯算法的原理条件概率指的是条件概率给定某个类别的情况下，某个特征出现的概率。后验概率指的是在给定某个观测数据（或特征向量）的情况下，计算该数据属于某一类别的概率。先验概率指的是在没有考虑任何特征的情况下，众多类别中每个类别出现的概率。

朴素贝叶斯算法的基本思想是通过先验概率和条件概率来计算后验概率，从而将样本分类到最可能的类别中。01朴素贝叶斯算法的原理与步骤流程（一）朴素贝叶斯算法步骤流程准备训练数据：收集数据并标记每个样本的分类。算先验概率和条件概率：对每个分类计算先验概率，对于每个特征，计算在每个分类下的条件概率。基于贝叶斯定理计算后验概率：对于给定的样本，计算在每个分类下的后验概率。选择最大后验概率：并选择具有最高概率的分类作为预测结果。朴素贝叶斯算法的步骤流程02朴素贝叶斯算法的特点与应用（一）朴素贝叶斯算法的特点

对小规模的数据表现很好，能处理多分类任务。0102对缺失数据不太敏感，算法也比较简单。对数据的分类较为稳定，受随机性的影响。0302朴素贝叶斯算法的特点与应用（f二）朴素贝叶斯算法的应用利用朴素贝叶斯进行疾病诊断朴素贝叶斯算法可以用于文本分类、垃圾邮件检测、情感分析、医学诊断等领域。如在医学诊断应用领域，朴素贝叶斯可以根据患者的症状、病史等信息，估计患者某种疾病的概率，从而帮助医生做出正确的诊断。在天气预报应用领域，朴素贝叶斯算法可以根据历史气象数据和当前气象数据来估计未来的天气状况，包括温度、降水量、风力等。它可以从较大的范围内收集数据，并从中提取出有用的信息，进而预测未来的天气状况。03汽车轨迹预测技术汽车轨迹预测技术是指根据过去汽车的运动轨迹，预测物体将来一小段时间内的运动轨迹。它通过利用汽车的历史行驶记录，利用机器学习算法预测汽车在未来的路径，并预