Python与机器学习（第2版）项目05鸢尾花分类分析

项目背景|项目概述|学习目标|任务实施步骤鸢尾花多分类分析【数据挖掘应用】01101111011010111101010000101101010100111101背景先导项目概述项目学习目标任务实施步骤01Background02BriefIntroduction03LearningObjectives04ImplementationSteps主要内容鸢尾花无生命的花朵拥有了人的性格，有了自己的思想情感，产生了所谓的“花语”“鸢尾花，结彩多，连竿劝献酒。此花开后百花死，百花开后鸢尾稀。”“独有鸢尾花，一时偏好妆。金鸭湾头戏，绣户髻后香。”在我国常用来象征友谊、爱情，代表前途无量、鹏程万里、明察秋毫。认识鸢尾花杂色鸢尾（versicolor）

山鸢尾（setosa）

维吉尼亚鸢尾（virginica）

0110111101101011110101111001001001011010101001001111010010110010111011010110100111101

什么是花瓣、花萼鸢尾花数据集输出结果：output花瓣长度（PetalLength）花瓣宽度（PetalWidth）花萼长度（SepalLength）花萼宽度（SepalWidth）输入特征：input鸢尾花类别杂色鸢尾（versicolor）山鸢尾（setosa）

维吉尼亚鸢尾（virginica）项目总体要求

鸢尾花多分类分析

本项目将基于“iris.csv”文件中的4项特征数据和分类结果，使用不同的机器学习算法做鸢尾花类别判定应用，并进一步评估不同模型的优劣。项目三维目标理解K近邻、随机森林、多层感知机、神经网络的基本概念及其原理；进一步掌握数据分析与挖掘的流程，加深对模型建立与分析过程的理解；掌握NumPy、Pandas、sklearn、Matplotlib、TensorFlow的使用；掌握KNeighborsClassifier、RandomForestClassifier和MLPClassifier的相关参数意义及调参方法。

（阿里云大数据分析与应用中级5.3.2）知识目标能力目标素质目标证项目三维目标会使用sklearn包中KNeighborsClassifier、RandomForestClassifier和MLPClassifier类实现分类分析；

大数据工程技术人员国家职业技能标准中级6.3.2会使用Tensorflow设计和训练简单的神经网络模型；会调整分类模型的参数实现分类效果的优化。

大数据工程技术人员国家职业技能标准中级6.3.3知识目标能力目标素质目标岗011011110110101111010111100100001011010101001111101岗项目三维目标厚植“中国特色”的传统文化根脉，坚定文化自信；善于观察，增强学生对大自然及生活的热爱；引导学生进行精准分类，细心改进模型的参数，尽心完成模型的优化，培养精益求精的品质意识。能力目标素质目标知识目标011011110110101111010111100100001011010101001111101鸢尾花分类分析任务流程数据获取数据预处理分类分析模型评估与应用明确目标基于给定的花萼长度、花萼宽度、花瓣长度、花瓣宽度、鸢尾花类别等数据做鸢尾花类别判定应用。数据获取数据预处理分类分析模型评估与应用明确目标从本地文件iris.csv中读取花萼长度、花萼宽度、花瓣长度、花瓣宽度、鸢尾花类别等原始数据。鸢尾花分类分析任务流程数据获取数据预处理分类分析模型评估与应用明确目标1.标签映射：需将鸢尾花的三种类别分别映射为0、1和2鸢尾花分类分析任务流程数据获取数据预处理分类分析模型评估与应用明确目标使用K近邻实现鸢尾花分类使用随机森林实现鸢尾花分类使用Tensorflow设计神经网络实现鸢尾花分类使用多层感知机实现鸢尾花分类鸢尾花分类分析任务流程数据获取数据预处理分类分析模型评估与应用明确目标图形化展示各模型的分类结果

评估不同算法的优劣分类模型应用鸢尾花分类分析任务流程还在等什么？马上动手实施鸢尾花多分类分析项目吧~1.认识鸢尾花、鸢尾花数据集2.多分类项目的要求3.鸢尾花分类分析流程小结课程负责人：陈清华随机森林分类分析任务实施【数据挖掘应用】课程鸢尾花分类分析熟练使用sklearn第三方包实现机器学习算法应用；会应用随机森林算法实现分类分析；会使用RandomForestClassifier()对鸢尾花进行分类分析与预测应用。能力目标主要内容任务工单引导问题任务评价标准任务解决方案代码解析使用随机森林实现鸢尾花分类iris.csv教学难点任务工单基于前续任务得到的数据，使用随机森林算法实现鸢尾花类别判定，并区分两个算法的异同。任务概述

基于花萼长度、花萼宽度、花瓣长度、花瓣宽度和鸢尾花类别数据，使用随机森林实现分类分析。010010011001101010100100110110100101110101000100001011011101001010101101010011010010

任务描述：数据源iris.csv显示结果

任务要求任务概述随机森林模型评估K近邻算法（1）随机森林与决策树有何本质上的异同？试结合该应用说明其中的原理。（2）随机森林在sklearn中是如何实现的？有哪些实现方法？（3）sklearn随机森林的实现中主要参数有哪些？哪些参数会对本任务的识别结果产生重要影响？（4）如何比较两种不同分类方法的优劣？有哪些关键指标？”

问题引导：任务概述

任务评价：任务概述评价内容评价要点分值分数评定自我评价1.任务实施模型初始化3分导入正确得1分，模型选用正确得1分，模型构建正确得1分

模型训练1分模型训练顺利执行得1分

模型预测1分历史数据及预测结果展现得1分

2.效果评估模型可视化并评估效果3分能正确展现模型评估结果得2分，模型准确率92%以上得1分

3.任务总结依据任务实施情况总结结论2分总结内容切中本任务的重点要点得1分，能有效比较方法异同得1分

合计10分

任务解决方案核心部分代码：fromsklearn.ensembleimportRandomForestClassifier#随机森林分类预测clf=RandomForestClassifier(n_jobs=3)clf.fit(x_train,y_train[['Cluster']].values.ravel())y_pred=clf.predict(x_test)print("预测精确率:{:.2f}".format(clf.score(x_test,y_test[['Cluster']])))print(pd.crosstab(y_test['Cluster'],y_pred,rownames=['ActualValues'],colnames=['Prediction']))小结1.如何使用sklearn第三方包实现多分类分析？2.

如何调用RandomForestClassifier()实现鸢尾花分类分析？3.

如何对模型分类结果进行评估？不急后续会有详细说明与讲解哦~神经网络分类分析任务实施【数据挖掘应用】课程鸢尾花分类分析会设计神经网络实现分类分析；会使用Tensorflow实现设计的神经网络分类器；会运用神经网络对鸢尾花进行分类分析；会对神经网络的参数进行调整和优化。能力目标主要内容任务工单引导问题任务评价标准任务解决方案代码解析使用Tensorflow设计神经网络实现鸢尾花分类iris.csv教学难点任务工单神经网络分类器可以通过学习数据中的模式，对不同种类的数据进行分类。现基于前续任务得到数据及分类结果，进一步设计神经网络并训练模型实现鸢尾花类别判定。最后，区分这三个算法的异同。任务概述

基于花萼长度、花萼宽度、花瓣长度、花瓣宽度和鸢尾花类别数据，设计神经网络分类器实现分类分析。010010011001101010100100110110100101110101000100001011011101001010101101010011010010

任务描述：数据源iris.csv显示结果

任务要求任务概述神经网络模型评估K近邻算法随机森林（1）神经网络如何用来做分类分析的？结合应用，说明其中的原理。（2）神经网络在TensorFlow中是如何灵活实现的？（3）在设计神经网络时，结构中哪些参数比较关键？（4）激活函数有何作用？其选取有何规律？学习率又该取值？（5）比较神经网络分类算法与前述两种不同分类方法的优劣，其优势体现在哪里？”

问题引导：任务概述

任务评价：任务概述评价内容评价要点分值分数评定自我评价1.任务实施模型初始化4分导入正确得1分，模型设计正确得1分，模型构建正确得1分，模型参数会修改得1分

模型训练2分模型训练顺利执行得1分，会正确调整参数得1分

2.效果评估模型评估报告展现2分能准确解释各个指标的含义得1分，模型准确率92%以上得1分

3.任务总结依据任务实施情况总结结论2分总结内容切中本任务的重点要点得1分，能有效比较三种方法的异同得1分

合计10分

任务解决方案核心部分代码：输入与输出importtensorflowastf#添加占位符，四个输入x_data=tf.placeholder(shape=[None,4],dtype=tf.float32)#添加占位符，一个输出y_target=tf.placeholder(shape=[None,1],dtype=tf.float32)4个输入1个输出任务解决方案核心部分代码：#定义如何添加一个隐藏层的函数defadd_layer(input_layer,input_num,output_num):weights=tf.Variable(tf.random_normal(shape=[input_num,output_num]))biase=tf.Variable(tf.random_normal(shape=[output_num]))hidden_output=tf.nn.relu(tf.add(tf.matmul(input_layer,weights),biase))returnhidden_output任务解决方案核心部分代码：神经网络结构#定义三层隐藏层对应的节点个数hidden_layer_nodes=[10,8,10]#

输入层hidden_output=add_layer(x_data,4,hidden_layer_nodes[0])#循环添加三层隐藏层foriinrange(len(hidden_layer_nodes[:-1])):hidden_output=add_layer(hidden_output,hidden_layer_nodes[i],hidden_layer_nodes[i+1])#

输出层final_output=add_layer(hidden_output,hidden_layer_nodes[-1],1)任务解决方案核心部分代码：#定义损失函数，使得误差最小loss=tf.reduce_mean(tf.square(y_target-final_output))#设置学习率来调整每一步更新的大小my_opt=tf.train.GradientDescentOptimizer(learning_rate=0.00004)#优化目标：最小化损失函数train_step=my_opt.minimize(loss)init=tf.global_variables_initializer()sess=tf.Session()sess.run(init)任务解决方案核心部分代码：训练loss_vec=[] #训练损失test_loss=[] #测试损失#训练次数foriinrange(10000):

#训练sess.run(train_step,feed_dict={x_data:x_train,y_target:y_train})

#训练数据评估模型temp_loss=sess.run(loss,feed_dict={x_data:x_train,y_target:y_train})loss_vec.append(np.sqrt(temp_loss))

#测试数据评估模型test_temp_loss=sess.run(loss,feed_dict={x_data:x_test,y_target:y_test})test_loss.append(np.sqrt(test_temp_loss))if(i+1)%1000==0:print('Generation:'+str(i+1)+'.Loss='+str(temp_loss))任务解决方案核心部分代码：预测应用test_preds=[np.round(item,0)

foritemin

sess.run(final_output,feed_dict={x_data:x_test})]train_preds=[np.round(item,0)

foritemin

sess.run(final_output,feed_dict={x_data:x_train})]y_test=[iforiiny_test['Cluster']]y_train=[iforiiny_train['Cluster']]任务解决方案核心部分代码：模型评估test_acc=np.mean([i==jfori,jinzip(test_preds,y_test)])*100train_acc=np.mean([i==jfori,jinzip(train_preds,y_train)])*100print('训练数据预测精确率：{}'.format(train_acc))print('测试数据预测精确率：{}'.format(test_acc))小结1.

如何设计神经网络实现鸢尾花分类分析？2.如何使用tensorflow实现神经网络？3.

如何对神经网络模型进行评估？不急后续会有详细说明与讲解哦~多层感知机分类分析任务实施【数据挖掘应用】课程鸢尾花分类分析熟练使用sklearn第三方包实现神经网络应用；会应用多层感知机实现分类分析；会使用MLPClassifier()对鸢尾花进行分类分析与预测应用；会调整MLPClassifier()参数实现模型的优化。能力目标主要内容任务工单引导问题任务评价标准任务解决方案代码解析使用多层感知机实现鸢尾花分类iris.csv教学难点任务工单基于前续任务得到的数据，及分类结果，使用多层感知器实现鸢尾花种类判定，并区分不同算法的异同。任务概述

基于花萼长度、花萼宽度、花瓣长度、花瓣宽度和鸢尾花类别数据，使用多层感知机实现分类分析。010010011001101010100100110110100101110101000100001011011101001010101101010011010010

任务描述：数据源iris.csv显示结果

任务要求任务概述多层感知机模型评估自定义神经网络K近邻算法随机森林（1）多层感知机与神经网络存在什么样的关联？说明多层感知机的区别与联系。（2）多层感知机在sklearn中是如何实现分类的？其关键参数有哪些？（3）多层感知机参数应该如何配置？有无规律可循？（4）比较多层感知机分类算法与前述不同分类算法的优劣，其优势体现在哪里？”

问题引导：任务概述

任务评价：任务概述评价内容评价要点分值分数评定自我评价1.任务实施模型初始化4分导入正确得1分，模型选用正确得1分，模型构建正确得1分，模型参数会修改得1分

模型训练2分模型型训练顺利执行得1分，会正确调整参数得1分

模型评估报告展现2分能准确解释各个指标的含义得1分，模型准确率92%以上得1分

2.效果评估依据任务实施情况总结结论2分总结内容切中本任务的重点要点得1分，能有效比较不同方法的异同得1分

合计10分

任务解决方案核心部分代码：fromsklearn.neural_networkimport

MLPClassifier#神经网络分类预测mlp=MLPClassifier(solver='sgd',activation='relu',alpha=1e-4,hidden_layer_sizes=(10,10),random_state=1,max_iter=500,verbose=10,learning_rate_init=.005)#训练模型mlp.fit(x_train,y_train[['Cluster']].values.ravel())#评估模型y_pred=mlp.predict(x_test)print("预测精确率:{:.2f}".format(mlp.score(x_test,y_test[['Cluster']])))print(pd.crosstab(y_test['Cluster'],y_pred,rownames=['ActualValues'],colnames=['Prediction']))任务解决方案运行结果示例：小结1.如何使用sklearn第三方包实现多分类分析？2.

如何调用MLPClassifier()实现鸢尾花分类分析？3.

如何对模型分类结果进行评估？不急后续会有详细说明与讲解哦~项目背景|项目概述|学习目标|任务实施步骤拓展实训设计神经网络预测花瓣宽度【数据挖掘应用】课程负责人：陈清华01101111011010111101010000101101010100111101

会设计神经网络结构实现回归预测；

会熟练使用TensorFlow实现设计的神经网络；

会使用神经网络实现对鸢尾花花瓣宽度进行预测；技能学习目标

会评估花瓣宽度预测的准确率，并对神经网络参数进行优化。项目总体要求原始数据iris.csv设计神经网络实现鸢尾花花瓣宽度预测一、数据获取#coding:utf-8importpandasaspddf=pd.read_csv('ir