实验5 建立决策树并进行分类

实验5建立决策树并进行分类实验目的通过使用SPSS对数据集进行分析并建立决策树，学会建立决策树的数据处理过程和方法，从而深入地理解分类的一般过程和基本原理，以及如何利用决策树分类解决现实的问题。实验内容1、建立决策树2、使用决策树对未知类别的数据（集）进行类别预测分析实验条件1.操作系统：WindowsXPSP22.SPSS13。1实验要求1、现有1000位顾客个人信息，主要包括性别、地址、收入、婚姻状况、教育程度、职业等信息（保存在顾客.X1S文件中），数据表的结构如下图所示：■MJ立伴匡)圳辑®ifiSKv)HA相式如丄：■MJ立伴匡)圳辑®ifiSKv)HA相式如丄：d31■J1iX1-J”1哼V:工貝©麴克■①国口也］帮助砂SE.天S?曲W妣的尚题-_Syr.+血ECn1f-HTJFr1Mr临入蜒莽飾殺于毀1学历I叩业1件:般fulfill右■至辆皱1I匕班瞎程丨国那I1年酔超否购买自行茸i3KarriedMaleSOUUIJ4NarrledNile80000SSingleMale700G06SingleMale30OOO7KarriedFemaleLOUOUaSlngleMale160OOO9NarrlcdNaleIDKarrledMale20000ILKarriedMale20□□□12CarriedFeiriale3000013SlngleFemale5000014=NarrledNile17000015KarrledMaleioooo16BinsleMaie6Q0QQ17SingleFemaleLOUOU1BSingleMale30OOO19NarrlcdFcttiqIe300002DSingleMale40000::lSinglbMilleZCIC'QC22KarriedFemale400002SS1CLglEFema1eHOuuij24=SlngleNile25KarrledFeniale8000026BinsleMaie4=0UQQ27SingleMale300002BSingleMale30OOO29SlngleFcttiqIe1000003DKarrledMale700003LSinglbFcmaleZCIC'QC32CarriedFemale20000r?dv…上―-u*r—ti-ii-ii-ii-i144秋罐卜HXSlite-1-jtJLrufc亠J—*1五筮siidiTd2HarriedFemale400001EacheLorsSkilled.Manv呂Farr1alCollegClerlcal5PartialC^LlegProfesslonal0EacheLorsPr<ifeseLonslDEacheLorsCLeracaL2PartialC^llcgHimua1£HighSchoolHanagenenr1BachelorsSkilledManv2PartialEllehSCLerlcal2PartialCollegIIanua13HighSchoolSkilled.Manv0BachelorsFrotesstonal5PartialC^LlegProfesslonal2PartialC^llegCLer-1cal1PartialCqIIegSkillrdManu2HiahSchoolHimua1SPartialCollegClcricaL1BachelorsCLerlcal2PartialC^LlegCLerlcalZPartialHigh5CLericaluGraduateDcgrcCLericaL0Bache1orsProfessional5PartialC^LlegCLerical5HighSchoolHsnageaentZPartialCqIIegCirrical1RachelotsCLericalDPartialCollegClcricaLDBachelorsProfessional5PartialC^LlegSkilled.Manu0PartialHigh5Hanua12PartialC^llcgHanua1'LiC„I1—'„11「r...Yes00-1MilesYes10-1Miles22-6Miles^ee15-10HileeMoa0=1MilesYes01-2MilesYes40-1MllesYes00-1Miles空曰E：2S-10JLlleeYee10~lMilesN中21~2Miles0心410+MilesYes40-1Miles^ee11-2MllesHq10-1MilesYes10-1MilesUo21-2fflil==Yes00-1Miles空曰E：11-2MllesYce35-1QliltsYes00-1Miles¥e=410+MilesYes01-2MilesJk—35-10HileeHq10-1MilesYes00-1MilesUo10~lfflil==跟15-10Niles空曰E：2S-10JLlleeNq30-1MilesYes00-1MilesVI「戸一furi<11Elitc-pe12MoEurope4=3NoEurope60恥Pacific■tl¥eeEurope36Ye=Europe50恥Faclllc33YesEurope4=3YesPacific5SNoEurope4STe=Pacific54YdsFaelfle□SNoEurope55恥Europe35TeaPacific4=5TesEurope38Yrs尸BClf1匚59Ye=Europe4=7恥Europ日35TeaFacific55TrsElitc-pe3SYdsF1曰匚ific3SNoEurope35YesEurope5S恥Europe34Europe63恥Europe29Ye=Pacific4=0恥Pacific毛生NoEurope3ZTrsEurope63恥D_=2-F2=TT_v>请你运用SPSS统计分析软件分析数据，并将实验步骤和结果记录到实验报告单上。（1）以顾客.X1S作为训练数据集，收入、职业、年龄为测试属性，是否购买自行车为类别属性，分别选择四种分类方法建立决策树，记录准确率最高的分析结果。（2）使用分类规则预测预测1.xls中数据所属的类别（是否购买自行车）。（3）对分类结果和预测结果进行分析。2、现有2646位顾客的年龄、收入、信用卡数、教育程度、车贷数、信用等级信息（保存在tree_credit.sav中），请你运用SPSS统计分析软件分析数据，并将实验步骤和结果记录到实验报告单上。（1）分别选择四种分类方法建立决策树，记录准确率最高的分类析果。（2）使用分类规则预测tree.sav中数据所属的类别（信用等级）。（3）对分类结果和预测结果进行分析。实验步骤及指导1、建立决策树第一步：数据准备，将待处理的数据输入或导入SPSS中，本例将顾客.xls导入SPSS中。第二步：建立决策树（1）选择统计分析［Statistics］菜单，选聚类分析［Classify］中的树状分析［ClassificationTree...］项，弹出树状分析［ClassificationTree］对话框，从对话框左侧的变量列表中分别选择类别属性和测试属性进入右侧类别属性［DependentVariable］和测试属性［IndependentVariable］框中。本例选择是否购房为类别属性，婚姻状况、收入、抚养的孩子数、年龄为测试属性。GrowingMethod下拉列表中有CHAID、ExhaustiveCHAID、CRT、QUEST四种建立分类树的方法，本例选择ExhaustiveCHAID。图5-1（2）点击输出［Output...］钮，弹出分类树：输出［ClassificationTree:Output］对话框，该对话框有树［tree］、统计［statistics］、规则［rule］三个选项卡，在树［tree］选项卡中设置分类树的显示方式，在统计［statistics］选项卡中设置输出哪些统计结果，在规则［rule］选项卡中设置规

则的显示方式和输出路径。本例选择树［tree］选项卡下的NodeContents:tableandcharts（结点内容:表和图），规则［rule］选项卡的generateclassificationrules->syntax下的SPSS,规则［rule］选项卡下的exportrulestoafile,并在文本框中输入c:\output.sps.（图5.2）图5.2（3）点击输出［Criteria...］钮，弹出［ClassificationTree:Criteria］对话框，该对话框有［Growthlimit］、［CHAID］、［Inteverl］三个选项卡，在树［Growthlimit］选项卡中设置分类树最大深度和结点中最少包含多少个数据‘automatic和custom单选按钮分别表示设置分类数的深度为自动和用户自定义（在文本框中输入最大深度），在parentnode和childnode文本框中设置分类树父结点和子结点中最少包括多少个数据，即如果分类树结点中的数据数少于规则的数据，分类树就不再继续向下生长，这两个值越大，产生的树的分枝越少，值越小，产生的分枝越多。本例设置parentnode为50,childnode为10（如图5-3）。C1assificationTree:CriteriaGrowthLimitsCHAIDIntervalE亡口皿皿£~|取消|帮肋I5.3（4）点击确定［OK...］完成。第三步：分析结果（1）描述概要ModelSummarySpecificationsGrowingMethod（说明）（决策树生成方法）DependentVariable（类别属性）IndependentVariables（测试属性）Validation（验证）MaximumTreeDepth（最大深度）MinimumCasesinParentNode（父结点中包含的最少数据数）MinimumCasesinChildNode（子结点中包含的最少数据数）Results（结果）IndependentVariablesIncludedNumberofNodesEXHAUSTIVECHAID是否购房婚姻状况，收入，抚养的孩子数，年龄NONE（没有设置）35010婚姻状况，年龄，抚养的孩子数11（分类树的结点总树）NumberofTerminal7Nodes（叶子结点数）Depth（树的深度）3Specifications（说明）中显示的是用户在生成分类树之前自行设置的信息，Results（结果）是生成的结果信息。（2）评估RiskEstimateStd.Error.255.014GrowingMethod:EXHAUSTIVECHAIDDependentVariable:是否购房该表中Estimate的值是分类准确性的一个评估值，其值表示决策树的错误率为25.5%,说明该分类树的准确率是74.5%，Estimate越小说明该分类树越准确。⑶分类ClassificationObservedNoPredictedYesPercentCorrectNo12718840.3%Yes6761890.2%OverallPercentage19.4%80.6%74.5%GrowingMethod:EXHAUSTIVECHAIDDependentVariable:是否购房该表中第一行表示分类树把本该是No类（即没有购房）的人分别划到No类127人、Yes类188,准确率是40.3%,第二行表示分类树把本该是Yes类（即有购房）的人分别划到No类67人、Yes类618,准确率是90.2%，总的准确率是74.5%，总的准确率与risk表中的Estimate值的总和为100%。该结果表明该分类树中对于yes类的分类准确类是比较高的。（4）输出规则在文件-＞打开-＞语句文件中打开分类规则输出文件output.sps,—个叶结点生成一条分类规则，上图中显示的是编号是3的叶结果上的规则。（5）分类树\^Yes\'■jVb|1Node0Categoo*%n■Yes68.5685■No31.5315Total100.01DOD是否购序书烟状况AdjP-vahe=0.000,Cbi-squarc=93.8D8,dfclAdj.P-vahe=0.0€>0,Chi-2quare=2S.93O.df=2SiuleAdj.P-vahie=0.000,Ch込qua代=?4.704.di=2Adj.P-V31ue=0.045,Ch]-tqu3re=15.40000.00;30000.00;80000.00;70000.00;10000.00;160000.00;20000.(10;90000.00;6COOO.OO:50000.00:110000.00Node9CateRory%ti■Yes62.5120■No37.572Total19.2192170000X0;100000.00;130000.00;120000.(0;150000.00Node10Caejjory%n■Yes18.24■No81.818Total2.222第四步：利用分类规则对数据进行预测打开需要进行分类预测的数据集（该数据集的结构应该和原数据集相同），为了便和原数据类别进行对比，本例选择原数据集