毕业设计（论文）：机器学习之线性分类模型及应用研究

机器学习之线性分类模型及应用研究指导老师：答辩人：目录CONTENTS实验过程研究思路选题背景总结进一步实验选题背景国内外研究现状选题背景

信用是现代市场经济的一个基本构成要素，由于国外的一些国家，尤其是发达国家关于信用评估方向已经有一百多年的研究历史，所以信用评估的方法、模型以及指标体系都相当成熟，这正是我国金融领域所欠缺的。因此，对于我国来说，迫切需要借鉴国外的一些先进研究技术，在此基础之上，建立一个适合本国运行的信用评估体系。选题背景

随着计算机技术的快速发展，人工智能系统发展的越来越成熟，于是把人工智能应用到信用风险评估方面是水到渠成的事情，本文提出神经网络、支持向量机以及决策树三种模型应用于信用评估工作中，通过在同一平台上应用这三种算法，进行比较分析，选出精确度较高的算法，为金融机构提供准确的决策依据，使信用风险管理和商业银行信贷经营更合理、更科学。选题背景国内现状

国内近几年没有出现关于个人信用方面的著作，市面上的作品大多来源于国内学者对外国个人信用评估方法方面文章的翻译。相对好一点的学者会在借鉴国外方法经验的基础上，根据国内行情，建立一个具有中国特色的个人信用评估体系，总的来说，我国信用风险评估的研究起步较晚。但是，一切的转变从改革开放开始。随着中国打破“闭关锁门”的国策，国内经济与全球经济接轨后，国内经济迅速发展，在信贷业务上也实现了从零到有的局面，信贷产品从零星到多样化，不断进步与壮大。对用户信用风险评估的精确度直接关系到贷款的质量与银行的风险，因此，国内迫切需要建立一个科学、完善的评估体系。目前，传统的主观判断客户信用水平的方法已失去了其先前的优越性，国外一些较完善的个人信用评分方法在我国又缺乏运用条件，而且在预测精度和效果的稳定性方面存在较大争议。鉴于我国复杂的社会环境和人文环境，国内各大商业银行通常利用DecisionTree算法构建判断规则。国外关于个人信用评估方面的研究已经有近百年的历史，出现过大量优秀的学者对于进行近似疯狂的探讨与分析。最早的线性判别方法是在19世纪40年代由DavidDurand提出。个人信用评估的研究自Fisher在1936年的一项开创性实验开始，经历了萌芽期、发展期和成熟期。于20世纪80年代，个人信用研究进入稳定发展阶段，目前这方面已经出版了许多颇有影响的著作，关于个人信用方面的学术文章也层出不穷，这些研究成果极大地推进了个人消费市场规模的扩展，高效的促进了各国经济的发展。因为影响信用评估问题的因素繁多且复杂，国外的学者虽然作出了很多优秀的研究与作品，但仍然不能交出一份令人满意的答卷。多数学者局限于模型的设计而忽略的信用数据本身的特性。近年来，针对信用数据的线性特征，国外一批学者尝试将统计学、数据挖掘以及机器学习等数据挖掘领域的最新成果，如多元判别分析、遗传算法、神经网络技术和支持向量机等算法应用于个人信用评分研究的[5]各个环节中。大致归纳出的指标包括：年龄、性别、婚姻状况、工作性质、工作行业、工作稳定性、工作时间、文化程度、剩余授信透支额度值、贷款金融、每月还款金额等。VS国外现状研究思路研究思路

本篇论文的研究思路是：选取当今最为广泛应用的三种算法NeuralNet、SVM、DecisionTree，通过RapidMiner工具建立三种学习模型，最后用交叉验证算法分析和验证模型的”好“”坏“，得出结论，在信用评估风险这一模块，哪种算法最适用。研究思路数据处理导入数据建立模型验证模型结果分析实验过程实验过程搜集数据，预处理数据处理好的数据导入RapidMiner工具中三种算法依次建立模型，得出模型结果用交叉验证分析模型，得出结论是”好“或”坏“01020304导入数据选择数据表导入数据设置参数角色建立模型神经网络具体权重（隐含层）具体权重（输出层）支持向量机具体权重决策树模型决策树模型图交叉验证结果分析NeuralNetSVMDecisionTree神经网络SVM决策树精确度79.30%81.30%82.00%实验问题与猜想进一步实验操作结果分析实验结论进一步实验“

前面所做的实验有一个共同的问题，不管哪一种算法，对于”0“类的处理精确度极高，相反的，对于”1“类的精确度极差。我们猜测，可能是数据量的问题导致问题的出现，所以我们接下来用不同的数据量再次做实验。实验的问题以及进一步的实验实验问题与猜想“

我们数据量的值取五组，分别是50、100、300、500、1000个数据，”0“、”1“类均分。再次用NeuralNet、SVM、DecisionTree三种算法建立模型，验证模型，算出精确度。进一步的实验数据量取1000：NeuralNetSVMDecisionTree数据量取500：NeuralNetSVMDecisionTree数据量取300：NeuralNetSVMDecisionTree数据量取100：NeuralNetSVMDecisionTree数据量取50：NeuralNetSVMDecisionTree结果分析1000组500组300组100组50组神经网络60.70%60.00%54.00%54.00%48.00%SVM65.10%65.20%57.33%61.00%50.00%决策树62.00%49.40%48.00%59.00%70.00%模型准确率样本数实验结论

上述实验中，我们可以得出结论：SVM处理大数据效果好，决策树处理小数据效果好，当数据量较小时，决策树对处理其中某一类值的效果好，数据量较大时，SVM对处理其中某一类值的效果好。总结总结

在个人信用风险评估这一模块，我们通过大量的实验证明，SVM和决策树对于处理