《大数据分析与挖掘》实训教案-逻辑回归算法在信用风险预测场景中的应用

逻辑回归算法在信用风险预测场景中的应用一、操作环境1.操作系统：windowAll2.软件平台：LogisPMT,python3.4二、业务场景信用风险也可以称为违约风险，是指借款人、证券发行人或交易对方因种种原因，不愿或无力履行合同条件而构成违约，致使银行、投资者或交易对方遭受损失的可能性。客户是财富来源同时也是风险来源，客户信用风险，如拖欠、赖账、欺诈、破产，都可能会给银行和企业带来巨大的损失。80年代末以来,随着金融的全球化趋势及金融市场的波动性加剧,各国银行和投资者受到了前所未有的信用风险的挑战。银行存在的主要风险是信用风险，这种风险不只出现在贷款中，也发生在担保、承兑和证券投资等表内、表外业务中。如果银行不能及时识别损失的资产，增加核销呆账的准备金，并在适当条件下停止利息收入确认，银行就会面临严重的风险问题。如何从鱼龙混杂的客户群体中识别出值得信赖的客户，避免低信用客户带来的高风险呢？当我们意识到这个问题的时候，信用风险评估就变得至关重要。国际金融界对信用风险的关注日益加强,信用风险评估方法不断推陈出新,管理技术正日臻完善,许多定量技术、支持工具和软件已付诸商业应用。另外，随着资本市场的迅速发展、融资的非中介化、证券化趋势以及金融创新工具的大量涌现,信用风险的复杂性也日益显著。以财务比率为基础的统计分析方法不能够充分反映借款人和证券发行人的资产在资本市场上快速变化的动态价值，鉴于此,基于数据挖掘的信用评估方法已经普遍收到重视。从分析对象来看，信用风险评估包括个人信用评分、企业信用评级和职业信用评价等，本案例中介绍的是个人信用评分，即通过使用科学严谨的分析方法建立信用评分模型，综合考察消费者个人各方面的基本信息和信用信息，并进行量化分析，以分值形式给出消费者的信用评分。目标：建立信用评估系统，当把信用卡用户的信息导入到该系统时，系统会自动输出用户的违约风险及违约风险程度，为信用卡用户的管理提供决策支持。三、数据历史信用卡用户违约记录数据。每条记录表征历史客户个人信息与债务信息以及该客户的违约情况，特征的详细信息如下表所示。特征类型示意年龄数值型客户当前年龄教育分类型客户受教育程度，从1—5，教育程度逐级递增工龄数值型客户当前工龄居住时长数值型客户当前居住所在地年限收入数值型客户当前收入负债率数值型客户当前负债率信用卡负债数值型客户当前信用卡负债额其他负债数值型客户其他类型的负债额违约分类型客户违约情况，1表示违约，0表示没违约四、操作步骤新建一个工程，如图1所示。图1新建工程1.数据载入 通过Data区域中的Logis云端数据组件载入“信用卡违约”数据，如图2所示。图2载入云端数据在对话框中的特征区域，用户可以通过双击属性名称，属性数据类型来实现自定义编辑。用户也可以进一步的观测到分类型属性的属性值值域。 为了观察原数据，从Data区域中选择数据表格组件，并与文件组件相连，双击打开，如图3所示。图3原始数据观察从对话框的左上角可以发现，该案例中，数据体量为850个记录，存在2%的缺失值，观察对话框的右侧，可以发现缺失值主要集中在违约字段，因此可以考虑采用存在标签的记录作为训练数据集，构建一个精准的信用卡客户违约预测模型，再去使用该模型去预测未知标签的客户，挖掘高潜违约客户。2.记录及特征选择为了抽取存在违约字段标签的信用卡客户记录，从Data区域中选择记录选择组件，并与文件组件相连，双击打开，在条件配置中，选择字段—违约，方法选择isoneof，勾选0和1，如图4所示。图3记录选择从上图对话框的下边区域可以观察到，抽取出来存在标签的数据记录总共有700条，缺失标签的记录共有150条。为了定义特征变量及目标变量，从Data区域中选择特征选择组件，并与记录选择组件相连，详细配置如图4所示。图4特征选择为了探索不同的特征变量对目标变量的程度以便过滤，同时考虑到特征变量中同时存在数值型与非数值型的字段，可采用信息增益，信息增益率等指标来进行探测，从Data区域中选择特征排名组件，并与特征选择组件相连，双击打开，如图5所示。图5特征排名探测为了消除一些对目标变量影响不大的特征，减少外部噪声，在属性选择区域选择排名前6的属性特征，如上图所示，教育以及其他负债两个字段对目标变量的影响微乎其微，反而徒增了数据体量及外部噪声，因此选择将其过滤。3.模型构建及评估本案例采用逻辑回归算法（Logistic回归算法）构建信用卡客户违约预测模型，逻辑回归虽然名字里带“回归”，但是实际上是一种分类方法，主要用于两分类问题（即输出只有两种，分别代表两个类别），回归模型中，y是一个定性变量，比如y=0或1，logistic方法主要应用于研究某些事件发生的概率。逻辑回归具有训练速度快，算法简单易于理解，能容易地更新模型吸收新的数据。（1）从Evaluate区域中选择模型评估组件，并与特征排名组件相连（将数据流引过去）；（2）从Model区域中选择逻辑回归组件，配置完参数后与模型评估组件相连（将算法流引过去）。为了降低模型过拟合风险，引入正则化选项，在逻辑回归组件中集成了套索回归（L1）和岭回归（L2）两种正则化方式，为了探测两种正则化方式对模型性能的影响，选择两个逻辑回归组件，在正则化选项配置中分别选择套索回归（L1）和岭回归（L2），其他配置暂且默认。这里介绍一下k-折交叉验证方法。训练集不同，得到的模型往往差异也比较大，测试的性能也就不同。有两种常用的策略处理这个问题：其一是多次随机的将2/3的数据作为训练集，用于建模，而将剩下的1/3的数据用于测试最后用多次测试的平均水平来评价模型的性能；其二是使用交叉验证策略。在样本量不大时往往采用第二种策略。k-折交叉验证方法的思想是，将原始数据集随机划分成k个互不相交的子集D1，D2，…，Dk，每个子集的大小相等，然后进行k次训练和检验过程：第一次，使用子集D2，D3，…，Dk一起作为训练集来构建模型，并在D1上检验；第二次，使用子集D1，D3，…，Dk一起作为训练集来构建模型，并在D2上检验；……在第k次迭代，使用子集Dk检验，其余的划分子集用于训练模型。这里用于训练的样本子集都为k-1次，并且用于检验一次。较常用的是10-折交叉检验，因为具有相对较低的偏倚和方差。参数配置如图6所示。图6参数配置将两个逻辑回归算法组件同时与模型评估组件相连，在模型评估组件选择10-折交叉检验。待模型训练完毕，双击打开模型评估组件，如图7所示。 图7模型性能参数从上图可以发现，两种正则化的方式对模型性能基本没有影响。模型的AUC值达到了0.850，具有较好的泛化性能。精度达到了0.681，召回率为0.50具有一定的预测能力。回归到业务场景中，本案例的业务目标是为了构建一个精准的信用卡客户违约预测模型，因此模型能精准的预测出高潜违约客户将具有重大意义。反观原始数据，用户可以发现，大多数的客户历史上基本不存在违约记录，仅有小部分的客户存在违约记录，因此模型准确的预测出一个违约的客户比预测出一个不会违约的客户将具有更为重大的意义。因此在本案例中，模型的预测准确度（CA）将不具有很大的参考性，模型的精度（Precision）和召回率（Recall）将具有重大参考标准，举个例子，若原始数据集中有900条客户没有违约的记录，以及100条客户的违约记录，假如模型将这些客户都预测为不会违约，此时模型的预测准确度达到了90%，但这样的模型在业务场景中是完全不具可行性的。为了介绍模型的精度（Precision）和召回率（Recall），引入混淆矩阵的概念。在Evaluate区域中选择混淆矩阵组件，并与模型评估组件相连，如图8所示。图8混淆矩阵二分类问题的混淆矩阵可以表示为如下表1所示。表1预测类别+-实际类别+真阳性（TP）假阴性（FN）-假阳性（FP）真阴性（TN）（1）精度（Precision）：正确分类的正例个数占预测分类为正例的样本个数的比例。（2）召回率（Recall）：正确分类的正例的个数占实际正例个数的比例。在本案例中，精度（Precision）表征为模型正确预测违约的信用卡客户数量占模型预测的违约信用卡客户数量上的占比，为0.681，召回率（Recall）表征为模型正确预测违约的信用卡客户数量占实际存在的违约信用卡客户数量的占比，为0.503，预测广度达到了一半。模型的预测能力较好的达到了预期。4.模型部署预测在上一小节中，我们获得了具有较强预测性能的信用卡客户违约预测模型，接下来采用该模型预测未知违约标签的信用卡客户，来区分不同违约风险程度的客户。操作步骤如下：将特征排名组件与其中的一个逻辑回归组件相连在Evaluate区域中选择一个预测组件，与记录选择组件相连，修改信号为UnmatchedData—>Data（抽取缺失标签的信用卡客户记录），如图9所示将已经训练完毕的逻辑回归组件与预测组件相连，双击打开，获得预测值，如图10所示。图9修改数据传送信号图10预测结果为了将具有不同违约风险程度的