逻辑回归分析-课件

SPSS16实用教程逻辑回归分析SPSS16实用教程逻辑回归分析1在前面学到的回归模型中，我们处理的因变量都是数值型区间变量，建立的模型描述的是因变量的期望与自变量之间的线性关系。线性回归模型：然而，在许多实际问题中，我们需要研究的响应变量不是区间变量而是顺序变量或名义变量这样的属性变量。7.8逻辑回归分析7.8.1统计学上的定义和计算公式在前面学到的回归模型中，我们处理的因变量都是数值型区间变量，2比如在致癌因素的研究中，我们收集了若干人的健康记录，包括年龄、性别、抽烟史、日常饮食以及家庭病史等变量的数据。响应变量在这里是一个两点（0-1）分布变量，Y=1（一个人得了癌症），Y=0（没得癌症）。如果我们按照（1）建立一般线性模型：比如在致癌因素的研究中，我们收集了若干人的健康记录，包括年龄3因为Y只能取0或1，而的取值是连续的。显然不能用来预测因变量Y。我们注意到，对于0-1型变量，E(Y)=P(Y=1)=p因而，我们似乎可以用来预测Y=1的概率，即：因为Y只能取0或1，而的取值是连续的。显然不4问题1.Y=1的概率与自变量之间的关系到底是不是线性的？（答案是否定的）例如：我们分析一个人是否买车与其年收入的关系。对于年薪5000元、5万元、50万元三个人，让他们的年薪分别增加5000元对于其买车的可能性影响是不一样的。问题1.Y=1的概率与自变量之间的关系到底是不是线性的？（5概率与自变量之间的关系图形往往是一个S型曲线概率与自变量之间的关系曲线概率与自变量之间的关系图形往往是一个S型曲线概率与自变量之间6问题2.概率的取值应该在0~1之间。但是（2）式的概率线性模型并不能满足这一点。逻辑回归分析-课件7我们可以通过对P进行一种变换（logit变换）

logit(p)=ln(p/(1-p))使得logit(p)与自变量之间存在线性相关的关系。模型的建立与解释我们可以通过对P进行一种变换（logit变换）模型的建立与解8同时，经过变换得到的模型也解决了（2）中，概率的预测值可能是[0,1]之外的数的缺陷。（3）式建立的模型，我们称为logistic模型（逻辑回归模型）。同时，经过变换得到的模型也解决了（2）中，概率的预测值可能是9我们在学习交叉列联表的相关知识的时候，提到过优势或发生比（odds）和优势比或发生比率（oddsratio）的概念是事件发生于不发生的概率之比那么逻辑模型就可以写成我们在学习交叉列联表的相关知识的时候，提到过优势或发生比（o10那么Xi增加一个单位ln(odds|xi+1)=ln(odds|xi)+βi于是上式我们叫做优势比（oddsratio）近似可看成是在Xi+1与Xi两种情况下，事件发生的概率之比。则，P{Y=1|Xi+1}≈P{Y=1|Xi}exp{βi}那么Xi增加一个单位11最终，我们可能关心的是根据自变量的值来对Y的取值0或1进行预测。而我们的逻辑回归模型得到的只是关于P{Y=1|x}的预测。但是，我们可以根据模型给出的Y=1的概率（可能性）的大小来判断预测Y的取值。一般，以0.5为界限，预测p大于0.5时，我们判断此时Y更可能为1，否则认为Y=0。最终，我们可能关心的是根据自变量的值来对Y的取值0或1进行预12对于逻辑模型模型系数的估计不能适用最小二乘估计（OLS）。这里，我可以运用最大似然估计（MLE）的方法。OLS通过使得样本观测数据的残差平方和最小来选择参数，而MLE通过最大化对数似然值来估计参数。模型系数的确定对于逻辑模型模型系数的确定13设y是0-1型变量，是与y相关的自变量，n组观测数据为。于是y1,y2,…,yn的似然函数为对数似然函数为最大似然估计就是选取的估计值使得log似然函数最大化。

设y是0-1型变量，是与y相关的自变14模型检验以下是关于模型拟合优度的度量以及模型参数检验的分析模型检验以下是关于模型拟合优度的度量以及模型参数检验的分析15与任何概率一样，似然的取值范围在[0,1]之间。−2LL的计算公式为其报告值越小说明似然函数值越大从而模型拟合程度越好两个模型之间显著性似然比检验统计量的形式为-2log(L0/L1)=-2LL0-(-2LL1)（自由度为参数个数之差的卡方分布）L1是更大参数空间上的模型的似然函数。1．-2对数似然值（-2loglikelihood，-2LL）与任何概率一样，似然的取值范围在[0,1]之间。−216Logistic回归的拟合优度统计量计算公式为Pearson残差平方和，在原假设（所建立的模型与饱和模型没有显著性差异）下也服从自由度为两个模型参数之差的卡方分布2．拟合优度（GoodnessofFit）统计量Logistic回归的拟合优度统计量计算公式为2．拟17Predicted（预测值）01PercentCorrect（正确分类比例）Observed（观测值）0n00n01f01n10n11f1Overall（总计）ffClassificationTableforY在实际问题中，通常采用如下分类表（ClassificationTable）反映拟合效果。Predicted（预测值）01PercentCorrec183．Cox和Snell的R2（Cox&Snell’sR-Square）3．Cox和Snell的R2（Cox&Snell’sR-194．Nagelkerke的R2（Nagelkerke’sR-Square）4．Nagelkerke的R2（Nagelkerke’s205．伪R2（Psedo-R-square）伪R2与线性回归模型的R2相对应，其意义相似，但它小于1。5．伪R2（Psedo-R-square）伪R2与216．Hosmer和Lemeshow的拟合优度检验统计量与一般拟合优度检验不同，Hosmer和Lemeshow的拟合优度检验通常把样本数据根据预测概率分为10组，然后根据观测频数和期望频数构造卡方统计量（即Hosmer和Lemeshow的拟合优度检验统计量，简称H-L拟合优度检验统计量），最后根据自由度为8的卡方分布计算其值并对Logistic模型进行检验。6．Hosmer和Lemeshow的拟合优度检验统计量22如果该p值小于给定的显著性水平（如=0.05），则拒绝因变量的观测值与模型预测值不存在差异的零假设，表明模型的预测值与观测值存在显著差异。如果值大于，我们没有充分的理由拒绝零假设，表明在可接受的水平上模型的估计拟合了数据。如果该p值小于给定的显著性水平（如=0.05），则拒237．Wald统计量（回归系数的非零检验）Wald统计量用于判断一个变量是否应该包含在模型中，其检验步骤如下。（1）提出假设。（2）构造Wald统计量。（3）作出统计判断。7．Wald统计量（回归系数的非零检验）Wald统计24研究问题在一次关于某城镇居民上下班使用交通工具的社会调查中，因变量y=1表示居民主要乘坐公共汽车上下班；y

=0表示主要骑自行车上下班；自变量x1表示被调查者的年龄；x2表示被调查者的月收入；x3表示被调查者的性别（x3=1为男性，x3=0为女性）x3在这里是一个虚拟变量。试建立y与自变量间的Logistic回归，数据如表7-7所示。7.8.2SPSS中实现过程研究问题7.8.2SPSS中实现过程25表7-7 使用交通工具上下班情况序号x1（年龄）x2（月收入：元）x3（性别）y118850002211200003238500142395001528120001631850007361500018421000019469500110481200001155180001125621000113581800011418850101520100010162512001017271300101828150010193095011203210001021331800102233100010233812001024411500102545180011264810001027521500112856180011表7-7 使用交通工具上下班情况序号x1（年龄）x2（月收入26实现步骤实现步骤27图7-24“LogisticRegression”对话框将因变量放入dependent栏，自变量放入covariates栏中图7-24“LogisticRegression”对话28制定变量引入模型的方法制定变量引入模型的方法29逻辑回归分析-课件30和线性回归一样，我们可以通过next按钮把自变量分成不同的组块，使不同的组块按顺序以不同的方式分步进入模型这里，我们可以把几个变量的乘积作为自变量引入模型作为交互影响项和线性回归一样，我们可以通过next按钮把自变量分成不同的组31如果自变量中有分类变量，在这里可以设置相应的虚拟变量如果自变量中有分类变量，在这里可以设置相应的虚拟变量32图7-25“LogisticRegression：Options”对话框Classificationplots:制作分类图，通过比较因变量的观测值与预测值的关系，反映回归模型的拟合效果。Hosmer-Lemeshowgoodness-of-fit:H-L检验。Casewiselistingofresiduals:显示个案的残差值（显示标准化残差超过两倍标准方差的个案或显示所有个案）Correlationsofestimates:输出模型中各参数估计的相关矩阵。Iterationhistory:输出最大似然估计迭代过程中的系数以及log似然值。CIforexp(B):输出exp(beta)的置信区间，默认置信度为95%图7-25“LogisticRegression：Op33根据概率对数据进行分类时的概率界限值，默认值为0.5参数估计时，似然函数值收敛到最大值前的最大迭代次数。选择输出结果的方式。显示每一步的计算结果或是只显示最后的结果设定自变量进入模型方程或被剔除出方程的标准。根据概率对数据进行分类时的概率界限值，默认值为0.5参数估计34在save选项中，我们可以选择需要保存的数据文件中的统计量。包括残差值、个案影响度统计量、预测概率值等等在save选项中，我们可以选择需要保存的数据文件中的统计量。35逻辑回归分析-课件36（1）第一部分输出结果有两个表格，第一个表格说明所有个案（28个）都被选入作为回归分析的个案。7.8.3结果和讨论（1）第一部分输出结果有两个表格，第一个表格说明所有37第二个表格说明初始的因变量值（0，1）已经转换为逻辑回归分析中常用的0、1数值。第二个表格说明初始的因变量值（0，1）已经转换为逻辑38（2）第二部分（Block0）输出结果有4个表格。（组块0里只有常数项，没有自变量）（2）第二部分（Block0）输出结果有4个表格。39分类表分类表40逻辑回归分析-课件41（3）OmnibusTestsofModelCoefficients表格列出了模型系数的OmnibusTests结果。（3）OmnibusTestsofModel42（4）ModelSummary表给出了-2对数似然值、Cox和Snell的R2以及Nagelkerke的R2检验统计结果。（4）ModelSummary表给出了-2对数似43（5）HosmerandLemeshowTestP值大于0.05，说明模型有一定的解释能力（5）HosmerandLemeshowTes44（6）ClassificationTable分类表说明第一次迭代结果的拟合效果，从该表格可以看出对于y=0，有86.7%的准确性；对于y=1，有76.9%准确性，因此对于所有个案总共有82.1%的准确性。

（6）ClassificationTable分类表45（7）VariablesintheEquation表格列出了Step1中各个变量对应的系数，以及该变量对应的Wald统计量值和它对应的相伴概率。从该表格中可以看出x3相伴概率最小，Wald统计量最大，可见该变量在模型中很重要。回归系数的估计值系数的wald检验Exp(beta)的估计值以及区间估计（7）VariablesintheEquati46（8）CorrelationMatrix表格列出了常数Constant、系数之间的相关矩阵。常数与x2之间的相关性最大，x1和x3之间的相关性最小。（8）CorrelationMatrix表格列出了常47（9）图7-26所示是观测值和预测概率分布图。该图以0和1为符号，每四个符号代表一个个案。横坐标是个案属于1的录属度，这里称为预测概率（PredictedProbability）。纵坐标是个案分布频数，反映个案的分布。（9）图7-26所示是观测值和预测概率分布图。该图以048逻辑回归分析-课件49（10）逻辑回归的最后一个输出表格是CasewiseList，列出了残差大于2的个案。（10）逻辑回归的最后一个输出表格是Casewise501.根据三个财务比率估计公司破产概率。（数据见ftp财务比率与破产预测.sav）Y=0，若两年后破产Y=1，若两年后仍有偿付能力X1=未分配利润/总资产X2=支付利息税金前的利润/总资产X3=销售额/总资产按照习题模式，列出最终计算结果，并做出必要解释。（Logistic模型最终表达式模型检验、拟合优度Wald检验最终分类表、观测与预测分布图系数相关矩阵）作业（共两题）1.根据三个财务比率估计公司破产概率。（数据见ftp财务512.对于1986年挑战者号航天飞机灾难之前的23次航天飞行，数据航天飞机热遇险.sav给出了飞行时温度和是否至少有一个主要O型圈遭受热遇险。（数据见ftp）a)利用logistic回归建立温度对热遇险概率的模型，并对效应进行解释。b)估计挑战者号飞行时温度为华氏31度时的热遇险概率。c)温度为多少时，概率等于0.50？在该温度下，给出温度每增加一度导致的概率估计值的线性近似变化。d)利用wald检验，检验不存在温度效应的假设2.对于1986年挑战者号航天飞机灾难之前的23次航天飞行，52小结回归分析是研究变量与变量之间联系的最为广泛的模型。在实际中，根据变量的个数、类型，以及变量之间的相关关系，回归分析通常分为一元线性回归分析、多元线性回归分析、非线性回归分析、曲线估计、时间序列的曲线估计、含虚拟自变量的回归分析和逻辑回归分析等。小结回归分析是研究变量与变量之间联系的最为广53小结一元线性回归只涉及一个自变量的回归问题；多元线性回归用于解决两个或两个以上自变量对一个因变量的数量变化关系问题；非线性回归主要解决在非线性相关条件下，自变量对因变量的数量变化关系；时间序列的曲线回归用于研究因变量与时间之间的变化关系；当遇到非数量型变量时，通过引入虚拟变量来构造含虚拟变量的回归模型；Logistic回归分析是对定性变量进行的回归分析。小结一元线性回归只涉及一个自变量的回归问题；54小结SPSS中“Analyze”/“Regression”菜单可用于回归统计分析。其中，一元线性回归、多元线性回归和含虚拟变量的回归分析可由“Linear”子菜单完成；非线性回归分析、曲线估计和时间序列的曲线估计可由“CurveEstimation”子菜单完成；逻辑回归分析可由“BinaryLogistic”子菜单完成。小结SPSS中“Analyze”/“Regr55SPSS16实用教程逻辑回归分析SPSS16实用教程逻辑回归分析56在前面学到的回归模型中，我们处理的因变量都是数值型区间变量，建立的模型描述的是因变量的期望与自变量之间的线性关系。线性回归模型：然而，在许多实际问题中，我们需要研究的响应变量不是区间变量而是顺序变量或名义变量这样的属性变量。7.8逻辑回归分析7.8.1统计学上的定义和计算公式在前面学到的回归模型中，我们处理的因变量都是数值型区间变量，57比如在致癌因素的研究中，我们收集了若干人的健康记录，包括年龄、性别、抽烟史、日常饮食以及家庭病史等变量的数据。响应变量在这里是一个两点（0-1）分布变量，Y=1（一个人得了癌症），Y=0（没得癌症）。如果我们按照（1）建立一般线性模型：比如在致癌因素的研究中，我们收集了若干人的健康记录，包括年龄58因为Y只能取0或1，而的取值是连续的。显然不能用来预测因变量Y。我们注意到，对于0-1型变量，E(Y)=P(Y=1)=p因而，我们似乎可以用来预测Y=1的概率，即：因为Y只能取0或1，而的取值是连续的。显然不59问题1.Y=1的概率与自变量之间的关系到底是不是线性的？（答案是否定的）例如：我们分析一个人是否买车与其年收入的关系。对于年薪5000元、5万元、50万元三个人，让他们的年薪分别增加5000元对于其买车的可能性影响是不一样的。问题1.Y=1的概率与自变量之间的关系到底是不是线性的？（60概率与自变量之间的关系图形往往是一个S型曲线概率与自变量之间的关系曲线概率与自变量之间的关系图形往往是一个S型曲线概率与自变量之间61问题2.概率的取值应该在0~1之间。但是（2）式的概率线性模型并不能满足这一点。逻辑回归分析-课件62我们可以通过对P进行一种变换（logit变换）

logit(p)=ln(p/(1-p))使得logit(p)与自变量之间存在线性相关的关系。模型的建立与解释我们可以通过对P进行一种变换（logit变换）模型的建立与解63同时，经过变换得到的模型也解决了（2）中，概率的预测值可能是[0,1]之外的数的缺陷。（3）式建立的模型，我们称为logistic模型（逻辑回归模型）。同时，经过变换得到的模型也解决了（2）中，概率的预测值可能是64我们在学习交叉列联表的相关知识的时候，提到过优势或发生比（odds）和优势比或发生比率（oddsratio）的概念是事件发生于不发生的概率之比那么逻辑模型就可以写成我们在学习交叉列联表的相关知识的时候，提到过优势或发生比（o65那么Xi增加一个单位ln(odds|xi+1)=ln(odds|xi)+βi于是上式我们叫做优势比（oddsratio）近似可看成是在Xi+1与Xi两种情况下，事件发生的概率之比。则，P{Y=1|Xi+1}≈P{Y=1|Xi}exp{βi}那么Xi增加一个单位66最终，我们可能关心的是根据自变量的值来对Y的取值0或1进行预测。而我们的逻辑回归模型得到的只是关于P{Y=1|x}的预测。但是，我们可以根据模型给出的Y=1的概率（可能性）的大小来判断预测Y的取值。一般，以0.5为界限，预测p大于0.5时，我们判断此时Y更可能为1，否则认为Y=0。最终，我们可能关心的是根据自变量的值来对Y的取值0或1进行预67对于逻辑模型模型系数的估计不能适用最小二乘估计（OLS）。这里，我可以运用最大似然估计（MLE）的方法。OLS通过使得样本观测数据的残差平方和最小来选择参数，而MLE通过最大化对数似然值来估计参数。模型系数的确定对于逻辑模型模型系数的确定68设y是0-1型变量，是与y相关的自变量，n组观测数据为。于是y1,y2,…,yn的似然函数为对数似然函数为最大似然估计就是选取的估计值使得log似然函数最大化。

设y是0-1型变量，是与y相关的自变69模型检验以下是关于模型拟合优度的度量以及模型参数检验的分析模型检验以下是关于模型拟合优度的度量以及模型参数检验的分析70与任何概率一样，似然的取值范围在[0,1]之间。−2LL的计算公式为其报告值越小说明似然函数值越大从而模型拟合程度越好两个模型之间显著性似然比检验统计量的形式为-2log(L0/L1)=-2LL0-(-2LL1)（自由度为参数个数之差的卡方分布）L1是更大参数空间上的模型的似然函数。1．-2对数似然值（-2loglikelihood，-2LL）与任何概率一样，似然的取值范围在[0,1]之间。−271Logistic回归的拟合优度统计量计算公式为Pearson残差平方和，在原假设（所建立的模型与饱和模型没有显著性差异）下也服从自由度为两个模型参数之差的卡方分布2．拟合优度（GoodnessofFit）统计量Logistic回归的拟合优度统计量计算公式为2．拟72Predicted（预测值）01PercentCorrect（正确分类比例）Observed（观测值）0n00n01f01n10n11f1Overall（总计）ffClassificationTableforY在实际问题中，通常采用如下分类表（ClassificationTable）反映拟合效果。Predicted（预测值）01PercentCorrec733．Cox和Snell的R2（Cox&Snell’sR-Square）3．Cox和Snell的R2（Cox&Snell’sR-744．Nagelkerke的R2（Nagelkerke’sR-Square）4．Nagelkerke的R2（Nagelkerke’s755．伪R2（Psedo-R-square）伪R2与线性回归模型的R2相对应，其意义相似，但它小于1。5．伪R2（Psedo-R-square）伪R2与766．Hosmer和Lemeshow的拟合优度检验统计量与一般拟合优度检验不同，Hosmer和Lemeshow的拟合优度检验通常把样本数据根据预测概率分为10组，然后根据观测频数和期望频数构造卡方统计量（即Hosmer和Lemeshow的拟合优度检验统计量，简称H-L拟合优度检验统计量），最后根据自由度为8的卡方分布计算其值并对Logistic模型进行检验。6．Hosmer和Lemeshow的拟合优度检验统计量77如果该p值小于给定的显著性水平（如=0.05），则拒绝因变量的观测值与模型预测值不存在差异的零假设，表明模型的预测值与观测值存在显著差异。如果值大于，我们没有充分的理由拒绝零假设，表明在可接受的水平上模型的估计拟合了数据。如果该p值小于给定的显著性水平（如=0.05），则拒787．Wald统计量（回归系数的非零检验）Wald统计量用于判断一个变量是否应该包含在模型中，其检验步骤如下。（1）提出假设。（2）构造Wald统计量。（3）作出统计判断。7．Wald统计量（回归系数的非零检验）Wald统计79研究问题在一次关于某城镇居民上下班使用交通工具的社会调查中，因变量y=1表示居民主要乘坐公共汽车上下班；y

=0表示主要骑自行车上下班；自变量x1表示被调查者的年龄；x2表示被调查者的月收入；x3表示被调查者的性别（x3=1为男性，x3=0为女性）x3在这里是一个虚拟变量。试建立y与自变量间的Logistic回归，数据如表7-7所示。7.8.2SPSS中实现过程研究问题7.8.2SPSS中实现过程80表7-7 使用交通工具上下班情况序号x1（年龄）x2（月收入：元）x3（性别）y118850002211200003238500142395001528120001631850007361500018421000019469500110481200001155180001125621000113581800011418850101520100010162512001017271300101828150010193095011203210001021331800102233100010233812001024411500102545180011264810001027521500112856180011表7-7 使用交通工具上下班情况序号x1（年龄）x2（月收入81实现步骤实现步骤82图7-24“LogisticRegression”对话框将因变量放入dependent栏，自变量放入covariates栏中图7-24“LogisticRegression”对话83制定变量引入模型的方法制定变量引入模型的方法84逻辑回归分析-课件85和线性回归一样，我们可以通过next按钮把自变量分成不同的组块，使不同的组块按顺序以不同的方式分步进入模型这里，我们可以把几个变量的乘积作为自变量引入模型作为交互影响项和线性回归一样，我们可以通过next按钮把自变量分成不同的组86如果自变量中有分类变量，在这里可以设置相应的虚拟变量如果自变量中有分类变量，在这里可以设置相应的虚拟变量87图7-25“LogisticRegression：Options”对话框Classificationplots:制作分类图，通过比较因变量的观测值与预测值的关系，反映回归模型的拟合效果。Hosmer-Lemeshowgoodness-of-fit:H-L检验。Casewiselistingofresiduals:显示个案的残差值（显示标准化残差超过两倍标准方差的个案或显示所有个案）Correlationsofestimates:输出模型中各参数估计的相关矩阵。Iterationhistory:输出最大似然估计迭代过程中的系数以及log似然值。CIforexp(B):输出exp(beta)的置信区间，默认置信度为95%图7-25“LogisticRegression：Op88根据概率对数据进行分类时的概率界限值，默认值为0.5参数估计时，似然函数值收敛到最大值前的最大迭代次数。选择输出结果的方式。显示每一步的计算结果或是只显示最后的结果设定自变量进入模型方程或被剔除出方程的标准。根据概率对数据进行分类时的概率界限值，默认值为0.5参数估计89在save选项中，我们可以选择需要保存的数据文件中的统计量。包括残差值、个案影响度统计量、预测概率值等等在save选项中，我们可以选择需要保存的数据文件中的统计量。90逻辑回归分析-课件91（1）第一部分输出结果有两个表格，第一个表格说明所有个案（28个）都被选入作为回归分析的个案。7.8.3结果和讨论（1）第一部分输出结果有两个表格，第一个表格说明所有92第二个表格说明初始的因变量值（0，1）已经转换为逻辑回归分析中常用的0、1数值。第二个表格说明初始的因变量值（0，1）已经转换为逻辑93（2）第二部分（Block0）输出结果有4个表格。（组块0里只有常数项，没有自变量）（2）第二部分（Block0）输出结果有4个表格。94分类表分类表95逻辑回归分析-课件96（3）OmnibusTestsofModelCoefficients表格列出了模型系数的OmnibusTests结果。（3）OmnibusTestsofModel97（4）ModelSummary表给出了-2对数似然值、Cox和Snell的R2以及Nagelkerke的R2检验统计结果。（4）ModelSummary表给出了-2对数似98（5）HosmerandLemeshowTestP值大于0.05，说明模型有一定的解释能力（5）HosmerandLemeshowTes99（6）ClassificationTable分类表说明第一次迭代结果的拟合效果，从该表格可以看出对于y=0，有86.7%的准确性；对于y=1，有76.9%准确性，因此对于所有个案总共有82.1%的准确性。

（6）ClassificationTable分类表100（7）VariablesintheEquation表格列出了Step1中各个变量对应的系数，以及该变量对应的Wald统计量值和它对应的相伴概率。从该表格中可以看出x3相伴概率最小，Wald统计量最大，可见该变量在模型中很重要。回归系数的估计值系数的wald检验Exp(beta)的估计值以及区间估计（7）Variablesinthe