Logistic回归(1)

1、1 Logistic回归分析 Logistic regression392讲述内容讲述内容: :第一节第一节 logisticlogistic回归回归第二节第二节 条件条件logisticlogistic回归回归第三节第三节 logisticlogistic回归的应用回归的应用 及其注意事项及其注意事项393目的：目的：作出以多个自变量（危险因素）估计作出以多个自变量（危险因素）估计应变量（应变量（结果因素）结果因素）的的logistic回归方程。回归方程。属于概率型非线性回归。属于概率型非线性回归。资料：资料：1. 应变量为反映某现象发生与不发生的应变量为反映某现象发生与不发生的二值变量；二

2、值变量；2. 自变量宜全部或大部分为分类自变量宜全部或大部分为分类变量，可有少数数值变量。分类变量要数量变量，可有少数数值变量。分类变量要数量化。化。394用途：用途：研究某种疾病或现象发生和多个危研究某种疾病或现象发生和多个危 险因素（或保护因子）的数量关系。险因素（或保护因子）的数量关系。 用用 检验（或检验（或u检验）的检验）的局限性局限性： 1.只能研究只能研究1个危险因素；个危险因素； 2.只能得出定性结论。只能得出定性结论。2395 种类种类: 1. 成组（非条件）成组（非条件）logistic回归方程。回归方程。 2. 配对（条件）配对（条件）logistic回归方程。回归方程。

3、396第一节第一节 logistic回归回归 （非条件（非条件logistic回归回归 ）7（一）基本概念和原理（一）基本概念和原理 1.1.应用背景应用背景 LogisticLogistic回归模型是一种概率模型，适合于病例对照研究、随访研究和横断面研究，且结果发生的变量取值必须是二分的或多项分类。可用影响结果变量发生的因素为自变量与因变量，建立回归方程。8 设资料中有一个因变量y、p个自变量x1, x2,xp，对每个实验对象共有n次观测结果，可将原始资料列成表2形式。2、LogisticLogistic回归模型的数据结构9 表2 LogisticLogistic回归模型的数据结构实验对象

4、y X1 X2 X3 . XP 1 y1 a11 a12 a13 a1p 2 y2 a21 a22 a23 a2p 3 y3 a31 a32 a33 a3p n yn an1 an2 an3 anp 其中：y取值是二值或多项分类 表3 肺癌与危险因素的调查分析 例号 是否患病 性别 吸烟 年龄 地区 1 1 1 0 30 0 2 1 0 1 46 1 3 0 0 0 35 1 30 0 0 0 26 1 注：是否患病中，0代表否，1代表是。性别中1代表男，0代表女，吸烟中1代表吸烟，0代表不吸烟。地区中，1代表农村，0代表城市。 11LogisticLogistic回归回归- Logistic

5、- Logistic回归与回归与多重多重线性回归联系与区别线性回归联系与区别联系联系: : 用于分析多个自变量与一个因变量的关用于分析多个自变量与一个因变量的关系，目的是矫正混杂因素、筛选自变量和更系，目的是矫正混杂因素、筛选自变量和更精确地对因变量作预测等。精确地对因变量作预测等。区别区别: : 线性模型中因变量为连续性随机变量，线性模型中因变量为连续性随机变量，且要求呈正态分布且要求呈正态分布. Logistic. Logistic回归因变量的回归因变量的取值仅有两个，不满足正态分布。取值仅有两个，不满足正态分布。123 3、 Logistic回归模型l 令令： y=1 发病（阳性、死亡、

6、治愈等）发病（阳性、死亡、治愈等）l y=0 未发病（阴性、生存、未治愈等）未发病（阴性、生存、未治愈等）l 将发病的概率记为将发病的概率记为P，它与自变量，它与自变量x x1 1, , x x2 2, ,x,xp p之间的之间的Logistic回归模型为：回归模型为：l可知，不发病的概率为：可知，不发病的概率为：l )exp(1)exp(110110ppppXXXXp )exp(111110ppXXp 经数学变换得：定义：为Logistic变换，即： ppXXpp 110)1/(ln)1/(ln)(logpppitppXXpLogit 110)(14 4、回归系数i的意义 流行病学的常用指标

7、优势比（odds ratio,OR)或称比数比，定义为：暴露人群发病优势与非暴露人群发病优势之比。 即Xi的优势比为：)1/()1/(0011PPPPORiiiPitPitORLn)0() 1()0(log)1 (log)(00 故对于样本资料OR=exp( ) 95%置信区间为： 可见 是影响因素Xi增加一个单位所引起的对数优势的增量，反映了其对Y作用大小。 如果要比较不同因素对Y作用大小，需要消除变量量纲的影响，为此计算标准化回归系数ibi的标准差。为的标准差，为其中ySXSSSbbyiiyiii,/*影响越大。其因素对的估计值，此值越大，为Ybii)(96. 1exp(iibSEb 二

8、、Logistic回归的参数估计及意义 Logistic回归的参数估计及意义 P表示某个体发生某病的概率，自变量表示m个危险因素，式中的常数项表示在无各危险因素时的发病概率对不发病概率之比的自然对数，而logistic回归系数表示当危险因素每变化1个单位时(其它危险因素取值的变化量。 通常用最大似然估计法求解模型中参数的估计值 似然函数 niYiYiiiPPL11)1(5.假设检验 （1）回归方程的假设检验 H0：所有 H1： 某个 计算统计量为：G=-2lnL，服从自由度等于n-p的 分布 （2）回归系数的假设检验 H0： H1：pii, 2 , 1 , 0, 0 0i20i0i计算统计量为

9、：Wald2，自由度等于1。18 具体方法是：先拟合不包含待检验因素的logistic模型，求对数似然函数值；再拟合包含待检验因素的logistic模型，求另一个对数似然函数值；比较两个对数似然函数值差别的大小2d2lndGDD 不包含此变量的模型 包含此变量的模型不含此变量的似然函数含此变量的似然函数19202, 1jjjjbbbbuSS2 或 2值均大于 3.84,说明食道癌与吸烟、饮酒有关系，结论同前。 2.21 3 score 检验检验 以未包含某个或几个变量的模型计算以未包含某个或几个变量的模型计算保留模型中参数的估计值，并假设新增保留模型中参数的估计值，并假设新增参数为零，计算似然

10、函数的一价偏导数参数为零，计算似然函数的一价偏导数及信息距阵，两者相乘便得比分检验的及信息距阵，两者相乘便得比分检验的统计量统计量S S 。n n 较大时，较大时， S S近似服从自由近似服从自由度为待检因素个数的度为待检因素个数的 分布。分布。22 以上三种方法中，在多数情况下，似然比检验是最有效的检验，score检验一般与它相一致。但两者计算量均较大； Wald检验主要用于对单个回归系数的检验，但是Wald检验未考虑各因素间的综合作用，比较保守，在因素间有共线性存在时,结果不像其它两者可靠。、似然比检验检验统计量为 )ln(ln201LLG G服从2分布, 自由度为增加变量的个数。、Wal

11、d检验 检验统计量为22)(SELogistic回归分析一般过程 变量的选择 建立logistic回归模型时，要求进入模型的自变量应对反应变量有解释能力。通常研究者根据专业知识和研究的问题，首先确定要研究的反应变量和自变量 单因素分析(变量的粗略选择) 用单因素分析对自变量进行筛选：卡方检验、t检验或单因素的logistic回归25变量筛选变量筛选 26解 释 设第i个因素的回归系数为bi，表示当有多个自变量存在时，其它自变量固定不变的情况下，自变量Xi每增加一个单位时，所得到的优势比的自然对数。也就是其它自变量固定不变的情况下，自变量Xi每增加一个单位时，影响因变量Y=0发生的倍数。 当bi

12、0时，对应的优势比(odds ratio,记为ORi）:ORi=exp(bi)1,说明该因素是危险因素；当bi0时，对应的优势比ORi=exp(bi)1,说明该因素是保护因素。 27二分类二分类LogisticLogistic回归回归 method method中文名称中文名称剔除依据剔除依据EnterEnter全部进入全部进入Forward:condiForward:conditionaltional向前逐步向前逐步条件参数估计似然比条件参数估计似然比Forward:LRForward:LR向前逐步向前逐步最大偏似然估计似然比最大偏似然估计似然比Forward:WaldForward:Wal

13、d向前逐步向前逐步WaldWald统计量统计量Backward:condBackward:conditionalitional向后逐步向后逐步条件参数估计似然比条件参数估计似然比Backward:LRBackward:LR向后逐步向后逐步最大偏似然估计似然比最大偏似然估计似然比Backward:WaldBackward:Wald 向后逐步向后逐步WaldWald统计量统计量28二分类二分类LogisticLogistic回归回归多重比较的方法多重比较的方法Indicator第一类或最后一类为参照类，每一类与第一类或最后一类为参照类，每一类与 参照类比较参照类比较Simple-除参照类外，每一类

14、与参照类比较除参照类外，每一类与参照类比较Difference-除第一类外，每一类与其前各类的平均除第一类外，每一类与其前各类的平均 效应比较，有称反效应比较，有称反HelmertHelmertHelmert-除最后一类外，每一类与其后各类的平均除最后一类外，每一类与其后各类的平均Repeated相邻两类比较，除第一类外，每类与其前一相邻两类比较，除第一类外，每类与其前一 比较比较Polynominal正交多名义分类比较，该法假设每一分类正交多名义分类比较，该法假设每一分类都都 有相等的空间，仅适于数值变量有相等的空间，仅适于数值变量Deviation除参照类外，每一类与总效应比较除参照类外，

15、每一类与总效应比较 为了探讨糖尿病与血压、血脂等因素的关系，某研究者对56例糖尿病病人和65例对照者进行病例-对照研究，收集了性别、年龄、学历、体重指数、家族史、吸烟、血压、总胆固醇、甘油三酯、高密度脂蛋白、低密度脂蛋白11个因素的资料。例 题性别年龄学历体重指数家族史吸烟血压总胆固醇甘油三脂hdlldl糖尿病160221114.301.501.242.300148321114.601.321.152.300263211124.601.151.152.300168322114.151.431.073.210145212113.421.22.632.300145332114.16.96.982.

16、650159211114.321.021.053.490168331113.801.422.86.850263221113.871.552.44.810 表2 糖尿病影响因素赋值说明因素变量名赋值说明性别X1男=1，女=2年龄X2学历X3小学以下=1，小学=2，初中=3，高中=4，大专及以上=5体重指数X424=1, 2426=2, 26=3家族史X5无=1，有=2吸烟X6不吸=1，吸=2血压X7正常=1，高=2总胆固醇X8甘油三酯X9高密度脂蛋白X10低密度脂蛋白X11糖尿病Y对照=0，病例=1 建立数据库 单因素logistic回归（分别对性别、年龄、学历等做回归分析）Variables

17、in the EquationVariables in the Equation.263.636.1711.6791.301.3744.527.085.0365.5211.0191.0891.0141.168-.699.2985.5131.019.497.277.8911.621.5528.6211.0035.0561.71414.9151.634.6825.7441.0175.1241.34719.4973.126.71419.1741.00022.7875.62392.3411.647.6706.0401.0145.1901.39619.298.606.4721.6471.1991.832

18、.7274.6212.3121.0424.9291.02610.0981.31177.767-.914.4324.4841.034.401.172.934.017.416.0021.9671.017.4502.300-20.2074.65218.8661.000.000性别年龄学历体重指数家族史吸烟血压总胆固醇甘油三脂hdlldlConstantStep1aBS.E.WalddfSig.Exp(B)LowerUpper95.0% C.I.for EXP(B)Variable(s) entered on step 1: 性别, 年龄, 学历, 体重指数, 家族史, 吸烟, 血压, 总胆固醇, 甘油三脂, hdl, ldl.a. 例例2 为了不手术而又能弄清前列腺癌患者淋巴结的转移为了不手术而又能弄清前列腺癌患者淋巴结的转