生物统计学课件 回归与相关分析

回归与相关分析Regression&CorrelationAnalysisCHAPTER生物统计学第七章07CONTENTS本章内容概览回归分析与相关分析01简单线性回归基础最小二乘估计原理、回归方程构建、决定系数R²的含义与计算02回归模型的统计推断方差分析F检验、回归系数t检验、置信区间与预测区间的区别03回归诊断与模型验证残差分析方法、异方差检测、正态性检验、异常值与强影响点识别04多元线性回归矩阵表达、偏回归系数、多重共线性诊断VIF、逐步回归变量筛选05相关分析Pearson积矩相关、Spearman秩相关、适用条件对比与结果解读06Logistic回归与非线性模型二分类结局建模、OR值解释、常见非线性关系的线性化变换07综合案例与课程总结完整数据分析流程演示、常见误用警示、本章核心知识点回顾7SECTIONSBBIOSTATISTICSSECTIONCHAPTER01简单线性回归SimpleLinearRegression03OVERVIEW回归分析概述回归分析是研究因变量Y与自变量X之间数量依存关系的统计建模方法，核心目标是建立可量化、可预测的数学表达式，但统计关联不等同于因果关系。依存关系建模：回归分析研究一个连续型因变量Y如何随一个或多个自变量X的变化而变化，用数学方程刻画这种依存关系的强度与方向。三大核心目标：描述变量间数量关系、利用自变量预测因变量取值、通过控制自变量实现对因变量的干预调控。生物学典型应用：药物剂量-效应关系、体表面积-代谢率关系、环境因子-种群密度关系等，均需区分统计关联与因果推断。回归分析示意：X与Y的线性趋势散点呈现明显线性上升趋势BBIOSTATISTICSREGRESSION简单线性回归模型总体回归模型Y=β₀+β₁X+ε描述了X与Y的真实线性关系加上随机扰动，样本回归方程Ŷ=b₀+b₁X是对总体参数的估计。01总体回归模型Y=β₀+β₁X+ε，其中β₀为截距参数，β₁为斜率参数，ε为随机误差项，假定ε~N(0,σ²)且各观测误差相互独立。02样本回归方程Ŷ=b₀+b₁X，b₀和b₁分别是β₀和β₁的最小二乘估计值，Ŷ是给定X时Y条件均值的点估计。03模型基本假设线性关系误差独立性等方差性正态性这四项假设是后续所有统计推断成立的前提条件。REGRESSION最小二乘法原理PrincipleofOrdinaryLeastSquares最小二乘法通过最小化残差平方和Q=Σ(Yᵢ-Ŷᵢ)²来确定回归系数，使拟合直线在总体偏差最小的意义下最优。01优化目标以残差平方和Q=Σ(Yᵢ−b₀−b₁Xᵢ)²作为优化目标，寻找使Q最小的b₀和b₁。该准则避免正负残差相互抵消，并对大偏差给予更高的惩罚权重。02求解推导对Q分别关于b₀和b₁求偏导数并令其为零，得到正规方程组。求解后获得b₁=Sₓᵧ/Sₓₓ以及b₀=Ȳ−b₁X̄。03Gauss-Markov定理在满足模型基本假设的所有线性无偏估计中，OLS估计量的方差最小，即OLS是最优线性无偏估计（BLUE）。FORMULAREGRESSION回归系数计算公式斜率b₁由X与Y的协变程度(Sₓᵧ)相对于X自身变异程度(Sₓₓ)决定，截距b₀确保回归直线经过样本均值点(X̄,Ȳ)。01斜率b₁=Sxy/SxxSxy=Σ(Xi−X̄)(Yi−Ȳ)=ΣXiYi−(ΣXi)(ΣYi)/nSxx=Σ(Xi−X̄)²=ΣXi²−(ΣXi)²/n含义：Sxy衡量X与Y的联合变异（离均差积和），Sxx衡量X自身的变异（离均差平方和），二者之比即为回归斜率。02截距b₀=Ȳ−b₁X̄回归方程Ŷ=b₀+b₁X必过点(X̄,Ȳ)几何意义：b₀将斜率为b₁的直线平移到正确位置，确保回归直线经过样本均值点(X̄,Ȳ)。03计算示例n=10ΣX=50ΣY=80ΣXY=450ΣX²=300b₁=1.0b₀=3回归方程Ŷ=3+XREGRESSIONANALYSISSTATISTICALMEANING回归系数的统计含义b₁表示X每变动一个单位时Y条件均值的平均改变量；b₀仅在X=0有实际意义时才可解释。斜率b₁—单位变化率斜率b₁的单位是Y单位/X单位，例如体重(kg)对身高(cm)回归中b₁=0.8表示身高每增加1cm体重平均增加0.8kg。截距b₀—条件性解释截距b₀仅在X=0处于观测范围内且有专业意义时才具可解释性；若X=0不在数据范围或无实际含义，b₀仅起数学定位作用。条件均值vs个体预测—变异考量回归系数描述的是条件均值E(Y|X)的变化规律而非个体Y值的精确预测；个体预测还需考虑残差变异σ²。Biostatistics方差分解与决定系数R²Y的总变异SST=SSR+SSE，决定系数R²=SSR/SST衡量X对Y线性解释的比例。方差分解：总离均差平方和SST=Σ(Yᵢ−Ȳ)²分解为回归平方和SSR=Σ(Ŷᵢ−Ȳ)²与残差平方和SSE=Σ(Yᵢ−Ŷ)²，即SST=SSR+SSE。决定系数：R²=SSR/SST=1−SSE/SST，取值0到1，表示Y总变异中被X线性回归所解释的比例。注意事项：R²仅衡量线性拟合优度，不能判断模型是否正确设定，须结合残差图和专业判断综合评估。方差分解示意（R²=0.85）Y总变异中85%可由X的线性回归解释BBIOSTATISTICSREGRESSIONCaseStudy实例：小鼠体重与肝重回归通过10只小鼠数据完整演示最小二乘估计的计算流程。计算中间量汇总与回归方程推导计算中间量汇总统计量公式数值SₓₓΣX²-(ΣX)²/n250SₓᵧΣXY-(ΣX)(ΣY)/n12.5b₁Sₓᵧ/Sₓₓ0.05b₀Ȳ-b₁X̄0R²SSR/SST1.000各中间统计量代入公式后得到回归方程Ŷ=0.05X数据摘要n=10,ΣX=250,ΣY=12.5,ΣXY=325.0,ΣX²=6500,ΣY²=16.25，计算得Sₓₓ=250,Sₓᵧ=12.5。回归系数b₁=12.5/250=0.05(g/g)，b₀=1.25−0.05×25=0，回归方程为Ŷ=0.05X。拟合优度SST=0.625,SSR=0.625,R²=1.0（此例为理想化数据），实际数据R²通常在0.5-0.9之间。BiostatisticsChapter02回归推断与模型诊断RegressionInference&DiagnosticsSECTIONDIVIDER02BBIOSTATISTICSANOVARegressionAnalysis回归方差分析（ANOVA）回归ANOVA将SST分解为SSR与SSE，构造F=MSR/MSE检验H₀:β₁=0，简单线性回归中F=t²。回归方差分析表结构变异来源SSdfMSF回归SSR=Σ(Ŷᵢ−Ȳ)²1MSR=SSR/1MSR/MSE残差SSE=Σ(Yᵢ−Ŷᵢ)²n−2MSE=SSE/(n−2)总计SST=Σ(Yᵢ−Ȳ)²n−1F=MSR/MSE~F(1,n−2)，P<α则拒绝H₀01回归ANOVA表包含三个来源：回归（SSR,df=1）、残差（SSE,df=n−2）、总计（SST,df=n−1），均方MS=SS/df，F=MSR/MSE~F(1,n−2)。02F检验原假设是X与Y之间不存在线性回归关系（β₁=0），当F值大于临界值或P<α时拒绝H₀。03简单线性回归中F=t²，即ANOVA的F检验与对b₁的t检验完全等价；多元回归中F检验评估所有自变量的联合显著性。INFERENCE回归系数的t检验t=b₁/SE(b₁)检验H₀:β₁=0，SE(b₁)=√(MSE/Sₓₓ)，t~t(n-2)。标准误SE(b₁)b₁的标准误SE(b₁)=√(MSE/Sₓₓ)，其中MSE=SSE/(n-2)是误差方差σ²的无偏估计；SE(b₁)越小表示b₁的估计精度越高。t统计量与检验规则t=b₁/SE(b₁)在H₀:β₁=0下服从t(n-2)分布；|t|>tα/2,n-2或P<α时拒绝H₀。β₁的置信区间β₁的(1-α)置信区间为b₁±tα/2,n-2×SE(b₁)，若该区间不包含0则等价于在α水平上拒绝H₀。REGRESSIONINFERENCE置信区间与预测区间置信区间估计条件均值E(Y|X₀)的不确定性，预测区间估计单个新观测Y₀的不确定性；后者总是更宽。01置信区间ConfidenceIntervalforE(Y|X₀)Ŷ₀±tα/2,n−2×SE(Ŷ₀)其中SE(Ŷ₀)=√[MSE×(1/n+(X₀−X̄)²/Sₓₓ)]，针对条件均值的区间估计。02预测区间PredictionIntervalforY₀Ŷ₀±tα/2,n−2×SE(pred)其中SE(pred)=√[MSE×(1+1/n+(X₀−X̄)²/Sₓₓ)]，比置信区间多一个1项。核心区别置信区间针对平均响应，预测区间针对个体响应；当n→∞时置信区间宽度趋近于零，但预测区间宽度趋近于2zα/2σ，个体不确定性不可消除。RESIDUALANALYSIS残差分析概述残差e=Y-Ŷ承载了模型未捕获的全部信息，理想残差应为独立同分布的纯随机噪声。01残差的定义与类型残差eᵢ=Yᵢ-Ŷᵢ是观测值与拟合值之差，标准化残差rᵢ=eᵢ/√MSE消除了量纲影响，学生化残差进一步考虑了各点杠杆值的差异。02四项核心假设验证残差vs拟合值图检查线性与等方差、QQ图检查正态性、残差vs顺序图检查独立性、Cook距离识别强影响点。03常见误区与警示忽视残差诊断直接报告回归结果是生物统计文献中最常见的错误之一；即使R²很高、P值很小，若残差呈现明显非随机模式，模型推断仍可能不可靠。DIAGNOSTICS残差诊断图判读指南四种核心残差图各有分工：残差vs拟合值查线性与等方差，QQ图查正态性，Scale-Location查方差齐性，残差vs自变量查遗漏非线性。残差vs拟合值图理想状态：残差在零线上下随机均匀散布，无明显趋势或形状，表明线性假设和等方差假设同时成立。常见问题：U型或倒U型曲线提示遗漏非线性项；漏斗形扩散提示异方差；离群点提示可能的异常值或数据录入错误。正态QQ图理想状态：标准化残差点近似沿45度参考线排列，两端略有偏离可接受，表明误差正态性假设合理。常见问题：S形弯曲提示重尾或轻尾分布；系统性偏离直线提示偏态；个别点远离直线提示潜在异常值需进一步核查。H生物统计学DIAGNOSTICSHeteroscedasticity异方差的检测与处理异方差使OLS估计虽仍无偏但不再有效，标准误估计有偏导致推断失效；Breusch-Pagan检验和残差图是主要诊断手段。CONCEPT概念与后果异方差指Var(εᵢ)≠常数，常见于生物学数据。后果是OLS估计仍无偏但标准误有偏，t检验和F检验的P值不可信。DETECTION检测方法图形法：残差vs拟合值图呈漏斗形B-P检验：残差平方对拟合值做辅助回归，LM统计量显著则拒绝同方差假设SOLUTIONS处理策略变换：对Y做对数或平方根变换WLS：给方差小的观测更高权重稳健标准误：Huber-White修正推断DIAGNOSTICSBIOSTATISTICS异常值与强影响点诊断异常值(大残差)与强影响点(删除后系数剧变)不完全重合；Cook距离Dᵢ综合残差与杠杆值量化影响力，Dᵢ>4/n为警戒线。异常值判定|学生化残差|>2为可疑，>3为高度可疑；但大残差不一定意味着高影响力，位于X均值附近的异常点对回归线斜率的影响有限。杠杆值hᵢᵢ衡量第i个观测在X空间中的极端程度，hᵢᵢ>2p/n为高杠杆点；高杠杆点即使残差很小也可能强烈拉动回归线。Cook距离DᵢDᵢ=(eᵢ²/p×MSE)×[hᵢᵢ/(1−hᵢᵢ)²]综合残差与杠杆值，Dᵢ>4/n提示该点对回归结果有实质性影响；处理原则是先核查数据质量再根据专业判断决定。BBIOSTATISTICSNORMALITYTEST残差正态性检验方法Shapiro-Wilk适合小样本、K-S适合大样本，但正式检验受样本量影响大；应以QQ图为主、检验为辅。01检验方法选择Shapiro-Wilk检验（W统计量）对小样本（n<50）功效较高，是首选正态性检验方法。Anderson-Darling检验对尾部偏离更敏感，适合关注极端值场景。02样本量影响n很大时，即使极轻微的非正态也会产生显著P值，导致过度拒绝正态假设。此时应依赖QQ图判断偏离的实际严重程度，而非仅看P值。03实践建议以QQ图为主要诊断工具，正式检验为辅助参考。当n>30时，t检验和F检验对正态性偏离具有较好的稳健性（CLT）。H生物统计学CHAPTERCHAPTER03多元线性回归MultipleLinearRegressionBIOSTATISTICSRegression多元线性回归模型多元回归Y=Xβ+ε中，偏回归系数βⱼ表示控制其他自变量不变时Xⱼ对Y的独立效应，最小二乘估计β̂=(X'X)⁻¹X'Y。01模型定义模型Y=β₀+β₁X₁+...+βₚXₚ+ε，矩阵形式Y=Xβ+ε，其中X为n×(p+1)设计矩阵（首列为全1），β为(p+1)×1参数向量，ε~N(0,σ²I)。02偏回归系数偏回归系数βⱼ的含义：在其他所有自变量保持不变的条件下，Xⱼ每增加一个单位时Y条件均值的平均变化量。03最小二乘估计最小二乘估计β̂=(X'X)⁻¹X'Y，要求X'X可逆；拟合值Ŷ=Xβ̂，残差e=Y-Ŷ，MSE=SSE/(n-p-1)是σ²的无偏估计。REGRESSION偏回归系数vs简单回归系数偏回归系数控制了混杂变量的影响，反映Xⱼ对Y的净效应；简单回归系数混杂了其他变量的作用，两者数值和方向都可能不同。01系数差异的本质简单回归中b₁反映X₁与Y的总关联，多元回归中b₁反映控制X₂,...,Xₚ后X₁对Y的直接效应；当自变量间相关时两者数值和符号均可能不同。02Simpson悖论总体中X₁与Y正相关，但按X₂分层后每层内均为负相关——只有多元回归才能揭示这种被混杂掩盖的真实关系。03实际解读要点报告多元回归结果时必须明确说明控制了哪些变量；系数的因果解释还需满足研究设计的要求，不能仅凭统计显著性下结论。DIAGNOSTICS多重共线性诊断与处理多重共线性使回归系数方差膨胀、符号不稳定；VIF=1/(1-R²ⱼ)量化共线程度，VIF>5警惕、>10严重。01共线性定义与后果—自变量间高度线性相关，导致回归系数标准误增大、t检验功效降低、系数估计对数据微小变动极度敏感。02VIF量化标准—VIFⱼ=1/(1-R²ⱼ)，VIF=1无共线性，VIF>5需关注，VIF>10存在严重共线性问题。03处理策略—删除冗余变量；合并高度相关变量；主成分回归或偏最小二乘降维；岭回归/LASSO等正则化方法。VIF诊断示例腰围VIF=8.7，接近严重共线性阈值（VIF>10）BBIOSTATISTICSVARIABLESELECTIONCOMPARISON变量筛选方法比较向前选择、向后剔除和逐步回归是三种经典自动筛选方法；现代实践更推荐结合AIC/BIC信息准则与专业知识综合决策。向前选择与向后剔除向前选择从空模型出发，每步加入使SSE减少最多的变量，直到无变量显著为止；优点是计算量小，缺点是已入选变量不会被后续步骤剔除。向后剔除从全模型出发，每步移除使SSE增加最少的变量，直到所有剩余变量均显著；优点是全模型信息完整，缺点是初始变量过多时可能无法启动。逐步回归与信息准则逐步回归结合前向和后向：每加入新变量后重新检验已入选变量的显著性，不显著者立即剔除；是目前最常用的自动筛选方法。信息准则AIC=n·ln(SSE/n)+2p，BIC=n·ln(SSE/n)+p·ln(n)，平衡拟合优度与模型复杂度，BIC对复杂模型的惩罚更强。REGRESSIONEVALUATION调整R²与多元模型评价R²随变量数单调递增不可用于模型比较，调整R²引入自由度惩罚，配合AIC/BIC和交叉验证才能全面评估模型优劣。01R²的单调递增问题普通R²=1-SSE/SST随自变量个数p增加而单调不减，即使加入纯噪声变量也会微增，因此不能用R²直接比较不同p的模型。02调整R²的惩罚机制调整R²=1-[SSE/(n-p-1)]/[SST/(n-1)]=R²-(1-R²)×p/(n-p-1)，对模型复杂度施加惩罚；只有当新变量使SSE减少幅度超过自由度损失代价时才会增加。03综合评价体系调整R²衡量解释力、AIC/BIC权衡拟合与简约、MallowsCp评估预测偏差、k折交叉验证估计泛化误差。B生物统计学REGRESSIONDUMMYVARIABLES虚拟变量与分类自变量k水平分类变量编码为k-1个0/1虚拟变量，回归系数表示该水平与参照组的均值差异。01编码原则k水平分类变量需创建k-1个虚拟变量D₁,...,Dk-1（参照组所有D=0），模型中βⱼ表示第j组与参照组Y均值的差异。02交互项检验连续变量与虚拟变量的交互项检验不同组别中X对Y的斜率是否相同：若交互项显著则组间斜率不同（非平行线）。03注意事项参照组的选择影响系数解读但不影响模型拟合；虚拟变量陷阱（k个虚拟变量导致完全共线性）必须避免。CHAPTER04相关分析CorrelationAnalysisBIOSTATISTICSCORRELATIONANALYSISSTATISTICSPearson积矩相关系数核心度量：线性关联的强度与方向Pearsonr=Sₓᵧ/√(SₓₓSᵧᵧ)衡量两连续变量的线性关联强度与方向，取值[-1,+1]，仅对线性关系敏感。计算公式r=Σ(Xᵢ−X̄)(Yᵢ−Ȳ)/√[Σ(Xᵢ−X̄)²·Σ(Yᵢ−Ȳ)²]本质是X与Y离均差的协变程度相对于各自变异程度的标准化度量，即协方差除以两变量标准差之积。r的性质对称性、无量纲，取值范围[−1,+1]|r|=1完全线性相关；r=0无线性相关（但可能存在非线性关系）简单线性回归中r²=R²，即决定系数适用条件两变量均为连续型计量资料双变量正态分布线性关系且无显著异常值违反任一条件时应考虑Spearman秩相关作为替代。METHODBIOSTATISTICSSpearman秩相关系数非参数秩次相关分析Spearmanρ基于数据的秩次而非原始值计算，衡量单调关联而非线性关联，不要求正态分布，是Pearsonr的非参数替代。计算方法将X和Y分别编秩（相同值取平均秩），然后对秩次计算Pearson相关系数。简化公式（无结时）：ρ=1−6Σdᵢ²/[n(n²−1)]与Pearsonr的区别衡量单调关系，不限于线性对异常值稳健不要求正态分布满足Pearson假设时，统计功效略低于r适用场景①两变量均为等级/有序资料②计量资料但严重偏态或含极端值③一个为计量一个为等级资料④怀疑非线性单调关系COMPARISONPearson与Spearman对比选择Pearson适用于双正态连续变量的线性关联，Spearman适用于非正态、等级或单调非线性关联；选择依据是数据类型与分布特征。数据类型：Pearson要求两变量均为连续计量且双正态分布；Spearman可用于等级资料、偏态计量资料或混合类型，适用范围更广。关系类型：Pearson仅检测线性关联，U型等非线性关系r≈0；Spearman检测单调关联，对非线性单调关系仍能有效捕获。稳健性：Pearson对异常值高度敏感；Spearman基于秩次对异常值稳健；当两者结果差异大时提示数据质量问题，应优先信任Spearman。PearsonvsSpearman核心区别比较维度PearsonrSpearmanρ数据类型连续计量、双正态等级/偏态/混合关系类型线性单调（含非线性）异常值敏感性高低（稳健）统计功效满足假设时更高略低计算基础原始数值秩次先画散点图判断关系形态和数据质量再选择合适的相关系数INTERPRETATION相关系数解读与常见陷阱五大陷阱·避免误读与滥用相关≠因果、大样本小r也可显著、r仅捕获线性/单调关联、生态学谬误、忽视混杂变量——这五大陷阱是相关分析被误用的主要原因。相关≠因果r显著仅表明两变量共变，可能是X→Y、Y→X、第三变量Z同时驱动X和Y、或纯属偶然；因果推断需要随机对照试验或严谨的观察性研究设计。样本量效应n=500时r=0.12即可P<0.01显著，但r²=0.014仅解释1.4%变异，实际意义极小；应同时报告r值和置信区间，避免仅凭P值下结论。关联形态局限r=0不代表无关，可能存在的U型、周期型等非单调关系被r完全忽略；务必先画散点图确认关系形态再计算相关系数。BBIOSTATISTICSCHAPTER0505CHAPTER05Logistic回归与非线性模型LogisticRegression&NonlinearModels二分类结局变量非线性建模方法32PRINCIPLESLOGISTICREGRESSIONLogistic回归基本原理Logistic回归用logit(P)=ln[P/(1-P)]=β₀+β₁X建模二分类结局，exp(βⱼ)=OR表示Xⱼ每增一单位时结局发生优势的倍数变化。STRUCTURE模型结构logit(P)=ln[P/(1-P)]=β₀+β₁X₁+…+βₚXₚ，其中P=P(Y=1|X)为条件概率logit变换将(0,1)区间的概率映射到(-∞,+∞)实数轴ESTIMATION参数估计采用最大似然法（MLE）而非OLS，因二分类Y不满足正态性与等方差假设拟合优度用Hosmer-Lemeshow检验或AUC评估INTERPRETATIONOR值解读exp(βⱼ)为调整OR，控制其他变量后Xⱼ每增一单位，Y=1的优势变为原来的exp(βⱼ)倍OR>1为危险因素，OR<1为保护因素MethodsBIOSTATISTICS·LECTURE34非线性关系的线性化处理通过对数、平方根、倒数等变量变换可将常见非线性关系转化为线性回归问题，既保留OLS简便性又扩展模型适用范围。对数变换LOGTRANSFORMln(Y)=a+bX处理指数增长关系，如种群指数增长模型双对数ln(Y)=a+b·ln(X)处理幂律关系，如异速生长Allometry模型半对数Y=a+b·ln(X)处理边际递减效应，如剂量-反应关系平方根与倒数变换ROOT&RECIPROCAL平方根变换√Y=a+bX适用于计数数据，当方差与均值成正比时可稳定方差倒数变换1/Y=a+bX适用于酶动力学Michaelis-Menten关系的Lineweaver-Burk线性化变换选择策略SELECTIONSTRATEGY①基于领域理论模型选择，以学科先验知识指导变换形式②尝试多种变换后比较R²和残差图，选择线性化效果最优者③Box-Cox变换自动搜索最优λ参数；注意变换后R²不可直接与未变换模型比较CASESTUDY综合案例：血压影响因素分析以200名成人收缩压与年龄、BMI、吸烟状态的数据为例，完整演示从探索性分析到多元回归建模、诊断验证再到结果报告的全流程。01探索性分析与简单回归探索性分析与简单回归散点图分析