试验设计与分析 第2版 课件 第4章数据的回归分析

4.1线性模型的参数估计案例引入工程师要研究尖卵形弹头的曲径比与钻地弹侵彻深度之间的关系。考虑曲径比这个因子的4个水平：2.5、3、3.5、4，每个水平重复5次侵彻试验得到数据如下：回顾：在第二章中，我们如何分析上述数据？例：弹头曲径比对侵彻深度的影响曲径比观测值总和平均值123452.55.755.425.305.395.7027.565.5123.05.655.935.905.796.1029.375.8743.56.006.516.106.376.2931.276.2544.07.257.007.156.857.1035.357.070

案例引入侵彻深度与曲径比之间可能存在一次或二次多项式的关系，如果能够得到这种潜在规律，就可以实现预测与优化！案例引入某型预制破片弹主要用于毁伤敌方有生力量和轻型装甲目标。为分析炸高与落角对该型预制破片弹的威力的影响，选定8枚该型弹开展地面静态试验。将破片弹固定在设定的高度上以设定的弹着角引爆，测量其对地面的毁伤面积，数据如下：回顾：第三章中，我们如何分析上述数据？例：预制破片弹毁伤面积处理记号试验方案两次试验结果之和122m45°2m90°4m45°4m90°

案例引入固定效应模型主要用于分析定性因子对连续响应的影响;对于定量因子和连续响应,固定效应无法有效解决预测、优化、试验数据丢失等问题!回归模型：定量因子与连续响应之间的函数依赖关系，可用于实现预测、优化等目的。钻地弹侵彻深度数据的再分析预制破片弹毁伤数据的再分析总结提升：线性模型参数估计知识目标：能说清线性回归模型“参数线性”的核心本质；能讲透最小二乘法原理，掌握其矩阵求解步骤。能力目标：面对一元/二元连续因子数据，能独立构建回归模型；能手动或用Python完成参数估计求解；能解读参数估计结果，并初步分析模型适配性。学习目标钻地弹侵彻深度数据的再分析预制破片弹毁伤数据的再分析总结提升：线性模型参数估计一.侵彻深度数据的再分析首先需要“猜测”一个合适的模型。一种方法是依靠物理直觉构建曲径比与侵彻深度之间的函数关系。另一种方法是从散点图中获取灵感。（一）模型构建一.侵彻深度数据的再分析

（一）模型构建一.侵彻深度数据的再分析

（二）最小二乘估计探究一.侵彻深度数据的再分析

（二）最小二乘估计探究

如何求解？一.侵彻深度数据的再分析已知

（二）最小二乘估计探究一.侵彻深度数据的再分析importnumpy

asnp

importmatplotlib.pyplot

asplt

#1.输入原始数据

x_levels=[2.5,3.0,3.5,4.0]

y_data=[

[5.75,5.42,5.30,5.39,5.70],#x=2.5

[5.65,5.93,5.90,5.79,6.10],#x=3.0

[6.00,6.51,6.10,6.37,6.29],#x=3.5

[7.25,7.00,7.15,6.85,7.10]#x=4.0

]

x_list=[]

y_list=[]

repeats=5

fori,xinenumerate(x_levels):

forjinrange(repeats):

x_list.append(x)

y_list.append(y_data[i][j])

x=np.array(x_list)#(20,)

y=np.array(y_list)#(20,)#2.构造设计矩阵X:[1,x,x^2]

X=np.column_stack([np.ones(len(x)),x,x**2])

beta_hat=np.linalg.inv(X.T@X)@X.T@y

beta_0,beta_1,beta_2=beta_hat

#3.计算RSS和误差方差估计

y_fitted=X@beta_hat

residuals=y-y_fitted

RSS=np.sum(residuals**2)

n=len(y)

p=X.shape[1]

df_error=n-p

MSE=RSS/df_error

#输出结果（可选打印）

print(f"回归系数估计：β₀={beta_0:.4f},β₁={beta_1:.4f},β₂={beta_2:.4f}")

print(f"残差平方和(RSS)={RSS:.6f}")

print(f"误差方差估计σ²_hat={MSE:.6f}")

（二）最小二乘估计探究一.侵彻深度数据的再分析

你能预测吗？预测准确吗？哪些因素会影响预测准确性？一.侵彻深度数据的再分析模型预测效果取决于两个方面：认知不确定性：模型本身是否合适，即是否有模型误差的问题；随机不确定性：每次试验都带随机性，需要量化这种随机性！

（三）模型评估与改进一.侵彻深度数据的再分析（三）模型评估与改进一.侵彻深度数据的再分析

（三）模型评估与改进一.侵彻深度数据的再分析importnumpy

asnp

importmatplotlib.pyplot

asplt

#1.输入原始数据

x_levels=[2.5,3.0,3.5,4.0]

y_data=[

[5.75,5.42,5.30,5.39,5.70],#x=2.5

[5.65,5.93,5.90,5.79,6.10],#x=3.0

[6.00,6.51,6.10,6.37,6.29],#x=3.5

[7.25,7.00,7.15,6.85,7.10]#x=4.0

]

x_list=[]

y_list=[]

repeats=5

fori,xinenumerate(x_levels):

forjinrange(repeats):

x_list.append(x)

y_list.append(y_data[i][j])

x=np.array(x_list)#(20,)

y=np.array(y_list)#(20,)#2.求回归系数的最小二乘估计X=np.column_stack([np.ones(len(x)),x])

beta_hat=np.linalg.inv(X.T@X)@X.T@y

如何修改代码？X=np.column_stack([np.ones(len(x)),x,

x**2])

（三）模型评估与改进一.侵彻深度数据的再分析（三）模型评估与改进一.侵彻深度数据的再分析

试验次数模型参数个数试验次数减去线性回归模型中参数的个数为残差平方和的自由度！（四）误差方差的估计一.侵彻深度数据的再分析importnumpy

asnp

importmatplotlib.pyplot

asplt

#1.输入原始数据

x_levels=[2.5,3.0,3.5,4.0]

y_data=[

[5.75,5.42,5.30,5.39,5.70],#x=2.5

[5.65,5.93,5.90,5.79,6.10],#x=3.0

[6.00,6.51,6.10,6.37,6.29],#x=3.5

[7.25,7.00,7.15,6.85,7.10]#x=4.0

]

x_list=[]

y_list=[]

repeats=5

fori,xinenumerate(x_levels):

forjinrange(repeats):

x_list.append(x)

y_list.append(y_data[i][j])

x=np.array(x_list)#(20,)

y=np.array(y_list)#(20,)

#2.求回归系数最小二乘估计

X=np.column_stack([np.ones(len(x)),x**2])

beta_hat=np.linalg.inv(X.T@X)@X.T@y（四）误差方差的估计一.侵彻深度数据的再分析

（四）误差方差的估计钻地弹侵彻深度数据的再分析预制破片弹毁伤数据的再分析总结提升：线性模型参数估计案例引入某型预制破片弹主要用于毁伤敌方有生力量和轻型装甲目标。为分析炸高与落角对该型预制破片弹的威力的影响，选定8枚该型弹开展地面静态试验。将破片弹固定在设定的高度上以设定的弹着角引爆，测量其对地面的毁伤面积，数据如下：回顾：第三章中，我们如何分析上述数据？例：预制破片弹毁伤面积试验方案两次试验结果之和122m45°2m90°4m45°4m90°

二.预制破片弹毁伤数据的再分析试验方案两次试验结果之和122m45°2m90°4m45°4m90°炸高和落角都是定量因子，采用回归模型对数据进行建模。（一）模型构建二.预制破片弹毁伤数据的再分析试验方案编码变量两次试验结果之和122m45°2m90°4m45°4m90°

编码变换有何好处？构建一个什么样的回归模型？（一）模型构建二.预制破片弹毁伤数据的再分析

（一）模型构建

试验方案编码变量两次试验结果之和122m45°2m90°4m45°4m90°二.预制破片弹毁伤数据的再分析

（二）模型参数估计

二.预制破片弹毁伤数据的再分析

你能解释这些模型参数的含义吗？

（二）模型参数估计

二.预制破片弹毁伤数据的再分析

例：预制破片弹毁伤面积处理记号试验方案两次试验结果之和122m45°2m90°4m45°4m90°二.预制破片弹毁伤数据的再分析问题一：若第7号试验数据丢失，还能拟合回归模型吗？importnumpyasnp

data=np.array([

[-1,-1,1202.44],

[-1,-1,1509.92],

[-1,1,3171.77],

[-1,1,3486.43],

[1,-1,2742.72],

[1,-1,2423.20],

[1,1,2501.86],

[1,1,3155.33]])

x1_all=data[:,0]

x2_all=data[:,1]

y_all=data[:,2]

X=np.column_stack([np.ones(len(y_all),x1_all,x2_all,

x1_all*x2_all])

#最小二乘估计:β=(X^TX)^{-1}X^Ty

beta_hat=np.linalg.inv(X.T@X)@X.T@y_all

二.预制破片弹毁伤数据的再分析

二.预制破片弹毁伤数据的再分析MC方法：在炸高2m-4m、落角45°-90°范围内，蒙特卡洛生产大量组合，代入回归模型得到预测毁伤面积后，统计超过2000平米的占比。importnumpy

asnp

data=np.array([

[-1,-1,1202.44],

[-1,-1,1509.92],

[-1,1,3171.77],

[-1,1,3486.43],

[1,-1,2742.72],

[1,-1,2423.20],

[1,1,2501.86],

[1,1,3155.33]])

x1_all=data[:,0]

x2_all=data[:,1]

y_all=data[:,2]

X=np.column_stack([np.ones(len(y_all),x1_all,x2_all,x1_all*x2_all])beta_hat=np.linalg.inv(X.T@X)@X.T@y_alln_samples=1000000

x1_mc=np.random.uniform(-1,1,n_samples)

x2_mc=np.random.uniform(-1,1,n_samples)beta_0,beta_1,beta_2,beta_12=beta_hat

y_pred=beta_0+beta_1*x1_mc+beta_2*x2_mc+beta_12*x1_mc*x2_mc

threshold=2000prob=np.mean(y_pred>threshold)

print(f"\n蒙特卡洛模拟次数:{n_samples}")print(f"预测y>{threshold}的概率:{prob:.4f}")约89.67%的条件下毁伤面积超过2000平方米！钻地弹侵彻深度数据的再分析预制破片弹毁伤数据的再分析总结提升：线性模型参数估计

三.总结提升：线性模型参数估计（一）线性回归模型的本质两个案例中的模型有何共同点？称可将数据表示为参数的线性变换的模型为线性模型！三.总结提升：线性模型参数估计

（一）线性回归模型的本质示例一

三.总结提升：线性模型参数估计（一）线性回归模型的本质示例二

三.总结提升：线性模型参数估计（一）线性回归模型的本质示例三

三.总结提升：线性模型参数估计（一）线性回归模型的本质以下模型中，哪些是线性回归模型？

ABCD提交“线性回归模型”中的“线性”是针对“参数”而言的！多选题1分三.总结提升：线性模型参数估计

（二）线性模型参数估计

三.总结提升：线性模型参数估计（二）线性模型参数估计定理（线性模型参数估计的性质）

三.总结提升：线性模型参数估计

（二）线性模型参数估计三.总结提升：线性模型参数估计

三.总结提升：线性模型参数估计问题：基于预测均值得到89.67%的条件下毁伤面积超过2000平方米，没

有考虑随机不确定性！三.总结提升：线性模型参数估计

作答主观题10分

能力线建模：散点图启发求解：最小二乘估计解读：回归系数含义以及模型适配性拓展：线性回归模型与固定效应模型的异同尝试利用大模型生成Python代码实现本次课的数据分析；完成第四章雨课堂作业4.1节相应题目；仔细阅读教材4.1节，提出修改建议。课后作业

4.2线性模型的假设检验知识回顾

能力线建模：散点图启发求解：最小二乘估计解读：回归系数含义以及模型适配性拓展：线性回归模型与固定效应模型的异同引言

4.2.1回归模型的显著性检验4.2.2回归系数的逐个检验4.2.3回归系数的分组检验4.2.4基于拟合优度的模型评价知识目标理解回归方程显著性检验、回归系数逐个检验与分组检验的统计思想与理论基础；掌握F检验、t检验在不同检验中的构造逻辑及其适用条件；辨析三者在假设设定、检验目的与解释含义上的本质区别。能力目标能够基于试验数据构建合理的线性回归模型，运用Python进行参数估计；根据研究问题选择恰当检验方法，独立完成回归方程的整体显著性判断、关键变量的显著性分析及变量组的联合效应检验。学习目标4.2.1回归模型的显著性检验4.2.2回归系数的逐个检验4.2.3回归系数的分组检验4.2.4基于拟合优度的模型评价4.2.1回归模型的显著性检验

检验方法是方差分析.4.2.1回归模型的显著性检验

定理（回归模型的显著性检验）

4.2.1回归模型的显著性检验工程师要研究尖卵形弹头的曲径比与钻地弹侵彻深度之间的关系。考虑曲径比这个因子的4个水平：2.5、3、3.5、4，每个水平重复5次侵彻试验得到数据如下：请尝试利用大模型生成Python代码，分别拟合一阶模型、二阶模型和三阶模型，并检验三个回归方程的显著性。例：弹头曲径比对侵彻深度的影响曲径比观测值总和平均值123452.55.755.425.305.395.7027.565.5123.05.655.935.905.796.1029.375.8743.56.006.516.106.376.2931.276.2544.07.257.007.156.857.1035.357.070一阶模型：二阶模型：三阶模型：4.2.1回归模型的显著性检验4.2.1回归模型的显著性检验4.2.2回归系数的逐个检验4.2.3回归系数的分组检验4.2.4基于拟合优度的模型评价4.2.2回归系数的逐个检验

4.2.2回归系数的逐个检验工程师要研究尖卵形弹头的曲径比与钻地弹侵彻深度之间的关系。考虑曲径比这个因子的4个水平：2.5、3、3.5、4，每个水平重复5次侵彻试验得到数据如下：请尝试利用大模型生成Python代码，分别拟合一阶模型、二阶模型和三阶模型，并检验三个模型中每个回归系数的显著性。例：弹头曲径比对侵彻深度的影响曲径比观测值总和平均值123452.55.755.425.305.395.7027.565.5123.05.655.935.905.796.1029.375.8743.56.006.516.106.376.2931.276.2544.07.257.007.156.857.1035.357.070一阶模型：二阶模型：三阶模型：4.2.2回归系数的逐个检验4.2.1回归模型的显著性检验4.2.2回归系数的逐个检验4.2.3回归系数的分组检验4.2.4基于拟合优度的模型评价4.2.3回归系数的分组检验

定理（回归系数的分组检验）

4.2.3回归系数的分组检验

定理（回归系数的分组检验）

4.2.3回归系数的分组检验

例：弹头曲径比对侵彻深度的影响曲径比观测值总和平均值123452.55.755.425.305.395.7027.565.5123.05.655.935.905.796.1029.375.8743.56.006.516.106.376.2931.276.2544.07.257.007.156.857.1035.357.0704.2.3回归系数的分组检验importnumpy

asnp

importpandasaspd

importstatsmodels.api

assm

fromstatsmodels.formula.api

importols

#原始数据

data_dict={

2.5:[5.75,5.42,5.30,5.39,5.70],

3.0:[5.65,5.93,5.90,5.79,6.10],

3.5:[6.00,6.51,6.10,6.37,6.29],

4.0:[7.25,7.00,7.15,6.85,7.10]

}

#展开为20个观测

data=[]

forx,y_list

indata_dict.items():

foryiny_list:

data.append([x,y])

df=pd.DataFrame(data,columns=['x','y'])

#构造高阶项

df['x2']=df['x']**2

df['x3']=df['x']**3#拟合三阶模型

model=ols('y~x+x2+x3',data=df).fit()

#定义七个检验

hypotheses=[

('β₂=β₃=0','(x2=0,x3=0)'),

('β₁=β₃=0','(x=0,x3=0)'),

('β₂=β₁=0','(x=0,x2=0)'),

('β₁=β₂=β₃=0','(x=0,x2=0,x3=0)'),

('β₁=0','(x=0)'),

('β₂=0','(x2=0)'),

('β₃=0','(x3=0)’)]

#执行每个检验

print("===七个假设的分组检验结果===")

forname,hyp

inhypotheses:

f_test=model.f_test(hyp)

f_val=f_test.fvalue

p_val=f_test.pvalue

print(f"{name}:")

print(f"H₀:{hyp.replace('=0','')}=0")

print(f"F值:{f_val:.4f},p值:{p_val:.4f}")关于线性回归模型的假设检验，以下说法正确的是线性回归模型的显著性检验，实际上是对线性关系是否成立的检验线性回归模型的显著性检验是回归系数的分组检验的特例线性回归模型回归系数的逐个检验是回归系数分组检验的特例回归系数的逐个检验可用于简化回归模型ABCD提交多选题1分4.2.1回归模型的显著性检验4.2.2回归系数的逐个检验4.2.3回归系数的分组检验4.2.4基于拟合优度的模型评价

4.2.4基于拟合优度的模型评价

4.2.4基于拟合优度的模型评价以下结果中的tvalue的检验类型是

[填空1],F-statistics的检验类型是

[填空2]

。作答A.回归模型的显著性检验B.回归系数的逐个检验C.回归系数的分组检验填空题2分回归模型中的三个检验问题：模型的显著性检验、回归系数的逐个检验、回归系数的分组检验；回归系数的分组检验包含了前两个检验；回归模型评价指标：复判定系数与调整的复判定系数。拓展：你能利用线性模型的分组检验理论推导出方差分析中的F检验吗？

引言

教学目标

例一（编码变换的比较）

原始变量电压(伏特)电流(安)电阻(欧姆)

原始变量编码变量电压(伏特)电流(安)电阻(欧姆)

例一（编码变换的比较）为验证欧姆定律,考虑由一个可变电阻和可变电压电源组成的电路.以电阻值和电流为试验因子,以电源的电压为响应变量.试验结果如下请利用Python分别拟合关于原始变量和编码变量的模型，并比较分析模型差异。原始变量编码变量电压(伏特)电流(安)电阻(欧姆)

编码之后,线性回归模型的系数与效应有无关系?

例二（回归系数估计与效应估计之间的关系）

试验号

原始变量编码变量时间速度(km/h)距离(km)尺寸(m)

除了更便于预测与优化外,利用线性回归模型还可以解决一些在固定效应模型中难以应对的情况,缺失试验数据导致不再是正交设计的情形

试验中无法准确控制连续定量试验因子取值的情形

例三（试验数据丢失）

试验号

原始变量编码变量时间速度(km/h)距离(km)尺寸(m)

例四（因子水平不稳定）

试验号原始变量编码变量时间速度(km/h)距离(km)尺寸(m)例五:某火炮射程的试验评估需求：某型火炮在80%的情况下射程不低于50km。是否需要科学试验与分析技术？试验目标？响应变量？试验因子？响应模型？试验设计方法？例五:某火炮射程的试验评估需求：某型火炮在80%的情况下射程不低于50km。例五:某火炮射程的试验评估统计量值样本均值59.9634样本方差229.7753标准差15.158395%置信区间下界56.176995%置信区间上界63.7498描述性数据分析：

探索潜在的规律

例五:某火炮射程的试验评估在一组条件下重复试验将显示响应的变异性,且因子水平的变化也会影响响应；简单的统计量（如平均值和标准差）无法充分告知决策者这些变化；报告最佳和最差性能条件以及局部可变性对于解释系统拥有的性能裕度（风险）量大有帮助。

描述性数据分析：

探索潜在的规律

例五:某火炮射程的试验评估方差分析:分析因子主效应与交互效应的显著性平方和自由度F值p值A10821.90661.048796.64570.0000B57.32291.0258.47240.0000C909.08011.04099.09860.0000D11.30501.050.97490.0000E69.77801.0314.63320.0000A:B0.34751.01.56680.2167A:C1208.76751.05450.40740.0000A:D125.99851.0568.13510.0000A:E156.49211.0705.63260.0000B:C0.00041.00.00190.9652B:D1103.34701.04975.05980.0000B:E0.34821.01.56990.2163C:D0.24851.01.12040.2951C:E0.20541.00.92620.3407D:E0.05071.00.22880.6346残差10.645248.0例五:某火炮射程的试验评估回归分析与预测

4.3.3从回归模型看序贯实施实践：回归分析的应用惠普尔太空防护结构，又称“缓冲防护屏”，是航天器抵御太空微流星体及空间碎片高速撞击最为经典和有效的设计之一。该构想由美国天文学家弗雷德·惠普尔于1947年提出，其核心智慧在于“以巧破力”，它并非采用厚重的单层舱壁进行硬性抵挡，而是创造性地设置一道薄层“牺牲屏”置于主舱壁前方，两者之间预留一定间距。基本原理：当高速运动的碎片撞击前屏时，会在瞬间破碎、熔化乃至气化，形成一个持续膨胀的碎片云；这片碎片云在向后传播的过程中不断扩散，将其动能分散到主舱壁上一个更大的面积。如此一来，原本足以穿透单层舱壁的集中、高强度冲击，便被转化为主舱壁足以承受的分布载荷。背景介绍背景介绍背景介绍惠普尔结构在实践中不断发展出增强构型，例如在前后屏之间填充凯夫拉纤维或陶瓷材料，能更有效地破碎和侵蚀碎片云，使防护性能得到质的提升。相较于等重的单层实心壁板，这种结构在质量效率上拥有无可比拟的优势，这对于按“克”计算成本的航天工程至关重要。从各类人造卫星、载人飞船到国际空间站，惠普尔结构及其衍生设计已成为守护航天器在轨安全的基石，其“牺牲-缓冲-分散”的设计哲学，至今仍是太空防护领域的核心指导思想。背景介绍

背景介绍背景介绍3.511.152.6044355481047.635492-120.39579012.34.851.6728466521328.66402-20.500719072.74.151.9390149081609.692548-45.121589663.310.453.4029403161272.458315-174.95002751.314.651.140510141216.252609-2.0491502291.59.051.805930782059.338193-41.826019293.913.951.2735942681384.869726-938.97088624.911.852.3382672921553.486843-203.34596254.513.252.0720990361103.841198-87.576995852.55.553.0036879321890.721076-404.54519654.16.251.5397625