效应的最小二乘估计

效应的最小二乘估计第1页，共18页，2023年，2月20日，星期六一、最小二乘分析法的原理和方法这里主要讨论次级样本容量不等的最小二乘分析法的基本内容与其他方法相比，最小二乘分析法至少有以下几个优点：1、最小二乘分析法适用于线性和非线性数学模型2、最小二乘分析法与最重要的一个统计量——算术平均数发生关系3、适应范围广第2页，共18页，2023年，2月20日，星期六最小二乘分析法特别适合于以下几种情况：1、试验条件复杂，成本太高、来源一致的大样本资料不容易获得2、来自各试验单位的资料不平衡、需要进行校正3、次要因素不容易控制4、资料需要校正合并5、资料次级样本容量不等，而使得平方和的可加性遭到破坏目前，绝大多数统计软件中的方差分析均为最小二乘方差分析法第3页，共18页，2023年，2月20日，星期六设有一批观测值以下均以代替以前的根据最小二乘原理求出处理效应的估计值，即取这样一个y值,作为这批数据的最佳值，它应当与各个的平方和最小，即对求微分，并令之为0，则有

y即为算术平均数第4页，共18页，2023年，2月20日，星期六继续求其二级微分，可知为极小即算术平均数是一批观测值的最小二乘估计值在线性方程组中，如果，即方程组非齐次②X的秩=b的维数（即X为非奇异阵）③增广矩阵|Xy|的秩=X的秩（即方程组相容）则方程组有唯一解：当X不是方阵（即方程组中方程的个数与未知数的个数不等），必为一非奇异阵，则方程组的解可由其中，即为b的最小二乘估计值第5页，共18页，2023年，2月20日，星期六可以证明，是唯一的、无偏的任何数学模型均可用矩阵形式表示如线性模型的矩阵形式为其中，y为n维观测值向量X为固定效应的结构矩阵b为固定效应向量e为随机误差向量，且在中，绝大多数情况下，X不会是方阵，即方程个数与未知数个数不等，为使方程有解

第6页，共18页，2023年，2月20日，星期六方程可改写成可以证明，该式必有解：当满秩时，必有存在，且为唯一，即其中，是唯一的，且是b的最小二乘估计值，是b的最佳线性无偏估计值当不满秩时，有无穷多个解为使方程有唯一解，可加入约束条件，从而使为满秩，得出唯一解常用的约束条件有很多，如：和约束、相对约束（）等，但约束条件不同，解也不同第7页，共18页，2023年，2月20日，星期六二、单向分类资料的最小二乘分析法例：设计了三种草本植物添加剂作饲养试验，得数据如下：添加剂种类增重效果Ⅰ1.21.01.11.1Ⅱ1.41.3Ⅲ1.00.91.2本例中，，，设三种添加剂的效应值分别为每一观测值完整的数学模型为：请回顾一下，用普通方差分析法该如何分析之？第8页，共18页，2023年，2月20日，星期六当有k个组时，观测值的一般通式为：本例每一观测值的数学模型：第一组：……第二组：……第三组：……第9页，共18页，2023年，2月20日，星期六其结构矩阵X为：

X=该结构阵不是一个方阵，因此应求X’X第10页，共18页，2023年，2月20日，星期六X’X=

=X’X的一般通式是：第11页，共18页，2023年，2月20日，星期六而X’y=X’y=上式中：第12页，共18页，2023年，2月20日，星期六因此，矩阵方阵为：其通式是：可以看出，X’X是不满秩的，因此它无唯一解第13页，共18页，2023年，2月20日，星期六由于是其约束条件，因此可以将该方程组减去一个（习惯上总是减去最后一个）首先作行相减，第一行是方程，因此不减从第二行逐行减去最后一个方程：然后作列相减，即除第一列外的各列均减去最后一列：第14页，共18页，2023年，2月20日，星期六这一过程称为矩阵的降阶，降阶后的矩阵称为降阶矩阵，降阶矩阵与原矩阵相比，少了一行一列，即由原来的（k+1）行（k+1）列降为k行k列降阶后的矩阵仍为对称阵，且满秩，因此有唯一解：第15页，共18页，2023年，2月20日，星期六即（总体效应值）=1.1611，此即为最小二乘均值LSM（leastsquaremean）（第一种中草药添加剂效应值）=-0.0611（第二种中草药添加剂效应值）=0.1889（第三种中草药添加剂效应值）==-（-0.0611+0.1889）=-0.1278三种中草药添加剂的最小二乘均值（LSM）则分别为：第16页，共18页，2023年，2月20日，星期六数据比较简单时，手工计算和统计软件运算两者差别不大，但当数据结构比较复杂，或数据量很大时，则必须借助于统计软件这里仅用单因素的数据结构来说明最小二乘分析法的