可靠性数学统计学

Dept.Dept.ofSystemEngineeringofEngineeringTechnology,讲义✈统计学概述与发展✈基本概✈假设检✈区间估✈统计计算方1统1统计学概述与Dept.Dept.ofSystemEngineeringofEngineeringTechnology,✈ ✈中国在周朝就设有统计，称为司书。设立“司书上士二人，中士四人，府二人，史二人，徒八人。”负责“邦之六典……，以周知入出百（见《周礼·天官·冢宰》《管子·问》中提到65个问，即65个科目，等等---平均数、众艺行 （估计与检验建议与讨建议与讨统计与数学的区统计出发定义和研究方评价方好与对与✈概率论与统计()(。✈最小二乘★“统计学”初始起点可以从“平均观点”或从算)是从“横”的方面看，多数统计方法是算术平均思想的发展，比如最小二乘估计、最小二乘估计。✈最小二乘目标函数=∑(观测值－理论年小使误差平方和达到最小一实✈Dept.ofSystemEngineeringofEngineeringTechnology, 1统1统计学概述与Dept.Dept.ofSystemEngineeringofEngineeringTechnology,✈稳健估(robustness)需。Huber19641973✈误差与正态分★1809年，高斯提出正态误差理论，确立正态勒1619年的著作《和谐的世界》中提出了建模的原✈伽利略1632年提出了观测误差与随机误差分布★观测误差对称地分布在0的两侧，即★小误差出现得比大误差更1809在中。✈Dept.ofSystemEngineeringofEngineeringTechnology, ✈Dept.ofSystemEngineeringofEngineeringTechnology, 1统1统计学概述与Dept.Dept.ofSystemEngineeringofEngineeringTechnology,(1879(1903)EdgeworthEdgeworthO(1/2)1)。问如G 。✈回归与相1870。✈1875-77年，高尔登开展了豌豆种植试验，数；★同一大小的后代，其大小呈正态分；★大(小)产生的子代，其平均大(小)一✈回归与相1885尔登205妇他928年身，★1888年，高尔登用图形估计相关系数，并给出了相关系数的现在形式✈小样本下的统计推用分用分F分布和卡方分20 都起 括随 出试验2基2基本概Dept.Dept.ofSystemEngineeringofEngineeringTechnology,✈基本概★总体：与所研究的问题有关的全部的集合关总未？分 。从体取若其个样所含数。对样本的要求样本须具有代表能够获得与关注的总体特征相关联的样本信息于样随样是随其布为。2基本概Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概Dept.ofSystemEngineeringofEngineeringTechnology, 2基2基本概Dept.Dept.ofSystemEngineeringofEngineeringTechnology,✈数据的计量尺✈统计数据的来✈统计数据的质✈统计数据的整✈分布集中趋势的测✈分布离散程度的测✈分布偏态与峰✈茎叶图与箱线✈统计表与统计2基2基本概★二、直接获取的数二、直接获取的数★直接数普抽Dept.ofSystemEngineeringofEngineeringTechnology,2基2基本概Dept.Dept.ofSystemEngineeringofEngineeringTechnology,四、洛伦茨曲四、均值五、几何平均数（geometricmean）六、切尾均值（trimmedmean）七、压缩均值(Winsorizing八、众数、中位数和均值的

极 偏四分位方差和标准变异系 峰Location Dispersion Shape数据类✈数据常数据类品质定量品质图2基2基本概格里文科定理 Dept.ofSystemEngineeringofEngineeringTechnology, 2基2基本概✈常见分tFDept.ofSystemEngineeringofEngineeringTechnology, 22✈正态分Dept.ofSystemEngineeringofEngineeringTechnology, 22✈伽玛分Dept.ofSystemEngineeringofEngineeringTechnology, 22✈贝塔分Dept.ofSystemEngineeringofEngineeringTechnology, 22✈卡方分Dept.ofSystemEngineeringofEngineeringTechnology, 22✈tDept.ofSystemEngineeringofEngineeringTechnology, 22✈FDept.ofSystemEngineeringofEngineeringTechnology, 2基本概Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概的有。Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概✈Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概✈Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概✈Dept.ofSystemEngineeringofEngineeringTechnology, 22顺序统计Dept.ofSystemEngineeringofEngineeringTechnology, 22Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概✈Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概✈ 量序列的收敛Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概✈ 量序列的收敛Dept.ofSystemEngineeringofEngineeringTechnology, 22✈分位数及其渐近分Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概✈Dept.ofSystemEngineeringofEngineeringTechnology, 2基本概✈充分统1922什么叫信息一样多关键在于：Pθ(X=x|T=t)=P(X=x|T=t(a.s.)，即在给定★★Dept.ofSystemEngineeringofEngineeringTechnology, 22✈因子分解定Dept.ofSystemEngineeringofEngineeringTechnology, 基本概Dept.ofSystemEngineeringofEngineeringTechnology, 22Dept.ofSystemEngineeringofEngineeringTechnology, 点估✈Dept.ofSystemEngineeringofEngineeringTechnology, Dept.ofSystemEngineeringofEngineeringTechnology, ✈点估Dept.ofSystemEngineeringofEngineering Dept.ofSystemEngineeringofEngineeringTechnology, ✈点估计---极大Dept.ofSystemEngineeringofEngineeringTechnology, 3统3统计学的认识和发展-点估Dept.Dept.ofSystemEngineeringofEngineeringTechnology,极大似然估计的思突然，一只野兔从砰的一声，野兔应声倒地。✈极大似然估计的不✈极大似然估计有没有风险？值得思考✈上世纪70年代末80年代初的拨乱反正，“乱”是什么()，体 ✈点估计---最小对高斯-Markov满足下述条件的估计为最小二乘估计，简称LSE相关性质LSELSE的协方差阵为从LSE发展了最优线性无偏估计 最小二乘估计等✈点估计的评价标均方误差相合渐近正态无偏有效稳健性(Huber1954,Tukey✈点估计的评价标准---均方误差✈最小均方误差✈点估计的评价标准---相合Dept.ofSystemEngineeringofEngineeringTechnology, ✈点估计的评价标准---渐近正态✈点估计的评价标准---无偏Dept.ofSystemEngineeringofEngineeringTechnology, ✈点估计的评价标准---有效Dept.ofSystemEngineeringofEngineeringTechnology, ✈点估计的评价标准---渐近有效Dept.ofSystemEngineeringofEngineeringTechnology, ✈点估计的评价标准---最小方差无偏Dept.ofSystemEngineeringofEngineeringTechnology, ✈点估计的评价标准---最小方差无偏✈点估计的评价标准---稳健常用方法★★Dept.常用方法★★Dept.ofSystemEngineeringofEngineeringTechnology,✈CR不等式---Fisher信息Dept.ofSystemEngineering ✈CR不等如满足正则条件Dept.ofSystemEngineeringofEngineeringTechnology, Dept.ofSystemEngineeringofEngineeringTechnology, Dept.ofSystemEngineeringofEngineeringTechnology, Dept.ofSystemEngineeringofEngineeringTechnology, Dept.ofSystemEngineeringofEngineeringTechnology, Dept.ofSystemEngineeringofEngineeringTechnology, 4统4统计学的认识和发展-假设检Dept.Dept.ofSystemEngineeringofEngineeringTechnology,TheApplicationsInSocial(文学—陈大康：从数理语言看后四十回的作者，《 》，87年第1假设✈假设检✈在实用层面：Fisher,卡尔·皮尔逊 针对具体检验问题，设计反映数据和假设差异的量，并？如这类量很多，可以有多种检验方法✈Neyman(1926)4统4统计学的认识和发展-假设检ˆˆ2ik(nnpiˆi2ˆ2(km✈Dept.ofSystemEngineeringofEngineeringTechnology, ✈Dept.ofSystemEngineeringofEngineeringTechnology, 4统4统计学的认识和发展-假设检Dept.Dept.ofSystemEngineeringofEngineeringTechnology,✈KolmogorovKomoorov(1933)KomogorovDDn |Fn(x)F0(x)x)Kolmogorov✈FisherFishe✈Dept.ofSystemEngineeringofEngineeringTechnology, ✈Dept.ofSystemEngineeringofEngineeringTechnology, ？选✈前面的检验中没有“备择假设”？需要✈在检验中会范哪些错误？或者说承担哪✈✈今天的假设检验还有没有拓展的空间？从定义域看问 从值域看问题，或许有新的期待。黎曼积分→勒贝格积 Dept.ofSystemEngineeringofEngineeringTechnology, ✈Dept.ofSystemEngineeringofEngineeringTechnology, ✈Dept.ofSystemEngineeringofEngineeringTechnology, ✈Dept.ofSystemEngineeringofEngineeringTechnology, ✈Dept.ofSystemEngineeringofEngineeringTechnology, ✈Dept.ofSystemEngineeringofEngineeringTechnology, ✈Dept.ofSystemEngineeringofEngineeringTechnology, ✈Dept.ofSystemEngineeringofEngineeringTechnology, 5统5统计学的认识和发展-区间估✈置信区间→置信域推✈构造置信区间的方枢轴量方经常从极大似然估计或者充分统计量样本空间排序信仰推BootstrapDept.ofSystemEngineeringofEngineeringTechnology, 5统5统计学的认识和发展-区间估Bootstrap简 估1抽1

信点估计2 点估计 2点估计推En点估计eeringEn点估计

6统6统计学---Dept.Dept.ofSystemEngineeringofEngineeringTechnology,✈EM✈MCMC✈Data✈Edgeworth展开[✈Cornish---Fisher展开[分位数的随随于 Dept.Dept.ofSystemEngineeringofEngineeringTechnology,✈EM算法的✈Fillinginmissingdatain✈Discoveringthevalueoflatent✈Estimatingtheparametersof✈Estimatingparametersoffinite✈UnsupervisedlearningofDept.Dept.ofSystemEngineeringofEngineeringTechnology,Multinomial(p(p1,p2,,pnpix(x,x,,x xi:#samplesCix1x2xnNp(x|p1,,pn)

N

pxnx1!xn Dept.Dept.ofSystemEngineeringofEngineeringTechnology,ump(x|p1,,pn) N px1pxn(1,(1,,,12 N x(x,x,x xi:#samplesx1x2x3x4L(|x)p(x|)

Nx1!xn

(1)x1()x2()x3(1 Dept.Dept.ofSystemEngineeringofEngineeringTechnology,ump(x|p1,,pn)

N px1pxnx!x

Nsamples (1,,,1

x(x,x,x,x x:#samplesWewantize

3x4L(|x)p(x|)

N (1)x1()x2()x3(1x1!xn

Dept.Dept.ofSystemEngineeringofEngineeringTechnology,Log-N 2)1()2()3(1)L(|x)

(

x x xx1!xnl(|x)logL(|

x