数理统计复习总结

1。1基本概念:统计量、样本矩、经验分布函数

总体X的样本X1，X2，…，Xn,则T(X1,X2，…,Xn）即为统计量 样本均值X

1n2样本方差Sn(XiX)

ni1修正样本方差S*2n21n(XiX) n1i121nk样本k阶原点矩AkXi,(k1,2,...)

ni11nk样本k阶中心矩Bk(XiX),(k1,2,...)

ni1经验分布函数Fn(x)vn(x),(x) 其中Vn（x）表示随机事件{Xx}出现的次n1数，显然Vn(x)~B(n,F(x)),则有E[Fn(x)]F(x) D[Fn(x)]F(x)[1F(x)]

n2ESn补充： 

n1*2DX ESnDX EX2DX(EX)2 n

1n2SXiX2

ni12n 二项分布B（n,p）:

EX=np DX=np(1-p）  泊松分布P():

kkP{Xk}Cnp(1p)nk,(k0,1,...,n)

P{Xk}kk!e,(k0,1,...)

EX DX

 均匀分布U（a，b）: f(x)1,(axb) baEXab1(ba)2 DX212f(x)ex,(x0)F(x)1ex,(x0)

 指数分布：

EX1 DX12

 正态分布N(,)： f(x)2nSn21(x)2exp{} EX DX2 2222nSnn122(n1)4E(2)n1ES D(2)2(n1)DSn2 nn22n当0时，EX0 EX EX3 EX2244 DX(1)2

221。2统计量：充分统计量、因子分解定理、完备统计量、指数型分布族 T是θ的充分统计量f(x1,x2,...,xnTt)与θ无关 T是θ的完备统计量要使E[g（T)］=0，必有g（T)=0

L()f(xi;)h(x1,x2,...,xn)g(T(x1,x2,...,xn);)且h非负T是θ的充分统计量

i1nf(x;)C()exp{b()T(x,x,...,x)}h(x,x,...,x)T是θ的充分完备统计量

i12n12ni1nnf(x;)C()exp{b()T(x,x,...,x)b()Ti1112n2i12(x1,x2,...,xn)}h(x1,x2,...,xn)

(T1,T2)是(1,2)的充分完备统计量

1.3抽样分布：分布,t分布，F分布,分位数，正态总体样本均值和方差的分布，非正态总体样本均值的分布

2分布：XX...X~(n) f(x)2221222n21n2()2n2exx2n12(x0)

E2n D22n

T分布：TXn~t(n) 当n>2时，ET=0 DT

n2Y/nXF分布：Fn1n2Y~F(n1,n2)

1F(n2,n1) F补充：

 Z=X+Y的概率密度fz(z)的联合概率密度

f(x,zx)dxf(zy,y)dy f（x，y）是X和Y

  

YZ的概率密度fz(z)f(x,xz)xdx

Xyg(x)的概率密度fy(y)fx(g1(y))[g1(y)]'

函数:()0x1exdx (1)() (n)(n1)!,(1)1

 B函数:B(,)10x1(1x)1dx B(,)()()

()1.4次序统计量及其分布：次序统计量、样本中位数X、样本极差R X（k）的分布密度:fx(k)(x)n![F(x)]k1[1F(x)]nkf(x),(k1,2,...,n)

(k1)!(nk)!X(1）的分布密度:fx(1)(x)nf(x)[1F(x)]n1 X（n）的分布密度：fx(n)(x)nf(x)[F(x)]n1

2参数估计

2。1点估计与优良性:概念、无偏估计、均方误差准则、相合估计（一致估计)、渐近正态估计

的均方误差:MSE(,)E()2D(E)2

若是无偏估计，则MSE(,)D

对于的任意一个无偏估计量，有DD，则是的最小方差无偏估计,记MVUE 相合估计（一致估计)：limEn limDn0

nn**2。2点估计量的求法:矩估计法、最大似然估计法 矩估计法:

① 求出总体的k阶原点矩：akEXkxkdF(x;1,2,...,m)

1nk② 解方程组akXi （k=1，2，.。。,m），得kk(X1,X2,...,Xn)即为所求

ni1最大似然估计法：

① 写出似然函数L()m

② 解似然方程得到i(x1,x2,...,xn)，即最大似然估计i(X1,X2,...,Xn) i=1，2，。。.，

i1nf(xi;)，求出lnL及似然方程

lnL0 i=1，2，。。。，

im

补充：

 似然方程无解时，求出的定义域中使得似然函数最大的值，即为最大似然估计 2。3MVUE和有效估计:最小方差无偏估计、有效估计

T是的充分完备统计量，是的一个无偏估计E(|T)为的惟一的MVUE 最小方差无偏估计的求解步骤：

① 求出参数的充分完备统计量T

② 求出ETg()，则g1(T)是的一个无偏估计

或求出一个无偏估计，然后改写成用T表示的函数 ③ 综合,E[g(T)T]g(T)是的MVUE

或者：求出的矩估计或ML估计，再求效率，为1则必为MVUE

11*[g'()]2T是g()的一个无偏估计,则满足信息不等式D[T(X)],其中

nI()2lnf(X;)lnf(X;)或I()E 0，f(X;)为样本的联合分布。I()E2最小方差无偏估计达到罗-克拉姆下界有效估计量效率为1 无偏估计的效率：e()21D

nI()是的最大似然估计，且是的充分统计量是的有效估计

2。4区间估计：概念、正态总体区间估计（期望、方差、均值差、方差比)及单侧估计、非正态总体参数和区间估计 一个总体的情况:X~N(,)

22已知,求的置信区间：X00*nn~N(0,1)X00nu

2未知，求的置信区间：2

X0Sni~t(n1)X02*Snnt(n1)

2已知，求2的置信区间:

(Xi1n)2~2(n)(Xi122ni)2(n)2(Xi11ni)2

2(n)2未知，求2的置信区间：

(X

i1niX)22~2(n1)(Xi122niX)2(n1)2(Xi1niX)2

212(n1)22两个总体的情况：X~N(1,1)，Y~N(2,2) 212,2均已知时，求

12的区间估计：

XY(12)

21n122~N(0,1)XY(12)12n122n2u

2n221222未知时，求12的区间估计：

XY(12)*2(n11)S1*2n1(n21)S2n2n1n2(n1n22)~t(n1n22)

n1n2121,2未知时，求2:

2

*2S2n212S*21n122~F(n21,n11)S1*n1S*22n2212S1nF(n21,n11)2*F(n21,n11) 12S2n22122*2非正态总体的区间估计：

SXL当n时，N(0,1)Xnu

Snnn2Snlim1n，故用Sn代替Sn—1

Sn1m1mm ~N(0,1)u1nnnn1mm21nnnXmn3统计决策与贝叶斯估计

3.1统计决策的基本概念：三要素、统计决策函数及风险函数

三要素：样本空间和分布族、行动空间（判决空间）、损失函数L(,d) 统计决策函数d(X):本质上是一个统计量,可用来估计未知参数 风险函数：R(,d)E[L(,d(X))]是关于的函数

3。2贝叶斯估计：先验分布与后验分布、贝叶斯风险、贝叶斯估计

① 求样本X=(X1,X2，。.。,Xn）的分布:q(x|)f(x|)

ii1n② 样本X与的联合概率分布：f(x,)h(|x)m(x)q(x|)() ③ 求f(x,)关于x的边缘密度m(x)f(x,)d

④

的后验密度为：h(|x)2f(x,)

m(x)取L(,d)(d)时

的贝叶斯估计为：E(|x)h(|x)d

R(,d)E(d)2贝叶斯风险为:

RB(d)E[R(,d)]E(d)2h(|x)d取L(,d)()(d)时，贝叶斯估计为:补充: 

2E[()|x]

E[()|x]C()的贝叶斯估计：取损失函数L(,d)(C()d)2，则贝叶斯估计为

C()E[C()|x]C()h(|x)d



E(|x)h(|x)df(x,)m(x)df(x,)df(x,)d

3.3minimax估计

对决策空间中的决策函数d1（X），d2（X),.。。，分别求出在上的最大风险值maxR(,d)

在所有的最大风险值中选取相对最小值，此值对应的决策函数就是最小最大决策函数.

4假设检验

4。1基本概念：零假设（H0)与备选假设(H1）、检验规则、两类错误、势函数 零假设通常受到保护，而备选假设是当零假设被拒绝后才能被接受。

检验规则：构造一个统计量T（X1,X2,...，X3)，当H0服从某一分布，当H0不成立时,T的偏大偏小特征。据此，构造拒绝域W 第一类错误（弃真错误）：P{TW|H0为真} 第二类错误(存伪错误）：P{TW|H0为假} 势函数：()E((X))P{XW}(X)1,XW.

0,XW.当0时,()为犯第一类错误的概率 当1时，1()为犯第二类错误的概率

4。2正态总体均值与方差的假设检验:t检验、X2检验、F检验、单边检验 一个总体的情况：X~N(,)

22已知，检验H0:0H1:0：U2未知,检验H0:0H1:0：TX00*nnn~N(0,1)

X0Sn~t(n1)

已知，检验H0:202H1:202:2(Xi1ni)22~2(n)

未知，检验H0:202H1:202：2(Xi1iX)2~2(n1)

222两个总体的情况：X~N(1,1)，Y~N(2,2) 21222未知时，检验H0:12H1:12:

TXY*2(n11)S1*2n1(n21)S2n2n1n2(n1n22)~t(n1n22)

n1n2S1*n1S*22n2222H1:1221,2未知时,检验H0:122:F~F(n11,n21)

2单边检验:举例说明，已知,检验H0:0H1:0:

构造U1X~N(0,1)，给定显著性水平,有P{U1u}。当H0成立

0nX0defX时U1U，因此P{Uu}P{U1u}。故拒绝域为

0n0nW{Uu}

4.3非参数假设检验方法:拟合优度检验、科尔莫戈罗夫检验、斯米尔诺夫检验

2(Ninpi0)22拟合优度检验:H0:pipi0H1:pipi0 W{(mr1)}

npi0i12m其中Ni表示样本中取值为i的个数,r表示分布中未知参数的个数

科尔莫戈罗夫检验：H0:F(x)F0(x)H1:F(x)F0(x) 实际检验的是Fn(x)F0(x)

W{limsupFn(x)F0(x)Dn,}

nx斯米尔诺夫检验：H0:F(x)G(x)H1:F(x)G(x) 实际检验的是Fn(x)Gn(x)

W{limsupFn1(x)Gn2(x)Dn1,n2,}

nx4。4似然比检验

明确零假设和备选假设：H0:0H1:1

supL(x1,...,xn;)L1(x1,...,xn)构造似然比：

L0(x1,...,xn)supL(x1,...,xn;)0拒绝域：W{(x1,...,xn)}

5方差分析

5。1单因素方差分析：数学模型、离差平方和分解、显著性检验、参数估计

Xijiij2数学模型ij~N(0,)，(i=1，2，。。。,m；j=1,2,。。。,ni)

各ij相互总离差平方和QTH0：12...n

(Xi1j1mnimniijX)2

QTQEQA

组内离差平方和QE(XijXi)2 E(i1j1mQE)2 nrQA)2 r1组间离差平方和QAni(XiX)2

i1当H0成立时，E(QA构造统计量F(r1)(nr)QEQA~F(r1,nr),当H0不成立时，有偏大特征 QEXiXk~N(ik,(112Q))且E~2(nr) 2ninkTXiXk(ik)(11)QEnink~t(nr)

应用：

' 若原始数据比较大而且集中，可减去同一数值XijXijk再解题 mmni1mni1ni22 辅助量:P(Xij),Q(Xij),RXij2

ni1j1i1nij1i1j1QAQP,QERQ,QTRP

5。2两因素方差分析：数学模型、离差平方和分解、显著性检验

XijiiijH01:12...n2数学模型ij~N(0,)，（i=1,2,..。，r；j=1，2,.。.，s) 

H02:12...n各ij相互总离差平方和QT(Xi1j1rsijX)2

QTQEQBQA

组内离差平方和QE2(XXXX)iji••ji E(i1j1mniQE)2

(r1)(s1)因素B引起的离差平方和QBr(X•jX)2 当H0成立时，E(j1rsQB)2 s1因素A引起的离差平方和QA2s(Xi12X) 当H0成立时,E(i•QA)2 r12rsrs1rs1s1r2辅助量：PXij,QIXij,QIIXij,RXij

ni1j1i1sj1j1ri1i1j12QAQIP,QBQIIP,QERQIQIIP

QA(r1)QAF~F(r1,(r1)(s1))AQE(r1)(s1)QE构造统计量：

FQB(s1)QA~F(s1,(r1)(s1))BQ(r1)(s1)QEE6回归分析

6。1一元线性回归:回归模型、未知参数的估计（β、α、σ2）、参数估计量的分布（βα

Y0σ2σ*2）

Yixii2回归模型：i~N(0,)i=1，2，。。。,n。

各相互i的估计：（,）2)~N(,n(xx)(YY)ii(xix)2i1ni12 分布: （,）(xix)2(x)2~N(,[1i1])nnYxn(xix)2i12

的估计：21nn(Y221n2222iY)((xix))SnYSnx

i1ni1E2n22*2n E2

6。2多元线性回归：回归模型、参数估计、分布

YiXii回归模型:2i~N(0,In) i=1，2，.。。，n.

各i相互参数估计:XTY(XTX)(XTX)1XTY

7多元分析初步

7。1定义及性质：定义、性质

X~Np(,)其中为X的均值向量,为X的协方差矩阵

Y=CX+b,则Y~Np(Cb,CCT)

def若0，刚(X)1(X)~2(p)

7。2参数的估计与假设检验：μ、Σ的估计、正态总体均值向量的假设检验

样本均值向量X1nnTnXi 样本离差阵S(XkX)(XkX)

i1k1最大似然估计X Sn 最小方差无偏估计X S(n1) X~N(,1n1Tn) SYYii

i1n(X0)T1(X0)~2(p)

Fnp[n(n1)(X0)TS1(X0)]2~F(p,np) (n1)2mnmn(XY)T1(XY)~2(p) mnFmn(mnp1)(XY)TS1(XY)

p(mn)(mn2)