【概率论与数理统计(研究生课程)】知识点总结8(假设检验)

原文地址： 【概率论与数理统计(研究生课程)】知识点总结8(假设检验)

假设检验

依据

小概率原理： 小概率事件在一次试验中几乎不会发生（实际推断原理）

小概率事件在一次试验中发生的概率记为$\alpha$，$\alpha$为显著水平，检验水平

方法(概率论反证法)

1. 先对关心问题提出原假设$H_0$和备择假设
2. 运用样本信息看在$H_0$成立下会不会矛盾
3. 最后对$H_0$成立与否做出判断：
   若小概率事件发生，则否定$H_0$；否则接受$H_0$

逻辑

小概率事件在一次试验中居然发生，就可以以很大把握否定原假设。

注意：不否定$H_0$并不是肯定$H_0$一定对，而是说差异不够显著，没有达到足以否定$H_0$的程度

两类错误

第一类错误

记事件$A$为犯第一类错误
P { A } = P { reject  H 0 ∣ H 0  is true } = α P\{A\}=P\{\text{reject } H_0 | H_0\text{ is true}\}=\alpha P{A}=P{reject H0​∣H0​ is true}=α

第二类错误

记事件$B$为犯第二类错误
P { B } = P { accept  H 0 ∣ H 0  is false } = β β = ∫ μ 0 − U α 2 σ n μ 0 + U α 2 σ n 1 2 π σ n e − ( x ˉ − μ 1 ) 2 2 σ 2 n d x ˉ = Φ ( μ 0 − μ 1 σ / n + U α 2 ) − Φ ( μ 0 − μ 1 σ / n − U α 2 ) P{B}=P{accept H0|H0 is false}=ββ=μ0+Uα2σ√n∫μ0−Uα2σ√n1√2πσ√ne−(ˉx−μ1)22σ2ndˉx=Φ(μ0−μ1σ/√n+Uα2)−Φ(μ0−μ1σ/√n−Uα2)

P{B}β​=P{accept H0​∣H0​ is false}=β=μ0​−U2α​​n ​σ​∫μ0​+U2α​​n ​σ​​2π ​n ​σ​1​e−2nσ2​(xˉ−μ1​)2​dxˉ=Φ(σ/n ​μ0​−μ1​​+U2α​​)−Φ(σ/n ​μ0​−μ1​​−U2α​​)​

1. 当样本容量固定式，一类错误概率减少导致另一类错误概率增加。$\alpha$减少，区间长度$2U_{\frac{\alpha }{2}}\frac{\sigma }{\sqrt{n}}$变长，则$\beta$变大。
2. 要同时降低两类错误的概率，或在$\alpha$不变时降低$\beta$，需要增加样本容量。
3. 显著性检验只对犯第一类错误的概率加以控制，而不考虑犯第二类错误的概率

解题步骤

以单正态总体均值$\mu$双边检验为例，方差$\sigma$已知，显著水平$1-\alpha$

1. 提出原假设和备择假设：
   $$H_0:\mu ={\mu }_0;H_1:\mu \ne {\mu }_0$$

2. 选取统计量
   $$U=\frac{\bar{X}-{\mu }_0}{\sigma /\sqrt{n}}\sim N(0,1)$$

3. 写出拒绝域
   $$|U|=|\frac{\bar{X}-{\mu }_0}{\sigma /\sqrt{n}}|\ge Z_{\frac{\alpha }{2}}$$

4. 确定$Z_{\frac{\alpha }{2}}$

5. 计算$|U|$

6. 判断结果
   ∣ U ∣ ≥ Z α 2 reject  H 0 ∣ U ∣ < Z α 2 accept  H 0 |U|≥Zα2reject H0|U|<Zα2accept H0

   ∣U∣≥Z2α​​reject H0​∣U∣<Z2α​​accept H0​​

以单正态总体均值$\mu$左边检验为例，方差$\sigma$已知，显著水平$1-\alpha$

1. 提出原假设和备择假设：
   $$H_0:\mu \ge {\mu }_0;H_1:\mu <{\mu }_0$$

2. 选取统计量
   $$U=\frac{\bar{X}-{\mu }_0}{\sigma /\sqrt{n}}\sim N(0,1)$$

3. 写出拒绝域
   $$U=\frac{\bar{X}-{\mu }_0}{\sigma /\sqrt{n}}\le -Z_{\alpha }$$

4. 确定$Z_{\alpha }$

5. 计算$U$

6. 判断结果
   U ≤ − Z α reject  H 0 U > − Z α accept  H 0 U≤−Zαreject H0U>−Zαaccept H0

   U≤−Zα​U>−Zα​​reject H0​accept H0​​

以单正态总体均值$\mu$右边检验为例，方差$\sigma$已知，显著水平$1-\alpha$

1. 提出原假设和备择假设：
   $$H_0:\mu \le {\mu }_0;H_1:\mu >{\mu }_0$$

2. 选取统计量
   $$U=\frac{\bar{X}-{\mu }_0}{\sigma /\sqrt{n}}\sim N(0,1)$$

3. 写出拒绝域
   $$U=\frac{\bar{X}-{\mu }_0}{\sigma /\sqrt{n}}\ge Z_{\alpha }$$

4. 确定$Z_{\alpha }$

5. 计算$U$

6. 判断结果
   U ≥ Z α reject  H 0 U < Z α accept  H 0 U≥Zαreject H0U<Zαaccept H0

   U≥Zα​U<Zα​​reject H0​accept H0​​

注意：

1. 无论是双边检验还是单边检验，原假设$H_0$中一定要包含等于。

2. 左边检验和右边检验原假设箭头方向问题。可以这么理解：左边检验，检验的是下界，箭头就是$\ge$，右边检验检验的是上界，箭头就是$\le$。

3. 单边检验和双边检验使用情况总结：

   右边检验：是否提高、是否偏高、是否增加、是否超过，原假设就是没有提高，用小于等于…

   左边检验：是否降低、是否偏低、是否减少、是否不足，原假设就是没有降低，用大于等于…

   双边检验：是否正常、是否合格、有无差别、有无差异、有无变化、有无影响

   总的来说，单边检验问题中有方向性，双边检验问题无方向性。

   关于原假设的提法，我也是搞了很久，一直不明白，我们再回顾一下假设检验的逻辑：小概率事件在一次试验中居然发生了，那我们就有很大把握否定原假设，因此原假设必然是大概率的，你没有足够的证据就不能说明原假设是错的（类似于法律上的无罪推定），也就是所谓的$H_0$受保护。那什么样的假设是大概率的？或者说我们该如何提原假设？我认为应该把通常情况，或者说过去一直发生的情况，或者说某种标准，再或者原先就有的结论作为原假设，因为这些事件都是大概率的；把我们需要去证明的结论作为备择假设（这种主要用于前面所说的几种情况题目中都没给）。比如题目中可能会说，某标准为不超过多少，问是否符合标准，此时应假设是符合标准的，即$H_0:\mu \le {\mu }_0$。比如以往某机器精度为${\mu }_0$，让检验现在机器是否正常工作，此时应假设正常工作，即$H_0:\mu ={\mu }_0$。再比如什么都不知道，题目问能否认为某某超过${\mu }_0$，此时假设$H_1:\mu >{\mu }_0$。至于说足够的证据，那就是一次试验中小概率事件发生了，根据实际推断原理，小概率事件是几乎不可能在一次试验中发生的，那既然发生了，我们就可以认为$H_0$错了，也就拒绝$H_0$。

以下双边检验仅提供统计量和拒绝域以及单边检验的原假设和拒绝域：

单正态总体均值假设检验，方差未知

• 双边

选取统计量： $T=\frac{\bar{X}-\mu }{S/\sqrt{n}}\sim t(n-1)$

拒绝域：$|T|\ge t_{\frac{\alpha }{2}}(n-1)$

• 单边

right : H 0 : μ ≤ μ 0 ; H 1 : μ > μ 0 rejection region : X ˉ − μ S / n ≥ t α ( n − 1 ) left : H 0 : μ ≥ μ 0 ; H 1 : μ < μ 0 rejection region : X ˉ − μ S / n ≤ − t α ( n − 1 ) right:H0:μ≤μ0;H1:μ>μ0rejection region:ˉX−μS/√n≥tα(n−1)left:H0:μ≥μ0;H1:μ<μ0rejection region:ˉX−μS/√n≤−tα(n−1)

rightrejection regionleftrejection region​:H0​:μ≤μ0​;H1​:μ>μ0​:S/n ​Xˉ−μ​≥tα​(n−1):H0​:μ≥μ0​;H1​:μ<μ0​:S/n ​Xˉ−μ​≤−tα​(n−1)​

单正态总体假设检验，均值未知

• 双边

选取统计量： ${\chi }^2=\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$

拒绝域：${\chi }^2\le {\chi }_{1-\frac{\alpha }{2}}^2(n-1)$或${\chi }^2\ge {\chi }_{\frac{\alpha }{2}}^2(n-1)$ 两个临界值都需要确定

• 单边

right : H 0 : σ 2 ≤ σ 0 2 ; H 1 : σ 2 > σ 0 2 rejection region : χ 2 ≥ χ α 2 ( n − 1 ) left : H 0 : σ 2 ≥ σ 0 2 ; H 1 : σ 2 < σ 0 2 rejection region : χ 2 ≤ χ 1 − α 2 ( n − 1 ) right:H0:σ2≤σ20;H1:σ2>σ20rejection region:χ2≥χ2α(n−1)left:H0:σ2≥σ20;H1:σ2<σ20rejection region:χ2≤χ21−α(n−1)

rightrejection regionleftrejection region​:H0​:σ2≤σ02​;H1​:σ2>σ02​:χ2≥χα2​(n−1):H0​:σ2≥σ02​;H1​:σ2<σ02​:χ2≤χ1−α2​(n−1)​

两个正态总体参数的假设检验，检验两正态总体均值相等

$$H_0:{\mu }_1={\mu }_2;H_1:{\mu }_1\ne {\mu }_2$$

1. 方差${\sigma }^2$已知

   • 双边

   选取统计量：$U=\frac{\bar{X}-\bar{Y}}{\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}}\sim N(0,1)$

   拒绝域：$|U|\ge U_{\frac{\alpha }{2}}$

   • 单边

   right : H 0 : μ 1 ≤ μ 2 ; H 1 : μ 1 > μ 2 rejection region : U ≥ U α left : H 0 : μ 1 ≥ μ 2 ; H 1 : μ 1 < μ 2 rejection region : U ≤ − U α right:H0:μ1≤μ2;H1:μ1>μ2rejection region:U≥Uαleft:H0:μ1≥μ2;H1:μ1<μ2rejection region:U≤−Uα

   rightrejection regionleftrejection region​:H0​:μ1​≤μ2​;H1​:μ1​>μ2​:U≥Uα​:H0​:μ1​≥μ2​;H1​:μ1​<μ2​:U≤−Uα​​

2. 方差${\sigma }^2$未知

   • 双边

     选取统计量：$T=\frac{\bar{X}-\bar{Y}}{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}\sim t(n_1+n_2-2),S_w=\sqrt{\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2}}$

     拒绝域：$|T|\ge t_{\frac{\alpha }{2}}(n_1+n_2-2)$

   • 单边
     right : H 0 : μ 1 ≤ μ 2 ; H 1 : μ 1 > μ 2 rejection region : T ≥ t α ( n 1 + n 2 − 2 ) left : H 0 : μ 1 ≥ μ 2 ; H 1 : μ 1 < μ 2 rejection region : T ≤ − t α ( n 1 + n 2 − 2 ) right:H0:μ1≤μ2;H1:μ1>μ2rejection region:T≥tα(n1+n2−2)left:H0:μ1≥μ2;H1:μ1<μ2rejection region:T≤−tα(n1+n2−2)

     rightrejection regionleftrejection region​:H0​:μ1​≤μ2​;H1​:μ1​>μ2​:T≥tα​(n1​+n2​−2):H0​:μ1​≥μ2​;H1​:μ1​<μ2​:T≤−tα​(n1​+n2​−2)​

两正态总体均值之差的假设检验，方差未知

• 双边

$$H_0:{\mu }_1-{\mu }_2=\delta ;H_1:{\mu }_1-{\mu }_2\ne \delta$$

如果是检验${\mu }_1$和${\mu }_2$是否相等，则$\delta =0$

选取统计量：$T=\frac{\bar{X}-\bar{Y}-({\mu }_1-{\mu }_2)}{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}=\frac{\bar{X}-\bar{Y}-\delta }{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}\sim t(n_1+n_2-2)$

拒绝域：$|T|\ge t_{\frac{\alpha }{2}}(n_1+n_2-2)$

• 单边

right : H 0 : μ 1 − μ 2 ≤ δ ; H 1 : μ 1 − μ 2 > δ rejection region : T ≥ t α ( n 1 + n 2 − 2 ) left : H 0 : μ 1 − μ 2 ≥ δ ; H 1 : μ 1 − μ 2 < δ rejection region : T ≤ − t α ( n 1 + n 2 − 2 ) right:H0:μ1−μ2≤δ;H1:μ1−μ2>δrejection region:T≥tα(n1+n2−2)left:H0:μ1−μ2≥δ;H1:μ1−μ2<δrejection region:T≤−tα(n1+n2−2)

rightrejection regionleftrejection region​:H0​:μ1​−μ2​≤δ;H1​:μ1​−μ2​>δ:T≥tα​(n1​+n2​−2):H0​:μ1​−μ2​≥δ;H1​:μ1​−μ2​<δ:T≤−tα​(n1​+n2​−2)​

两正态总体方差相等的假设检验，均值未知

• 双边

$$H_0:{\sigma }_1^2={\sigma }_2^2;H_1:{\sigma }_1^2\ne {\sigma }_2^2$$

选取统计量：$F=\frac{S_1^2/{\sigma }_1^2}{S_2^2/{\sigma }_2^2}=\frac{S_1^2}{S_2^2}\sim F(n_1-1,n_2-1)$

拒绝域：$F\le F_{1-\frac{\alpha }{2}}(n_1-1,n_2-1)$或$F\ge F_{\frac{\alpha }{2}}(n_1-1,n_2-1)$

• 单边
  $$\begin{array}{rl}\text{right}& :H_0:{\sigma }_1^2\le {\sigma }_2^2;H_1:{\sigma }_1^2>{\sigma }_2^2\\ \text{rejection region}& :F\ge F_{\alpha }(n_1+n_2-2)\\ \text{left}& :H_0:{\sigma }_1^2\ge {\sigma }_2^2;H_1:{\sigma }_1^2<{\sigma }_2^2\\ \text{rejection region}& :F\le F_{1-\alpha }(n_1+n_2-2)\end{array}$$

大子样总体均值的假设检验

$\mu$假设检验是$X\sim N(\mu ,{\sigma }^2)$下提出的，当$X$不能服从正态分布时，只需要$n$足够大，对$\mu$均可用$Z$检验。

1. 方差已知

   选取统计量：$Z=\frac{\bar{X}-{\mu }_0}{\sigma /\sqrt{n}}\sim N(0,1)$【近似】

2. 方差未知

   选取统计量：$Z=\frac{\bar{X}-{\mu }_0}{S/\sqrt{n}}\sim N(0,1)$【近似】

大子样总体均值相等的假设检验

1. 方差已知

   选取统计量：$\frac{\bar{X}-\bar{Y}}{\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}}\sim N(0,1)$【近似、大子样】

2. 方差未知

   选取统计量：$\frac{\bar{X}-\bar{Y}}{\sqrt{\frac{S_1^2}{n_1}+\frac{S_2^2}{n_2}}}\sim N(0,1)$

   若考虑$\bar{X}、\bar{Y}$， $|\bar{X}-\bar{Y}|>U_{\frac{\alpha }{2}}\sqrt{\frac{S_1^2}{n_1}+\frac{S_2^2}{n_2}}$

非正态总体的参数假设检验

0-1分布

P { X = x } = p x ( 1 − p ) 1 − x P\{X=x\}=p^x(1-p)^{1-x} P{X=x}=px(1−p)1−x

$H_0:p=p_0;H_1:p\ne p_0$

$E(\bar{X})=p,D(\bar{X})=\frac{1}{n}p(1-p)$

当$n$很大时，$U=\frac{\bar{X}-p}{\sqrt{\frac{p(1-p)}{n}}}\sim N(0,1)$

拒绝域：$|U|=\frac{|\bar{X}-p_0|}{\sqrt{p_0(1-p_0)}/\sqrt{n}}\ge U_{\frac{\alpha }{2}}$

非正态总体均值的假设检验

$$H_0:\mu ={\mu }_0;H_1:\mu \ne {\mu }_0$$

中心极限定理：当$n$充分大时，

• 方差已知

  选取统计量：$U=\frac{\bar{X}-{\mu }_0}{\sigma /\sqrt{n}}\sim N(0,1)$【近似】

• 方差未知

  选取统计量：$U=\frac{\bar{X}-{\mu }_0}{S/\sqrt{n}}\sim N(0,1)$【近似】

拒绝域：$|U|\ge U_{\frac{\alpha }{2}}$

两个非正态筒体均值的假设检验

• 方差已知

  选取统计量：$U=\frac{\bar{X}-\bar{Y}-({\mu }_1-{\mu }_2)}{\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}}\sim N(0,1)$【近似】

• 方差未知

  选取统计量：$U=\frac{\bar{X}-\bar{Y}-({\mu }_1-{\mu }_2)}{\sqrt{\frac{S_1^2}{n_1}+\frac{S_2^2}{n_2}}}\sim N(0,1)$【近似】

拒绝域：$|U|\ge U_{\frac{\alpha }{2}}$

分布拟合检验 卡方检验法

$$H_0:F(x)=F_0(x);H_1:F(x)\ne F_0(x)$$

1. F(x)不含未知参数

   选取统计量：${\chi }^2=\sum _{i=1}^k\frac{(f_i-n{p}_i{)}^2}{n{p}_i}\sim {\chi }^2(k-1)$【$H_0$为真，$n$充分大】

   拒绝域：${\chi }^2\ge {\chi }_{\alpha }^2(k-1)$

2. F(x)含有未知参数

   • 先求未知参数的极大似然估计 ${\hat{p}}_i=\hat{p}(A_i)$
   • 选取统计量：${\chi }^2=\sum _{i=1}^k\frac{(f_i-n{\hat{p}}_i{)}^2}{n{\hat{p}}_i}=\sum _{i=1}^k\frac{f_i^2}{n{\hat{p}}_i}-n\sim {\chi }^2(k-r-1)$[$H_0$为真，$n$充分大] (r是未知参数个数)
   • 拒绝域：${\chi }^2\ge {\chi }_{\alpha }^2(k-r-1)$

注意：

1. 大样本，$n\ge 50$
2. 要求各组理论频数$n{p}_i\ge 5$或$n{\hat{p}}_i\ge 5$
3. 一般数据分成7到14组

存在问题：

1. 分组不同，拟合的结果不同
2. 需要有足够的样本容量
3. 对连续型变量的优度拟合，${\chi }^2$检验不是理想的方法

独立性检验(相关性检验)

$H_0:X,Y$ 独立;$H_1:X,Y$ 不独立

选取统计量：${\chi }^2=n\sum _{i=1}^m\sum _{j=1}^k\frac{(n_{ij}-\frac{n_{i\cdot }{n}_{\cdot j}}{n}{)}^2}{n_{i\cdot }{n}_{\cdot j}}=n(\sum _{i=1}^m\sum _{j=1}^k\frac{n_{ij}^2}{n_{i\cdot }{n}_{\cdot j}}-1)\sim {\chi }^2((m-1)(k-1))$【近似】

拒绝域：${\chi }^2\ge {\chi }_{\alpha }^2((m-1)(k-1))$

同时，还能通过独立性判断相关性。