Wald检验与p值

Wald检验

检验$H_0:\theta ={\theta }_0,H_1:\theta \ne {\theta }_0$，如若$\hat{\theta }$是渐进正态的，则显著水平为$\alpha$的Wald检验是当$|W|>z_{\alpha /2}$时拒绝原假设，其中$W=\frac{\hat{\theta }-{\theta }_0}{\widehat{se}}.$

Wald检验是易于理解的，首先阐述了估计量是渐进正态的，则在大样本下$W$就是标准正态变量，当满足$|W|>z_{\alpha /2}$意味着W出现的概率已经小于$\alpha$. 这一点可以通过下面的等式说明：
$$\begin{array}{rl}& z_{\alpha }=\Phi (1-\alpha )\\ & P_{\theta }(\frac{\hat{\theta }-{\theta }_0}{\widehat{se}}>z_{\alpha /2})+P_{\theta }(\frac{\hat{\theta }-{\theta }_0}{\widehat{se}}<-z_{\alpha /2})\\ & =P_{\theta }(\frac{|\hat{\theta }-{\theta }_0|}{\widehat{se}}>z_{\alpha /2})\\ & \to P_{\theta }(|Z|>z_{\alpha /2})\\ & \to \alpha \end{array}$$
定理：考虑$\theta$的真实值为${\theta }^{\ast }\ne {\theta }_0$，也就是原假设为加的时候的势函数(Power Function)大小，其近似值为：$$1-\Phi (\frac{{\theta }_0-{\theta }^{\ast }}{\widehat{se}}+z_{\alpha /2})+\Phi (\frac{{\theta }_0-{\theta }^{\ast }}{\widehat{se}}-z_{\alpha /2})$$
Proof:
$$\begin{array}{rl}\beta ({\theta }^{\ast })& =P_{{\theta }^{\ast }}(|\frac{\hat{\theta }-{\theta }_0}{\widehat{se}}|>z_{\alpha /2})\\ & =P_{{\theta }^{\ast }}(\frac{\hat{\theta }-{\theta }_0}{\widehat{se}}>z_{\alpha /2})+P_{{\theta }^{\ast }}(\frac{\hat{\theta }-{\theta }_0}{\widehat{se}}<-z_{\alpha /2})\end{array}$$为了方便起见，先考虑第一部分，第二部分的方法类似：
$$\begin{array}{rl}\beta ({\theta }^{\ast })& =P_{{\theta }^{\ast }}(\frac{\hat{\theta }-{\theta }_0}{\widehat{se}}>z_{\alpha /2})\\ & =P_{{\theta }^{\ast }}(\hat{\theta }>{\theta }_0+\widehat{se}{z}_{\alpha /2})\\ & =P_{{\theta }^{\ast }}(\hat{\theta }-{\theta }^{\ast }>{\theta }_0-{\theta }^{\ast }+\widehat{se}{z}_{\alpha /2})\\ & =P_{{\theta }^{\ast }}(\frac{\hat{\theta }-{\theta }^{\ast }}{\widehat{se}}>\frac{{\theta }_0-{\theta }^{\ast }+\widehat{se}{z}_{\alpha /2}}{\widehat{se}})\\ & =P_{{\theta }^{\ast }}(\frac{\hat{\theta }-{\theta }^{\ast }}{\widehat{se}}>\frac{{\theta }_0-{\theta }^{\ast }}{\widehat{se}}-z_{\alpha /2})\\ & \approx P_{{\theta }^{\ast }}(Z>\frac{{\theta }_0-{\theta }^{\ast }}{\widehat{se}}-z_{\alpha /2})\\ & =1-\Phi (\frac{{\theta }_0-{\theta }^{\ast }}{\widehat{se}}-z_{\alpha /2})\end{array}$$

p值

对于任意$\alpha \in (0,1)$，存在显著性水平为$\alpha$的检验，对应的拒绝域为$R_{\alpha }$，则 p − v a l u e = inf ⁡ { α : T ( X n ) ∈ R α } p-value = \inf\{\alpha:T(X^n)\in R_\alpha \} p−value=inf{α:T(Xn)∈Rα​}
这里$T$表示检验统计量，上式的含义是使得检验统计量属于拒绝域的最小显著水平$\alpha$。

和检验的过程不同，求取p-value的过程是这样的：先计算检验统计量，得到统计量之后反过来求最小显著水平。而检验的过程是已经确定一个显著水平，然后计算检验统计量，然后就确定是否拒绝原假设。

一般来说，这个最小显著水平p-value小于0.01时，说明证据可以很强的拒绝原假设。这等同于说，在原假设的情况下，出现这一组样本的概率可能最低达到0.01.（个人理解）当显著水平大于0.1时，不能拒绝原假设。