【概率论与数理统计(研究生课程)】知识点总结4（随机变量的数字特征）

原文地址:【概率论与数理统计(研究生课程)】知识点总结4（随机变量的数字特征）

数学期望

$$E(X)={\int }_{-\infty }^{+\infty }xdF(x)$$

离散型

${\sum }_{k=1}^{\infty }{x}_k{p}_k$ 绝对收敛

$$\sum _{k=1}^{\infty }{x}_k{p}_k=E(X)$$

连续型

${\int }_{-\infty }^{+\infty }xp(x)dx$ 绝对收敛
$${\int }_{-\infty }^{+\infty }xp(x)dx=E(X)$$

性质：

1. $E(C)=C,C$是常数
2. $E(kX)=kE(X),k$是常数
3. $E(X_1+X_2)=E(X_1)+E(X_2),E(\sum _{i=1}^n{X}_i)=\sum _{i=1}^{n}E(X_i)$
4. 若$X、Y$独立$⟹E(XY)=E(X)E(Y)$

随机变量函数的期望

一维（$Y=g(X)$）

$$E(X)={\int }_{-\infty }^{+\infty }g(x)dF(x)$$

• 离散型

$$E(Y)=E[g(X)]=\sum _{k=1}^{\infty }g(x_k)p_k$$

• 连续型

$$E(Y)=E[g(X)]={\int }_{-\infty }^{+\infty }g(x)p(x)dx$$

$X\sim N(0,{\sigma }^2),$ 求 $E(X^n)$.

$n$为奇数：$E(X^n)={\sigma }^n(n-1)!!,n$为偶数：$E(X^n)=0$

二维（$Z=g(X,Y)$）

$$E(Z)=E[g(X,Y)]=\underset{-\infty }{\overset{+\infty }{\int }}\underset{-\infty }{\overset{+\infty }{\int }}g(x,y)dF(x,y)$$

• 离散型

$$E(Z)=\sum _{i,j=1}^{\infty }g(x_i,y_j)p_{ij}$$

• 连续型

$$E(Z)=\underset{-\infty }{\overset{+\infty }{\int }}\underset{-\infty }{\overset{+\infty }{\int }}g(x,y)p(x,y)dxdy$$

方差

D ( X ) = E { [ X − E ( X ) ] 2 } = E ( X 2 ) − E 2 ( X ) D(X)=E\{[X-E(X)]^2\}=E(X^2)-E^2(X) D(X)=E{[X−E(X)]2}=E(X2)−E2(X)

进一步推导得$E(X^2)$的求法：
$$E(X^2)=D(X)+E^2(X)$$

*性质：

1. $D(C)=0,C$为常数

2. $D(CX)=C^{2}D(X)$

3. D ( a X ± b Y ) = a 2 D ( X ) + b 2 D ( Y ) ± 2 a b C o v ( X , Y ) = a 2 D ( X ) + b 2 D ( Y ) ± 2 a b ρ X Y D ( X ) D ( Y )

   D(aX±bY)=a2D(X)+b2D(Y)±2abCov(X,Y)=a2D(X)+b2D(Y)±2abρXYD(X)D(Y)" role="presentation" style="position: relative;">D(aX±bY)=a2D(X)+b2D(Y)±2abCov(X,Y)=a2D(X)+b2D(Y)±2abρXYD(X)−−−−−√D(Y)−−−−−√$$\begin{array}{rl}D(aX\pm bY)& =a^{2}D(X)+b^{2}D(Y)\pm 2abCov(X,Y)\\ & =a^{2}D(X)+b^{2}D(Y)\pm 2ab{\rho }_{XY}\sqrt{D(X)}\sqrt{D(Y)}\end{array}$$
   D(aX±bY)​=a2D(X)+b2D(Y)±2abCov(X,Y)=a2D(X)+b2D(Y)±2abρXY​D(X) ​D(Y) ​​

   若$X、Y$相互独立，则$D(aX\pm bY)=a^{2}D(X)+b^{2}D(Y)$

4. $D(aX+b)=a^{2}D(X),D(\sum _{i=1}^n{C}_i{X}_i+b)=\sum _{i=1}^n{C}_i^{2}D(X_i)$

5. D ( X ) = 0 ⟺ P { X = c } = 1 , c = E ( X ) D(X)=0 \Longleftrightarrow P\{X=c\}=1,c=E(X) D(X)=0⟺P{X=c}=1,c=E(X)

常见分布的数学期望和方差

:::hljs-center

协方差

C o v ( X , Y ) = E { [ X − E ( X ) ] [ Y − E ( Y ) ] } = E ( X Y ) − E ( X ) E ( Y ) = ρ X Y D ( X ) D ( Y )

Cov(X,Y)​=E{[X−E(X)][Y−E(Y)]}=E(XY)−E(X)E(Y)=ρXY​D(X) ​D(Y) ​​

性质：

1. $Cov(X,Y)=Cov(Y,X)$
2. $Cov(X,X)=D(X)$
3. $Cov(aX,bY)=abCov(X,Y)$
4. $Cov(X+Y,Z)=Cov(X,Z)+Cov(Y,Z)$

随机向量的期望和方差

设 $X=(X_1,X_2,\cdots ,X_n{)}^{\top },E(X)=(E{X}_1,E{X}_2,\cdots ,E{X}_n{)}^{\top }=a,DX=B,$ 对于$Y=\sum _{i=1}^n{l}_i{X}_i=l^{\top }X:$
$$EY=l^{\top }a,DY=l^{\top }Bl$$
设$C_{(m\times n)}=(C_{ij}),$对$Y=CX:$
$$EY=Ca,DY=CB{C}^{\top }$$

特征函数

$$f(t)=E(e^{itX})={\int }_{-\infty }^{+\infty }{e}^{itx}dF(x)$$

• 离散型
  $$f(t)=\sum _{i=1}^n{e}^{it{X}_i}{p}_i$$

• 连续型

$$f(t)={\int }_{-\infty }^{+\infty }{e}^{itx}p(x)dx$$

性质：

1. $f(0)=1$
2. $f(-t)=\overline{f(t)}$
3. 若$a、b$是常数，$Y=aX+b$，则$f_Y(t)=E(e^{it(aX+b)})=E{e}^{itb}E{e}^{itaX}=e^{itb}{f}_X(at)$
4. 若$X、Y$相互独立，则$f_{X+Y}(t)=f_X(t)f_Y(t)$
5. $E{X}^k=(-i{)}^k{f}_X^{(k)}(0)$

常见分布的特征函数及其推导过程

切比雪夫不等式

P { ∣ X − E X ∣ ≥ ϵ } ≤ D X ϵ 2 P\{|X-EX|\ge \epsilon\}\le \frac{DX}{\epsilon^2} P{∣X−EX∣≥ϵ}≤ϵ2DX​

柯西-施瓦兹不等式

∣ E ( X Y ) ∣ 2 ≤ E X 2 E Y 2 C o v 2 ( X , Y ) ≤ D X D Y

∣E(XY)∣2≤EX2EY2Cov2(X,Y)≤DXDY​