【概率与统计】聊聊一些常见的概率分布

笔者：YY同学Serendipity

生命不息，代码不止。好玩的项目尽在GitHub

---

---

离散概率分布

离散均匀分布（Discrete Uniform Distribution）

• 概率质量函数（PMF）：
  P ( X = x ) = f ( x ) = { 1 b − a a ≤ X ≤ b 0 o t h e r w i s e P(X=x)=f(x)=\left\{
  1b−aa≤X≤b0otherwise" role="presentation" style="position: relative;">1b−a0a≤X≤botherwise$$\begin{array}{rlr}\frac{1}{b-a}& & a\le X\le b\\ 0& & otherwise\end{array}$$
  \right. P(X=x)=f(x)=⎩ ⎨ ⎧​b−a1​0​​a≤X≤botherwise​
• 期望（Expectation）：
  $$E(X)=\frac{a+b}{2}$$
• 方差（Variance）：
  $$Var(X)=\frac{(b-a+1{)}^2-1}{12}$$
• 栗子：随机抽签 $N$ 次后中奖（$X$）的概率。

伯努利分布（Bernoulli Distribution）

• 概率质量函数（PMF）：
  P ( X = x ) = f ( x ) = p x ( 1 − p ) 1 − x { p X = 1 1 − p X = 0 P(X=x)=f(x)=p^{x}(1-p)^{1-x}\left\{
  pX=11−pX=0" role="presentation" style="position: relative;">p1−pX=1X=0$$\begin{array}{rlr}p& & X=1\\ 1-p& & X=0\end{array}$$
  \right. P(X=x)=f(x)=px(1−p)1−x{p1−p​​X=1X=0​
• 期望（Expectation）：
  $$E(X)=\sum _{i=0}^1{X}_{i}P(X)=p$$
• 方差（Variance）：
  $$Var(X)=\sum _{i=0}^1(X_i-E(X){)}^{2}P(X)=p(1-p)$$
• 栗子：发射一枚导弹是否击落敌机（$X$）的概率。伯努利分布又名 01 分布 / 两点分布，是二项式分布的 $n=1$ 的特殊情况。

二项式分布（Binomial Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x,n,p)=C_n^x{p}^x(1-p{)}^{n-x}$$
• 期望（Expectation）：
  $$E(X)=\sum _{i=1}^n{X}_{i}P(X)=np$$
• 方差（Variance）：
  $$Var(X)=\sum _{i=1}^n(X_i-E(X){)}^{2}P(X)=np(1-p)$$
• 栗子：一批产品进行 $n$ 次检验后合格的数量（$X$）的概率。

超几何分布（Hypergeometric Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x)=\frac{C_D^x{C}_{N-D}^{n-x}}{C_N^n}$$
• 期望（Expectation）：
  $$E(X)=np$$
• 方差（Variance）：
  $$Var(X)=np(1-p)\frac{N-n}{N-1}$$
• 栗子：一批产品有 $N$ 个，其中 $D$ 个不合格，从 $N$ 个中任取 $n$ 个，不合格产品数量（$X$）的概率。

几何分布（Geometric Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x)=(1-p{)}^{x}p$$
• 期望（Expectation）：
  $$E(X)=\frac{1}{p}$$
• 方差（Variance）：
  $$Var(X)=\frac{1-p}{p^2}$$
• 栗子：已知射击比赛选手单次射中目标的概率，求他首次射中目标所需的射击次数（$X$）的概率。

负二项分布（Negative Binomial Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x,r)=C_{x-1}^{r-1}{p}^{r-1}(1-p{)}^{x-r}p=C_{x-1}^{r-1}{p}^r(1-p{)}^{x-r},x\ge r$$
• 期望（Expectation）：
  $$E(X)=\frac{r}{p}$$
• 方差（Variance）：
  $$Var(X)=r\frac{1-p}{p^2}$$
• 栗子：某射手连续射击一个目标，射中 $r$ 次后停止，若已知单次射中的概率，求射击次数（$X$）的概率。当 $r=1$ 时，即为几何分布。

泊松分布（Poisson Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x)=\frac{1}{x!}{\lambda }^x{e}^{-\lambda },x\in N^{\ast }$$
• 期望（Expectation）：
  $$E(X)=\lambda$$
• 方差（Variance）：
  $$Var(X)=\lambda$$
• 栗子：在一条马路上，已知 30 分钟内看见汽车驶过的概率，求 10 分钟内看见汽车驶过（$X$）的概率。

---

连续概率分布

均匀分布（Uniform Distribution）

• 概率密度函数（PDF）：
  p ( x ) = { 1 b − a a ≤ x ≤ b 0 o t h e r w i s e p(x)=\left\{
  1b−aa≤x≤b0otherwise" role="presentation" style="position: relative;">1b−a0a≤x≤botherwise$$\begin{array}{rlr}\frac{1}{b-a}& & a\le x\le b\\ 0& & otherwise\end{array}$$
  \right. p(x)=⎩ ⎨ ⎧​b−a1​0​​a≤x≤botherwise​
• 期望（Expectation）：
  $$E(X)=\frac{a+b}{2}$$
• 方差（Variance）：
  $$Var(X)=\frac{(b-a{)}^2}{12}$$
• 栗子：

指数分布（Exponential Distribution）

• 概率密度函数（PDF）：
  p ( x ) = { λ e − λ x x > 0 0 x ≤ 0 p(x)=\left\{
  λe−λxx>00x≤0" role="presentation" style="position: relative;">λe−λx0x>0x≤0$$\begin{array}{rlr}\lambda e^{-\lambda x}& & x>0\\ 0& & x\le 0\end{array}$$
  \right. p(x)={λe−λx0​​x>0x≤0​
• 期望（Expectation）：
  $$E(X)=\frac{1}{\lambda }$$
• 方差（Variance）：
  $$Var(X)=\frac{1}{{\lambda }^2}$$
• 栗子：若电子产品的使用寿命服从指数分布，求该产品在第 $X$ 年报废的概率。

威布尔分布（Weibull Distribution）

• 概率密度函数（PDF）：
  p ( x , λ , k ) = { λ k x k − 1 e − λ k x x > 0 0 x ≤ 0 p(x, \lambda, k)=\left\{
  λkxk−1e−λkxx>00x≤0" role="presentation" style="position: relative;">λkxk−1e−λkx0x>0x≤0$$\begin{array}{rlr}{\lambda }^k{x}^{k-1}{e}^{-{\lambda }^{k}x}& & x>0\\ 0& & x\le 0\end{array}$$
  \right. p(x,λ,k)={λkxk−1e−λkx0​​x>0x≤0​
• 期望（Expectation）：
  $$E(X)=\frac{1}{\lambda }\Gamma (1+\frac{1}{k})$$
• 方差（Variance）：
  $$Var(X)=\frac{1}{{\lambda }^2}\Gamma (1+\frac{2}{k})-(E(X){)}^2$$
• 栗子：轴承的使用寿命服从威布尔分布，指数分布为威布尔分布 $k=1$ 时的特殊情况。

高斯分布（Gaussian Distribution）

• 概率密度函数（PDF）：
  $$p(x)=\frac{1}{\sqrt{2\pi \sigma }}{e}^{-\frac{1}{2{\sigma }^2}(x-\mu {)}^2}$$
• 期望（Expectation）：
  $$E(X)=\mu$$
• 方差（Variance）：
  $$Var(X)={\sigma }^2$$
• 栗子：高斯分布又称正态分布，世界上很大一部分事件的概率都服从高斯分布，其中 $\mu =0$，${\sigma }^2=1$ 的分布又称标准正态分布。

柏拉图分布（Pareto Distribution）

• 概率密度函数（PDF）：
  p ( x ) = { ( a − 1 ) x 0 a − 1 x − a x ≥ x 0 0 x < x 0 p(x)=\left\{
  (a−1)x0a−1x−ax≥x00x<x0" role="presentation" style="position: relative;">(a−1)xa−10x−a0x≥x0x<x0$$\begin{array}{rlr}(a-1)x_0^{a-1}{x}^{-a}& & x\ge x_0\\ 0& & x<x_0\end{array}$$
  \right. p(x)={(a−1)x0a−1​x−a0​​x≥x0​x<x0​​
• 期望（Expectation）：
  $$E(X)=\frac{(a-1)x_0}{a-2},a>2$$
• 方差（Variance）：
  $$Var(X)=\frac{(a-1)x_0^2}{(a-2{)}^2(a-3)},a>3$$
• 栗子：家庭年收入服从柏拉图分布，其中 $x_0>0$，$a>1$ 的分布又称标准正态分布。

Beta 分布（Beta Distribution）

• 概率密度函数（PDF）：
  p ( x ) = { 1 B ( α , β ) x α − 1 ( 1 − x ) β − 1 0 ≤ x ≤ 1 0 o t h e r w i s e p(x)=\left\{
  1B(α,β)xα−1(1−x)β−10≤x≤10otherwise" role="presentation" style="position: relative;">1B(α,β)xα−1(1−x)β−100≤x≤1otherwise$$\begin{array}{rlr}\frac{1}{B(\alpha ,\beta )}{x}^{\alpha -1}(1-x{)}^{\beta -1}& & 0\le x\le 1\\ 0& & otherwise\end{array}$$
  \right. p(x)=⎩ ⎨ ⎧​B(α,β)1​xα−1(1−x)β−10​​0≤x≤1otherwise​
  $$B(\alpha ,\beta )={\int }_0^1{x}^{\alpha -1}(1-x{)}^{\beta -1}dx$$
• 期望（Expectation）：
  $$E(X)=\frac{\alpha }{\alpha +\beta }$$
• 方差（Variance）：
  $$Var(X)=\frac{\alpha \beta }{(\alpha +\beta {)}^2(\alpha +\beta +1)}$$
• 栗子：与二项式分布、 Gamma 分布有密切联系。

Gamma 分布（Gamma Distribution）

• 概率密度函数（PDF）：
  p ( x ) = { β α Γ ( α ) x α − 1 e − β x x > 0 0 x ≤ 0 p(x)=\left\{
  βαΓ(α)xα−1e−βxx>00x≤0" role="presentation" style="position: relative;">βαΓ(α)xα−1e−βx0x>0x≤0$$\begin{array}{rlr}\frac{{\beta }^{\alpha }}{\mathrm{\Gamma }(\alpha )}{x}^{\alpha -1}{e}^{-\beta x}& & x>0\\ 0& & x\le 0\end{array}$$
  \right. p(x)=⎩ ⎨ ⎧​Γ(α)βα​xα−1e−βx0​​x>0x≤0​
  $$\Gamma (\alpha )={\int }_0^{+\inf }{u}^{\alpha -1}{e}^{-u}du$$
• 期望（Expectation）：
  $$E(X)=\frac{\alpha }{\beta }$$
• 方差（Variance）：
  $$Var(X)=\frac{\alpha }{{\beta }^2}$$
• 栗子：常见于水文研究，与指数分布、高斯分布有密切联系。