正态分布(Normal distribution),又称高斯分布(Gaussian distribution),是连续概率论中最重要的分布:中心极限定理保证大量独立随机变量和趋近正态,是 Z 检验、线性回归噪声假设与测量误差模型的默认参考。
段末注释:CLT(central limit theorem)为中心极限定理;独立同分布随机变量和在大样本下近似正态。
读前说明:连续分布,下文给出 PDF(probability density function,概率密度函数),无 PMF。系列:00 规划。
1. 产生背景与直观

高斯在研究天文观测误差时发现:大量微小独立误差叠加 → 钟形曲线。直觉:
- 酶活重复测定围绕真值的波动
- 大量独立噪声之和
- 样本均值在大 $n$ 下的分布(CLT)
2. 定义与参数
$X \sim \mathcal{N}(\mu, \sigma^2)$:
| 要素 | 内容 |
|---|---|
| 支撑集 | $(-\infty, +\infty)$ |
| 参数 | $\mu \in \mathbb{R}$(位置/均值),$\sigma > 0$(尺度/标准差) |
标准正态:$Z \sim \mathcal{N}(0, 1)$。
3. PDF 与 CDF

3.1 PDF
$$
f(x) = \frac{1}{\sqrt{2\pi},\sigma} \exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)
$$
3.2 CDF
$$
F(x) = \Phi\left(\frac{x-\mu}{\sigma}\right)
$$
$\Phi$ 为标准正态 CDF。分位数:$x_p = \mu + \sigma \cdot \Phi^{-1}(p)$。参见 百分位数。
经验法则:约 68% 落在 $\mu \pm \sigma$,95% 在 $\mu \pm 2\sigma$,99.7% 在 $\mu \pm 3\sigma$。
4. 数字特征
| 量 | 值 |
|---|---|
| 期望 | $\mu$ |
| 方差 | $\sigma^2$ |
| 偏度 | $0$ |
| 超额峰度 | $0$ |
| 矩母函数 | $M(t) = \exp(\mu t + \frac{1}{2}\sigma^2 t^2)$ |
5. 与其他分布的关系
| 关系 | 说明 |
|---|---|
| CLT | i.i.d. 均值 $\bar{X}_n \approx \mathcal{N}(\mu, \sigma^2/n)$ → 31.抽样 |
| 多元推广 | $\mathbf{X} \sim \mathcal{N}_d(\boldsymbol{\mu},\boldsymbol{\Sigma})$ → 30.多元正态 |
| $\chi^2$ | $n$ 个标准正态平方和 $\sim \chi^2_n$ |
| t 分布 | $Z/\sqrt{V/\nu}$,$Z \sim \mathcal{N}(0,1)$ → 27.t |
| 对数正态 | 若 $\log X \sim \mathcal{N}$,则 $X$ 右偏 → 规划 21 |
| Poisson 极限 | $\lambda$ 大时 Poisson $\approx$ Normal |
| 线性回归 | $\varepsilon \sim \mathcal{N}(0,\sigma^2)$ → 高斯似然 = MSE |
6. 前提假设
作为数据生成模型:
| 假设 | 含义 | 违背时 |
|---|---|---|
| 连续对称 | 取值连续,密度关于均值对称 | 右偏正值 → 对数正态 |
| 钟形单峰 | 中间高、两端低 | 多峰/厚尾 → 混合或 $t$ |
| 有限方差 | $\mathrm{Var}(X)<\infty$ | 厚尾极端 → 稳定分布等 |
作为推断参考(CLT / 回归残差):
| 假设 | 含义 | 违背时 |
|---|---|---|
| i.i.d. 或 CLT 条件 | 样本独立,或和/均值来自大量弱相关因子 | 小样本偏态 → t |
| 同方差(回归) | 残差方差恒定 | 异方差 → 加权/稳健方法 |
段末注释:CLT(central limit theorem,中心极限定理)说明独立同分布和在大样本下趋近正态。
7. 适用场景

| 场景 | 示例 |
|---|---|
| 测量误差 | 仪器读数、酶活重复实验 |
| 样本均值 | 大样本下均值分布(CLT) |
| 回归残差 | 线性模型噪声(近似) |
| PLM 嵌入 | 高维向量分量近似正态(启发式) |
| QC 控制图 | $\mu \pm 3\sigma$ 界限 |
8. 局限与误用

| 误用 | 后果 |
|---|---|
| 右偏数据直接均值比较 | 应取对数 → 对数正态,或秩检验 |
| 小样本强行 Z 检验 | 应用 t 分布 |
| 重尾数据当正态 | 极端值概率低估 |
| 多峰分布单峰拟合 | 混合正态或分组建模 |
| 未检验正态性即用参数检验 | 见 Math-01 正态性检验 |
9. 参数估计与推断
9.1 MLE
样本 $x_1,\ldots,x_n$:
$$
\hat{\mu} = \bar{x}, \quad \hat{\sigma}^2 = \frac{1}{n}\sum_{i=1}^n (x_i - \bar{x})^2
$$
(无偏估计分母用 $n-1$。)
9.2 检验
- Z 检验:$\sigma$ 已知,大样本均值
- t 检验:$\sigma$ 未知,小样本 → 27.t
- Shapiro-Wilk / K-S:正态性检验
- 存量:两组数据差异显著性检验
10. 示例与代码
场景:10 次酶活测定(相对 WT),检验均值是否显著 $> 1$。
1 | import numpy as np |
11. 小结
- $\mathcal{N}(\mu,\sigma^2)$:钟形、对称;CLT 与误差模型的核心。
- 大样本均值 → 正态;$\sigma$ 未知小样本 → t。
- 右偏实验数据优先考虑对数变换或对数正态。