Math-00.数学分布-25.Beta分布

Beta 分布(Beta distribution)定义在 $(0,1)$ 区间,是比例、概率参数的天然模型,也是 伯努利/二项 似然的共轭先验,在 A/B 测试与贝叶斯推断中广泛使用。

段末注释Beta–Binomial 共轭指先验 $p \sim \mathrm{Beta}(\alpha,\beta)$,观测二项数据后后验仍为 Beta。

读前说明:连续分布,支撑 $(0,1)$,下文给出 PDF。系列:00 规划 | 相关:10.伯努利


1. 产生背景与直观

图 1 Beta 直观

在 $[0,1]$ 上描述「成功概率 $p$ 本身的不确定性」。$\alpha,\beta$ 可视为伪计数:先验等价于已见 $\alpha$ 次成功、$\beta$ 次失败。


2. 定义与参数

$X \sim \mathrm{Beta}(\alpha, \beta)$,$\alpha>0$,$\beta>0$:

要素 内容
支撑集 $(0, 1)$
参数 $\alpha$(成功伪计数),$\beta$(失败伪计数)
特例 $\mathrm{Beta}(1,1)=\mathrm{U}(0,1)$ → 23.均匀

3. PDF 与 CDF

图 2 PDF 形态族

3.1 PDF

$$
f(x) = \frac{x^{\alpha-1}(1-x)^{\beta-1}}{B(\alpha,\beta)}, \quad 0 < x < 1
$$

$B(\alpha,\beta)=\Gamma(\alpha)\Gamma(\beta)/\Gamma(\alpha+\beta)$ 为 Beta 函数。

3.2 CDF

$$
F(x) = I_x(\alpha, \beta)
$$

$I_x$ 为正则化不完全 Beta 函数。


4. 数字特征

公式
$\mathbb{E}[X]$ $\alpha / (\alpha + \beta)$
$\mathrm{Var}(X)$ $\dfrac{\alpha\beta}{(\alpha+\beta)^2(\alpha+\beta+1)}$
众数 $(\alpha-1)/(\alpha+\beta-2)$($\alpha,\beta>1$)

$\alpha+\beta$ 越大,分布越窄(越「确定」)。


5. 与其他分布的关系

关系 说明
Uniform $\mathrm{Beta}(1,1)=\mathrm{U}(0,1)$
Bernoulli / Binomial $p$ 的先验 → 后验 Beta
Dirichlet 多元 Beta,$K$ 类比例
F 分布 与 Beta 有变换关系
Order statistics $\mathrm{U}(0,1)$ 次序统计量 $\sim \mathrm{Beta}$

6. 前提假设

假设 含义 违背时
$p\in(0,1)$ 建模对象是成功概率/比例本身 无界效应量 → Logit-Normal
有界不确定性 对 $p$ 的先验或后验信念 无界参数 → 其他先验
与二项共轭(推断) 观测为独立 Bernoulli/二项计数 过离散 → Beta–Binomial
$\alpha,\beta>0$ 形状参数为正 $\alpha,\beta<1$ 时端点 U 形奇异

段末注释:$\mathrm{Beta}(1,1)=\mathrm{U}(0,1)$;$\alpha,\beta$ 可视为成功/失败的伪计数


7. 适用场景

图 3 适用场景

场景 示例
比例先验/后验 转化率 $p$ 的贝叶斯更新
A/B 测试 两版转化率 posterior 比较
蛋白有害率 突变有害比例 $p$ 的区间估计
概率校准 分类器输出 $[0,1]$ 的分布拟合
Thompson 采样 从 Beta 后验抽样做探索

8. 局限与误用

图 4 局限

问题 说明
$p$ 可超出 [0,1] 语境 不适用;用正态/Logit-Normal
过度离散比例 应用 Beta–Binomial 或层次模型
$\alpha,\beta<1$ U 形 PDF,端点奇异
小样本先验敏感 伪计数选择影响大
与 Logistic 混淆 Beta 是 $p$ 的分布,非 link 函数

9. 参数估计与推断

9.1 共轭更新

先验 $p \sim \mathrm{Beta}(\alpha_0,\beta_0)$,观测 $k$ 成功、$n-k$ 失败:

$$
p \mid \text{data} \sim \mathrm{Beta}(\alpha_0 + k,; \beta_0 + n - k)
$$

后验均值:$\mathbb{E}[p\mid\text{data}] = \dfrac{\alpha_0+k}{\alpha_0+\beta_0+n}$。

9.2 可信区间

用 Beta 分位数构造 $p$ 的 95% 可信区间;与 10.伯努利 中 Wilson 区间对照。


10. 示例与代码

场景:先验 Beta(2,2),观测 12/50 活性提升,求后验与 95% 可信区间。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
import numpy as np
from scipy import stats
import matplotlib.pyplot as plt

alpha0, beta0 = 2, 2
k, n = 12, 50
alpha_post = alpha0 + k
beta_post = beta0 + n - k

post = stats.beta(alpha_post, beta_post)
ci = post.ppf([0.025, 0.975])
print(f"posterior mean={post.mean():.3f}, 95% CrI={ci}")

x = np.linspace(0, 0.6, 300)
fig, ax = plt.subplots(figsize=(8, 4))
ax.plot(x, stats.beta.pdf(x, alpha0, beta0), '--', label='prior Beta(2,2)')
ax.plot(x, post.pdf(x), 'r-', lw=2, label=f'posterior Beta({alpha_post},{beta_post})')
ax.axvline(k/n, color='gray', ls=':', label=f'MLE p={k/n:.2f}')
ax.set_xlabel('p'); ax.legend()
plt.savefig('beta_posterior.png', dpi=150)

# P(p > 0.2 | data)
print("P(p > 0.2 | data) =", 1 - post.cdf(0.2))

11. 小结

  • Beta($\alpha,\beta$):$(0,1)$ 上比例/概率的共轭先验;$\mathrm{Beta}(1,1)$ 为均匀。
  • A/B 测试与 Bernoulli 推断的标准贝叶斯工具。
  • 观测增多时后验收窄,趋近真实 $p$。

系列导航10.伯努利 | 23.均匀 | 15.多项


参考文献

  1. scipy.stats.beta
-------------本文结束感谢您的阅读-------------