Math-07.贝叶斯推断-04.贝叶斯更新与序贯

本页讲解序贯贝叶斯更新——数据逐批到达时,今日后验 = 明日先验,自然支持在线决策。

段末注释序贯推断(sequential inference)每观测到新数据 $D_t$ 即更新 $p(\theta \mid D_{1:t})$;共轭族下更新仅为超参数累加。

系列入口00.系列规划 | 前置:03 共轭先验


1. 更新规则(D2–D3)

图 1 后验 → 新先验 → 新后验

$$
p(\theta \mid D_{1:t}) \propto p(D_t \mid \theta), p(\theta \mid D_{1:t-1})
$$

Beta–Binomial 序贯:每来一批 $(k_t, n_t)$,

$$
\alpha \leftarrow \alpha + k_t, \quad \beta \leftarrow \beta + n_t - k_t
$$

计算 $O(1)$,无需重存全量原始数据(仅充分统计量)。


2. A/B 测试(D3–D7)

图 2 两版后验重叠度

决策量:$P(\theta_B > \theta_A \mid D)$ — 从两后验各抽样估计。

策略 说明
固定样本量 传统频率派 power 分析
贝叶斯早停 $P(\text{胜}) > 0.95$ 或 $P(\text{差}) > 0.95$ 时停
Thompson Sampling 按后验比例随机分配流量

Math-01 检验 对比:贝叶斯直接给**「B 优于 A 的概率」**,更易业务沟通。


3. 跨领域序贯应用(D7)

图 3 序贯决策场景

领域 序贯场景 更新对象
互联网 A/B 转化率、留存 Beta 后验
推荐系统 多臂 bandit 各臂奖励后验
工业 SPC 实时不良率 Beta–Binomial
流行病学 每日新增病例 Gamma–Poisson
量化交易 波动率在线估计 递推 Kalman / 贝叶斯
临床试验 适应性设计 疗效后验(需规范)
实验筛选 逐批测活性 高斯过程(→ 20 BO

4. 与频率派序贯检验(D6)

频率派(SPRT 等) 贝叶斯序贯
输出 p 值 / 停界 后验 / 胜率概率
可选停 需校正 α 后验自然更新(仍忌 peeking 误读)
先验 可编码历史经验

注意:反复「偷看」后验再决定是否继续,若最终仍用同一阈值,可能夸大置信;工业界常用预注册停止规则


5. 局限(D8)

图 4 序贯局限

问题 说明
非共轭 每步需 MCMC/VI,代价高
分布漂移 平稳假设不成立时后验滞后
先验主导(早期) 样本少时决策受先验影响大
多变量耦合 独立更新忽略参数相关

6. 序贯 Beta 更新示例(D12)

1
2
3
4
5
6
7
8
9
10
from scipy import stats

alpha, beta = 1.0, 1.0 # 先验 Beta(1,1)
batches = [(12, 100), (8, 80), (15, 120)] # (成功, 试验)

for t, (k, n) in enumerate(batches, 1):
alpha += k
beta += n - k
post = stats.beta(alpha, beta)
print(f"t={t}: mean={post.mean():.3f}, 95% CI={post.interval(0.95)}")

7. 小结

序贯更新使贝叶斯适合流式数据与在线实验。下一篇:05 变分推断 VI

系列导航03 共轭 | 20 贝叶斯优化

-------------本文结束感谢您的阅读-------------