Math-09.特征预处理与变换-02.标准化与归一化

本页讲解标准化与归一化——将连续特征映射到模型友好的尺度。

段末注释：$z$-score 标准化（standardization）$z = (x - \mu) / \sigma$，使特征近似零均值、单位方差；Min-Max 归一化（normalization）将值线性缩放到 $[a, b]$ 区间。

系列入口：00.系列规划 | 前置：01 总论、Math-03/06 范数

1. 三种常用缩放（D2–D3）

$图 1　三种变换几何$

方法	公式	对异常值
StandardScaler	$z = \dfrac{x - \mu}{\sigma}$	敏感
MinMaxScaler	$x’ = \dfrac{x - x_{\min}}{x_{\max} - x_{\min}}$	极敏感
RobustScaler	$z = \dfrac{x - \mathrm{median}}{IQR}$	稳健

$\mu, \sigma, x_{\min}, x_{\max}$ 均在训练集上估计（10 Pipeline）。

2. 何时用哪种（D6–D7）

$图 2　Scaler 选型$

场景	推荐	原因
线性/逻辑回归、SVM、KNN	Standard	梯度与距离公平
神经网络输入	Standard 或 LayerNorm	稳定训练（Math-04/10）
有明确 [0,1] 界	MinMax	激活/物理约束
金融、传感器异常点	Robust	中位数/IQR
随机森林、XGBoost	通常不必	分裂不变性

3. 跨领域应用（D7）

$图 3　标准化场景$

领域	做法	注意
信用评分	Standard 连续收入/负债	异常收入用 Robust
医学化验	按指标 z-score（参考区间）	单位统一
多组学整合	各模态分别 Standard	不可跨模态共用一个 $\mu$
图像像素	$(x/255 - \mu_{\mathrm{im}})/\sigma_{\mathrm{im}}$	$\mu,\sigma$ 可 ImageNet 或自算
地理 GIS	投影后 Standard 坐标	经纬度需先投影
时间序列特征	滚动窗口 z-score	防未来泄漏

4. 局限（D8）

$图 4　局限$

问题	说明
$\sigma = 0$	常数列需丢弃或跳过
测试超出 train 范围	MinMax 外推可 $>1$
非平稳	历史 $\mu,\sigma$ 不代表现状
树 + 线性混合	ColumnTransformer 分列处理

5. sklearn 示例（D12）

import numpy as np
from sklearn.preprocessing import StandardScaler, RobustScaler

X_train = np.array([[1.0, 200], [2.0, 300], [100.0, 400]])  # 含异常
sc = StandardScaler().fit(X_train)
rb = RobustScaler().fit(X_train)
print("Standard col0 mean~0:", sc.transform(X_train)[:, 0].mean())
print("Robust col0 median~0:", np.median(rb.transform(X_train)[:, 0]))

6. 小结

Standard 最通用；Robust 抗异常；MinMax 要有界。下一篇：03 偏态与方差稳定变换。

系列导航：03 偏态 | 06 PCA 前缩放