交叉熵 H(P,Q)、KL 散度 D_KL(P||Q) 的定义、性质、与分类 NLL 及 RLHF 的关系；PyTorch 实现要点。

离散熵、微分熵、条件熵、熵的上界与 ML 中不确定性度量、决策树信息增益的数学基础。

外泌体项目生物信息分析平台的整体架构：公共层、转录组与蛋白组子平台、多组学整合与 QC 联合判读；说明设计目标、数据流与系列文档导航。

信息论总论：自信息、熵、联合/条件熵、互信息预览及与 ML 损失、语言模型的关系地图。

以 AMD 开发者计划 ROCm 环境为主线，用 vLLM 完成 Gemma 4 从环境核验、权重下载、起服到 API 冒烟的完整部署实操，并逐步展开业务落地中的关键知识点。

Self-Attention 的 QKV 矩阵形式、缩放点积、Multi-Head 线性代数及 LoRA 低秩微调的形状与参数量分析。

主成分分析 PCA 的协方差与 SVD 两种实现、白化、解释方差、与 t-SNE/UMAP 及特征选择的衔接。

正定与半正定矩阵、Cholesky 分解、条件数、数值稳定性及 ML 中协方差、Hessian、LayerNorm 的衔接。

向量范数 L1/L2/L∞、矩阵 Frobenius 范数、距离度量及 weight decay、梯度裁剪、相似度检索中的用法。

奇异值分解 SVD 防坑手册：几何直觉、执行顺序、奇异值与秩、与 PCA/LoRA 关系及 Eckart–Young 低秩近似。