5003.大模型-架构-DeepSeek-0.概述
发表于
|
分类于
LLM
DeepSeek 系列架构全景:MLA、DeepSeekMoE、DSA 与 V4 混合注意力;R1 推理训练范式;版本迭代史(LLM→V2→V3→R1→V3.2→V4)及生物信息学部署选型。
5003.大模型-架构-Diffusion-Math-0.概率与扩散数学基础
发表于
|
分类于
LLM
扩散模型所需的概率论基础:样本空间与集合、随机变量、高斯分布、条件概率、期望方差、KL 散度、马尔可夫链、重参数化、噪声日程与信噪比、得分函数与 ELBO;每节配概念示意图。
5003.大模型-架构-0.大模型架构范式综述
发表于
|
分类于
LLM
大模型架构范式全景:按序列混合机制、训练目标、结构归纳偏置与规模路由四维梳理 Transformer、SSM/Hyena、GNN、扩散、MoE 等代表实现,并给出生物信息学选型地图与本目录系列导读。
5003.大模型-架构-Diffusion-5.潜空间扩散与结构生成实践
发表于
|
分类于
LLM
潜扩散 LDM、SE(3)/E(3) 等变扩散、RFdiffusion 与 Chroma 式条件设计;分子 3D 与 designability 评估。
pipeline-frameworks-argo-05.WorkflowTemplate使用与选型
发表于
|
分类于
调度框架
对比 Workflow 与 WorkflowTemplate 在 YAML 构建、任务投递与运维上的差异,说明何时应维护集群内模板而非每次直接 submit Workflow,以及 Template 在复用、治理与集成上的优势。
5003.大模型-架构-Diffusion-4.离散扩散与序列生成
发表于
|
分类于
LLM
D3PM 转移矩阵、吸收态与均匀扩散;离散时间 ELBO、与 AR/MLM 对比;DNA/蛋白质序列 inpainting 与全局编辑。
5003.大模型-架构-Diffusion-3.采样加速与引导生成
发表于
|
分类于
LLM
DDIM 确定性跳步、Classifier Guidance 与 Classifier-free Guidance 原理;步数–质量权衡及蛋白质 design 中的条件控制。
5003.大模型-架构-Diffusion-2.得分匹配与随机微分方程
发表于
|
分类于
LLM
从去噪得分匹配、NCSN 到 Song 等人的 SDE/ODE 统一框架;连续时间扩散、概率流 ODE 与 DDPM 的对应关系。
5003.大模型-架构-Diffusion-1.前向扩散与变分下界
发表于
|
分类于
LLM
从马尔可夫前向过程、重参数化到 ELBO 分解,完整推导 DDPM 的训练目标与逆向采样公式;含 v-prediction 与噪声日程。