Ben-air


  • 首页

  • 分类

  • 归档

  • 标签

  • 关于

  • 搜索

Math-04.优化-20.大模型训练与微调

发表于 2026-06-22 | 分类于 知识
大模型预训练与 LoRA 微调的优化配置:AdamW、warmup+cosine、ZeRO/FSDP、混合精度及酶/蛋白 LM 实践要点。
阅读全文 »

Math-04.优化-07.二阶与牛顿法

发表于 2026-06-22 | 分类于 知识
牛顿法、拟牛顿 L-BFGS、Gauss-Newton、XGBoost 二阶 Taylor 近似及与一阶 SGD 的对比。
阅读全文 »

Math-04.优化-06.约束优化与Lagrange

发表于 2026-06-22 | 分类于 知识
等式/不等式约束、Lagrange 乘子、KKT 条件、SVM 与 RLHF 中 KL 约束的优化视角。
阅读全文 »

miRNA-11.外泌体综合导读:临床、药物与评估体系

发表于 2026-06-22 | 分类于 知识
外泌体综合导读:生命周期与生物学功能概要、临床与药物领域应用全景,以及按应用场景划分的评估方法、指标、分析手段及其反映的生物学问题。
阅读全文 »

Math-04.优化-02.凸优化基础

发表于 2026-06-22 | 分类于 知识
凸集、凸函数、强凸性、Jensen 不等式及 ML 中凸问题(线性回归、Logistic)与非凸深网的对比。
阅读全文 »

Math-04.优化-10.深度学习训练实践

发表于 2026-06-22 | 分类于 知识
梯度裁剪、梯度累积、混合精度、BatchNorm 与优化器的配合及训练稳定性 checklist。
阅读全文 »

Math-04.优化-05.学习率与调度

发表于 2026-06-22 | 分类于 知识
学习率选择、warmup、Step/Cosine/OneCycle 调度及大 batch 预训练与 LoRA 微调中的 lr 实践。
阅读全文 »

Math-04.优化-04.Momentum与Adam

发表于 2026-06-22 | 分类于 知识
动量 Momentum、RMSProp、Adam、AdamW 的更新公式、偏差校正及 PyTorch 默认优化器选择。
阅读全文 »

Math-04.优化-03.梯度下降与SGD

发表于 2026-06-22 | 分类于 知识
批量梯度下降、随机梯度下降 SGD、mini-batch、收敛直觉及 batch size 与学习率的关系。
阅读全文 »

miRNA-10.外泌体生物学功能与生命周期

发表于 2026-06-22 | 分类于 知识
从生命周期(发生、分泌、摄取、降解)与 cargo 类型入手,系统介绍外泌体参与的生物学功能:细胞通讯、免疫、修复、肿瘤、神经与液体活检;配三张流程图辅助理解。
阅读全文 »
‹1…181920…94›

939 日志
108 分类
794 标签
© 2026 Ben-air
已有人访问 | 总访问次