DPOTrainer 详解:TRL 直接偏好优化
Hugging Face TRL DPOTrainer 的数据格式、DPOConfig 关键参数、ref model 配置及与 SFT LoRA 的衔接。
Adapter 合并、多 LoRA 与续训
LoRA adapter 的 merge_and_unload、多 adapter 切换、SFT 续训与 DPO 衔接、以及 Ollama/vLLM 部署前的导出要点。