LlamaFactory v0.9.4 正式发布：告别 2025，全面升级的 LLM 微调框架来了

LlamaFactory v0.9.4 正式发布：告别 2025，全面升级的 LLM 微调框架来了

一、重要变更（Breaking Changes）
本次版本包含多项对使用者影响较大的变更，升级前请务必关注：

1. 项目仓库名称变更
仓库名称已从 LLaMA-Factory 更新为 LlamaFactory，后续所有官方资源将统一使用新名称。
2. Python 版本要求升级
Python 3.9 与 3.10 已正式废弃。
LlamaFactory 现在要求 Python 3.11 – 3.13。
3. 包管理工具迁移
项目从 pip 迁移至 uv。
安装方式更新为：
使用 uv pip install llamafactory
4. 官方博客上线
LlamaFactory 官方博客已正式发布

二、重磅新特性（New Features）
v0.9.4 在算法、训练后端和工程能力上实现了全面增强：

• 🔥 支持 正交微调（Orthogonal Fine-Tuning, OFT）
• 🔥 支持 新增 Token 的语义初始化（Semantic Initialization）
• 🔥 支持通过 MCoreAdapter 进行 Megatron-LM 训练
• 🔥 支持 KTransformers 后端
• 支持 MPO 算法
• 支持 FP8 精度训练
• 支持 Transformers v5
• 支持在函数调用消息中同时使用 推理内容与纯文本
• 支持 DeepSpeed AutoTP
• 支持 高效的 NPU 融合算子
• 支持 TRL 0.24
这些新特性进一步提升了 LlamaFactory 在大规模模型训练、分布式效率、硬件适配以及前沿算法支持方面的能力。
#大模型# #福大大架构师每日一题#