LlamaFactory 是开源的统一微调框架,支持 100 多种大语言模型与视觉语言模型,提供零代码 CLI 与 Web UI,降低指令微调与偏好训练的门槛。
这个工具是什么
LlamaFactory 是面向大语言模型与视觉语言模型的开源微调框架,论文发表于 ACL 2024,采用 Apache-2.0 许可证,主要用 Python 实现。它把不同模型架构的微调流程统一到同一套配置与接口下,覆盖预训练、指令微调、偏好优化等训练阶段,并支持 LoRA 等参数高效方法。项目提供命令行与基于 Gradio 的 LLaMA Board 图形界面,用户无需编写训练代码即可完成配置与启动。官方文档托管于 readthedocs,并提供 Colab、PAI-DSW、ModelScope 等在线试用入口以及 Docker 镜像,便于在本地或云端复现训练流程。
核心能力
- 统一支持 100 多种大语言模型与视觉语言模型,减少为不同架构分别改写训练脚本的工作。
- 提供零代码 CLI 与基于 Gradio 的 Web UI,通过配置即可启动微调任务。
- 覆盖预训练、指令微调与偏好优化等训练阶段,并支持 LoRA 等参数高效微调方法。
- 提供 Docker 镜像与 Colab、PAI-DSW 等在线入口,便于在本地或云端复现实验。
科研中的典型用法
- 在自有领域语料上对开源大模型做指令微调,构建面向特定任务的对话或问答模型。
- 使用 LoRA 等参数高效方法在有限显存条件下适配大模型,比较不同微调配置的效果。
- 通过 LLaMA Board 图形界面配置数据集与超参数,快速验证微调流程后再迁移到脚本化训练。
快速上手
可通过 pip 安装 llamafactory 包,或拉取官方 Docker 镜像使用;也可直接在 Colab、PAI-DSW 等在线环境中打开示例笔记本。入门时先按官方文档准备模型与数据集配置,再选择命令行或 LLaMA Board 界面启动训练;建议先在小规模数据上跑通流程,再扩展到完整实验。
生态与相近工具
同领域还有 Hugging Face PEFT、TRL 等微调与对齐工具,以及各模型官方训练脚本。LlamaFactory 的差异在于用统一配置覆盖多模型与多训练阶段,并提供图形界面;若需要更细粒度的底层控制,可结合 PEFT、TRL 等库自行搭建流程。
项目信息
- 仓库:hiyouga/LlamaFactory
- 星标:74,882 · 派生:9,174
- 主要语言:Python
- 许可证:Apache-2.0
- 最近提交:2026-09-14
- 项目主页:https://llamafactory.readthedocs.io
本文属于《学科研究工具知识库 · 人工智能》第 7 篇(按 GitHub 星标排序)。收录标准:该学科公开可获取的开源研究工具,星标与活跃度为主要参考,不代表对其性能或适用性的背书;选型前请结合自身场景评估。

发表评论 取消回复