英伟达宣布 Unsloth LLM 微调指南

英伟达宣布了一份面向初学者的 LLM 微调指南，具体介绍了如安在从 GeForce RTX 笔记本到 DGX Spark 在内的多种硬件上应用开源框架 Unsloth。该指南涵盖了参数高效微调、全微调与强化进修等办法，并阐述了各自的实用处景、所需数据量及 VRAM 请求。

Unsloth 是一个针对 LLM 微调优化的开源框架，专为 NVIDIA GPU 架构打造，可明显晋升本来基于 Hugging Face Transformers 的练习速度和资本效力。据官方介绍，在 RTX GPU 平台上，Unsloth 可使练习机能晋升约 2.5×，同时显存占用更低，让通俗开辟者也能在本地机械上完成模型定制。

Unsloth 支撑三种主流微调方法：

• 参数高效微调（如 LoRA / QLoRA）：仅调剂模型少量参数，练习成本低，合适添加范畴常识或改良特定才能。

• 强化进修微调：借助反馈机制优化行动策略，用于自立智能体等复杂场景。

这一多样化支撑，使开辟者可以根据数据范围与义务需求灵活选择微调办法。

详情查看：https://blogs.nvidia.com/blog/rtx-ai-garage-fine-tuning-unsloth-dgx-spark/