qlora 开源项目推荐（1,669 个）

hiyouga /LlamaFactory

100+ LLMs 与 VLMs 的统一高效微调（ACL 2024）

lyogavin /airllm

AirLLM 使用单块 4GB GPU 进行 2.8T LLM 推理

MakazhanAlpamys /Soup

只需一个 YAML 文件即可微调 LLM。层流式训练能在 4 GB 笔记本 GPU 上训练 8B 模型。

bitsandbytes-foundation /bitsandbytes

通过面向 PyTorch 的 k-bit 量化，让大型语言模型更易于使用。

yangjianxin1 /Firefly

Firefly：大模型训练工具，支持训练 Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom 等大模型

hiyouga /ChatGLM-Efficient-Tuning

Fine-tuning ChatGLM-6B with PEFT | 基于 PEFT 的高效 ChatGLM 微调

iusztinpaul /hands-on-llms

🦖 𝗟𝗲𝗮𝗿𝗻 about 𝗟𝗟𝗠𝘀, 𝗟𝗟𝗠𝗢𝗽𝘀, and 𝘃𝗲𝗰𝘁𝗼𝗿 𝗗𝗕𝘀 for free by designing, training, and deploying a real-time financial advisor LLM system ~ 𝘴𝘰𝘶𝘳𝘤𝘦 𝘤𝘰𝘥𝘦 + 𝘷𝘪𝘥𝘦𝘰 & 𝘳𝘦𝘢𝘥𝘪𝘯𝘨 𝘮𝘢𝘵𝘦𝘳𝘪𝘢𝘭𝘴

ssbuild /chatglm_finetuning

chatglm 6 b微调和羊驼微调

georgian-io /LLM-Finetuning-Toolkit

用于微调、消融和单元测试开源LLM的工具包。

whitecircle /halo

Halo 是 White Circle 构建的开源框架，用于训练大语言模型和多模态模型

DaoyuanLi2816 /can-i-finetune-this

单GPU LLM微调预检：内存估算、可运行的LoRA/QLoRA方案及本地测量。

X-D-Lab /MindChat

🐋MindChat（漫谈）：漫谈人生路, 笑对风霜途

GURPREETKAURJETHRA /END-TO-END-GENERATIVE-AI-PROJECTS

End to End Generative AI Industry Projects on LLM Models with Deployment_Awesome LLM Projects

jianzhnie /LLamaTuner

简单高效的精调大型语言模型。（支持 LLama、LLama2、LLama3、Qwen、Baichuan、GLM、Falcon）大模型高效量化训练+部署。

X-D-Lab /Sunsimiao

🌿孙思邈中文医疗大模型(Sunsimiao)：提供安全、可靠、普惠的中文医疗大模型

yangjianxin1 /Firefly-LLaMA2-Chinese

Firefly中文LLaMA-2大模型，支持增量预训练Baichuan2、Llama2、Llama、Falcon、Qwen、Baichuan、InternLM、Bloom等大模型

ddzipp /AutoAudit

AutoAudit—— the LLM for Cyber Security 网络安全大语言模型

Epistates /pmetal

PMetal: high-performance Apple Silicon framework for local LLM inference, LoRA/QLoRA fine-tuning, serving, quantization, and MLX/Metal acceleration.

DaoyuanLi2816 /mini-verl

面向单张消费级 GPU 的 verl。在 NVIDIA GPU 上支持 PPO、GRPO 和同策略蒸馏。

TYH-labs /unsloth-buddy

适用于Claude代码、Gemini CLI以及任何ACP代理的零摩擦LLM微调工具。支持在NVIDIA设备上运行，同时具备Apple Silicon平台的TRL+MPS/MLX优化功能。该工具能够自动化环境配置、LoRA训练（包括SFT、DPO、GRPO、视觉相关任务）、GRPO日志的后处理分析、评估以及数据导出等全流程操作。属于Gaslamp AI平台的一部分。