peft

本站收录 24 个带「peft」标签的 AI 开源项目

LlamaFactory统一的 LLM 高效微调框架,支持 100+ 主流模型(LLM 与 VLM),集成 LoRA 等前沿技术,被 ACL 2024 收录,是微调领域最流行的开源工具★ 75,189peftPEFT 是一个专注于参数高效微调(Parameter-Efficient Fine-Tuning)的 Python 库,由 Hugging Face 团队维护★ 21,737ms-swiftms-swift 是魔搭社区推出的国产大模型全流程训练与部署工具,旨在解决开发者微调大模型时面临的框架割裂、上手门槛高、多模态支持不足等痛点。它支持从增量预训练★ 15,754SoupSoup 是一个用于微调大语言模型(LLM)的开源工具,它通过一个 YAML 配置文件即可完成整个微调流程,极大简化了操作。其核心亮点是采用“层流式训练”(La★ 7,822FireflyFirefly 是一个开源的大模型训练工具,专注于高效微调和训练各类主流大语言模型。它解决了开发者在使用不同模型架构时训练流程不统一、配置复杂的问题,提供了一套★ 6,653LLM-FinetuningLLM-Finetuning 是一个专注于大语言模型微调的开源项目,基于 PEFT(Parameter-Efficient Fine-Tuning)库实现。它旨★ 2,986xTuringxTuring 是一个面向个人和团队的开源大语言模型(LLM)个性化工具,旨在简化从数据预处理到模型微调的全流程。它解决了普通开发者难以快速上手 LLM 微调的★ 2,675simple-llm-finetunersimple-llm-finetuner 是一个为 LLM 微调提供简单图形界面的开源工具,旨在降低大模型微调的门槛。它解决了非专业开发者难以直接使用复杂训练脚★ 2,053mlx-tunemlx-tune 是一个专为 Apple Silicon Mac 设计的 LLM 微调工具,基于 MLX 框架原生运行,让开发者无需云端 GPU 即可在本地完成★ 1,414TinyEngramTinyEngram 是一个基于 Qwen-3 和 Stable Diffusion 系列模型的研究项目,旨在复现并验证 DeepSeek 的 Engram 架★ 1,376FineTuningLLMs这是一个配套书籍《使用PyTorch和Hugging Face微调LLMs的实践指南》的官方代码仓库,以Jupyter Notebook形式提供大量可运行的微调★ 869haloHalo 是由 White Circle 开源的大语言与多模态模型训练框架,用 Python 编写。它面向从微调到强化学习后训练的完整流程,核心能力包括分布式训★ 798can-i-finetune-this这是一个帮助开发者快速判断 Hugging Face 上的模型能否在本地 GPU 上进行微调的工具。它通过分析模型的参数量、架构和精度,结合用户 GPU 的显存★ 792step_into_llmStep into LLM 是华为 MindSpore 社区推出的大语言模型入门课程项目,以 Jupyter Notebook 为载体,系统讲解从 BERT、G★ 480llms_paper这是一个面向大语言模型(LLM)算法工程师的论文研读笔记仓库,系统整理了多模态、参数高效微调(PEFT)、小样本问答、检索增强生成(RAG)、多模态大模型可解释★ 391mini-verlmini-verl 是字节跳动 verl 强化学习训练框架的轻量单卡版本,目标是在一张消费级 NVIDIA GPU(如 RTX 3090/4090)上跑通大模型★ 304finetuned-qlora-falcon7b-medical这是一个基于Falcon-7B大语言模型,使用QLoRA技术针对心理健康对话数据集进行微调的开源项目。它解决了在有限计算资源下微调大型语言模型的问题,通过QLo★ 262WaDiWaDi 是一个面向一步图像合成的权重方向感知蒸馏框架,由 CVPR 2026 论文官方提供 PyTorch 实现。它解决扩散模型蒸馏过程中因权重方向忽略导致的★ 186lora-speedrunlora-speedrun 是一个把 LoRA 微调变成竞速比赛的开源基准项目,思路类似 modded-nanogpt,但聚焦在微调场景。它固定任务、固定硬件、★ 149Genome_FactoryGenome_Factory 是一个面向基因组学模型的集成库,旨在统一处理基因组模型的微调、部署与解释。它解决了基因组学领域模型开发流程分散、工具链不统一的问题★ 131hands-on-llmhands-on-llm 是一个面向中文开发者的 LLM 全栈动手学习项目,核心目标是把大模型从理论到落地的完整链路拆解成可运行的代码与实验。它包含三大部分:一★ 125mcore-bridgemcore-bridge 是一个面向 Megatron-Core 的模型定义桥接库,目标是把 Megatron 的训练能力包装成类似 HuggingFace T★ 102Awesome-Crack-Detection这是一个关于深度学习裂缝检测的论文列表,系统整理了该领域的核心文献。项目按学习范式(如监督、半监督、无监督)、泛化能力和数据集三个维度对论文进行分类,旨在帮助研★ 92IISANIISAN 是一个面向推荐系统的多模态基础模型高效适配开源项目。它解决了在推荐场景中直接使用大规模多模态模型(如视觉-语言模型)时计算成本高、适配效率低的问题。★ 54