Awesome-Parameter-Efficient-Fine-Tuning-for-Foundation-Models

大模型轻量微调方法一网打尽,选型不再翻论文

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 6 🐛 待处理 3 👀 关注 8
GitHub ↗
GitHub 星标 ★ 113
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源免费资源列表

项目预览

Awesome-Parameter-Efficient-Fine-Tuning-for-Foundation-Models 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类模型训练
开发团队THUDM
定价模式🏷️完全免费
价格说明开源免费资源列表
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
GitHub 星标★ 113
上线时间2025-01-23 00:00:00
代码更新2026-09-08
仓库体积741 KB
本站数据更新2026-11-03
维护状态维护中
收录时间2026-09-16
浏览次数1

项目介绍

这是一个围绕基础模型参数高效微调(PEFT)的资源汇总项目,系统整理了在不大幅增加可训练参数的前提下适配大模型的方法与资料。它解决的核心问题是:全量微调大模型成本高、显存占用大、部署多任务时存储开销惊人,而普通开发者难以快速找到适合自己场景的轻量微调方案。项目以分类清单形式收录了 Adapter、LoRA、Prefix/Prompt Tuning、BitFit、IA3 等主流技术路线,并关联论文、代码库与综述,帮助研究者和工程师按任务类型、模型结构快速定位方法。核心能力是索引与导航:把分散在论文和仓库中的 PEFT 工作按类别聚合,降低检索成本,同时给出方法间的对比视角,便于选型和后续实验设计。适合作为入门地图或方案调研的起点。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 113

核心亮点

  • 按 Adapter、LoRA、Prompt Tuning 等路线分类整理,检索路径清晰
  • 聚合论文与代码链接,省去逐个搜索的时间
  • 覆盖多种基础模型场景,适合做方案调研的起点

不足之处

  • 仅为资源清单,不含可运行代码或实验对比数据
  • 更新频率与收录完整度依赖维护者,部分新方法可能滞后

适用场景

  • 调研大模型轻量微调方案时快速建立技术全景
  • 为显存受限的微调任务挑选合适方法
  • 写综述或组会分享时收集参考文献与代码入口

替代项目

huggingface/peft、microsoft/LoRA

上一篇:onebitllms

下一篇:TabTune

同类项目推荐

jeo 开源

用 JAX 快速训练遥感影像模型

Jeo: Jax model training lib for Earth Observation

★ 171 2026-10-31
pylate 开源

训练和部署晚期交互检索模型,提升语义搜索精度

Late Interaction Models Training & Retrieval

★ 901 2026-08-09
whisper-vits-japanese 开源

只有音频也能训练日语VITS,Whisper自动生成文本标注

Vits Japanese with Whisper as data processor (you can train your VITS even you only ···

★ 161 2026-08-09
FLNK 开源

让联邦学习系统持续吸收新知识,延长寿命、降低成本

Federated Learning with New Knowledge -- explore to incorporate various new knowledg···

★ 88 2026-08-09
RLHF-V 开源

用细粒度人类纠错对齐模型行为,大幅减少视觉幻觉。

[CVPR'24] RLHF-V: Towards Trustworthy MLLMs via Behavior Alignment from Fine-grained···

★ 311 2026-08-09
minimind-o 开源

从零训练0.1B全模态模型,单卡搞定能听会说能看

️ A 0.1B Omni model trained from scratch, capable of listening, speaking, and seein···

★ 2695 2026-08-09
HoliTom 开源

合并视频令牌,让视频大模型推理快数倍

[NeurIPS 2025] HoliTom: Holistic Token Merging for Fast Video Large Language Models

★ 86 2026-08-09
merge-models 开源

按比例融合两个扩散模型,快速生成新风格模型

Merges two latent diffusion models at a user-defined ratio

★ 263 2026-08-09