SMILE-factory

用普通显卡微调大模型,LoRA 省显存快速上手

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 16 🐛 待处理 9 👀 关注 2
GitHub ↗
GitHub 星标 ★ 106
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,需自行部署

项目预览

SMILE-factory 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类模型训练
开发团队leehanchung
定价模式🏷️完全免费
价格说明开源免费,需自行部署
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Jupyter Notebook
技术栈/模型agi,falcon,gpt,llama,llm,lora,mpt,nlp,redpajama
GitHub 星标★ 106
上线时间2023-05-07 00:00:00
代码更新2026-11-10
仓库体积25.6 MB
本站数据更新2026-11-14
维护状态活跃
收录时间2026-10-01
浏览次数1

项目介绍

SMILE-factory 是一个面向消费级硬件的开源大模型微调工具,核心目标是在单张或少量普通显卡上完成 Falcon、LLaMA、MPT、RedPajama 等主流开源大模型的指令微调。它通过 PEFT 库中的 LoRA 低秩适配技术,冻结原模型大部分参数,只训练少量新增参数,从而把显存占用和训练成本压到个人开发者可承受的范围。项目提供数据准备、训练脚本和配置模板,支持多轮对话数据格式,并针对不同模型结构做了适配。它解决的是普通开发者没有 A100 集群、却想定制私有模型的问题,让微调从实验室走向个人电脑。整体定位偏轻量实用,适合快速验证想法和做小规模领域适配。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-01 · 当前星标 ★ 106

技术标签

核心亮点

  • 基于 PEFT LoRA,消费级显卡即可微调 7B 级别模型,显存门槛低
  • 同时覆盖 Falcon、LLaMA、MPT、RedPajama 多种主流架构,选择面广
  • 提供完整训练脚本和配置,数据格式与流程清晰,便于直接跑通

不足之处

  • 项目星标仅 106,社区规模和文档完善度有限
  • 未提供量化推理或部署配套,微调后落地需自行补齐

适用场景

  • 个人开发者在单张 3090/4090 上微调 LLaMA 做领域问答
  • 小团队用 LoRA 快速验证 Falcon 在垂直语料上的效果
  • 教学场景中演示大模型微调全流程与 PEFT 原理

替代项目

LLaMA-Factory、PEFT、Alpaca-LoRA

上一篇:mini-verl

下一篇:labs-molt

同类项目推荐

Awesome-Quantization-Papers 开源

一站式追踪神经网络量化前沿论文,快速掌握技术脉络。

List of papers related to neural network quantization in recent AI conferences and j···

★ 855 2026-08-09
rlix 开源

让 RL 实验排队更聪明,GPU 等待时间更短

Run more RL experiments. Wait less for GPUs.

★ 299 2026-08-09
DataFlex 开源

训练时动态挑数据,让模型学得更快更好

[NeurIPS 2026] DataFlex: A Unified Benchmark and Evaluation Platform for Data-Centri···

★ 3580 2026-08-10
Megatron-LM 开源

NVIDIA 出品,高效训练千亿级大模型

Ongoing research training transformer models at scale

★ 18392 2026-08-09
AgileRL 开源

让强化学习训练快 10 倍,超参自动调优,开箱即用

The complete post-training stack for LLMs, plus RL for any problem. SFT, DPO and mul···

★ 968 2026-08-09
cevahir-ai 开源

一站式搭建语言模型,从分词到聊天全流程

Full-stack open-source AI engine for building language models — tokenizer training,···

★ 290 2026-08-09
align-anything 开源

一套框架搞定全模态对齐训练,省时省力

Align Anything: Training All-modality Model with Feedback

★ 4669 2026-08-09
modelkit 开源

让 ML 模型开发到上线更省心

Toolkit for developing and maintaining ML models

★ 149 2026-08-09
hls-foundation-os 开源

微调 HLS 遥感基础模型,快速落地分类任务

This repository contains examples of fine-tuning Harmonized Landsat and Sentinel-2 (···

★ 410 2026-08-09