ellora

照着 Notebook 跑通 LoRA 微调与思维链蒸馏

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 16 🐛 待处理 1 👀 关注 4
GitHub ↗
GitHub 星标 ★ 230
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,免费使用

项目预览

ellora 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类模型训练
开发团队codelion
定价模式🏷️完全免费
价格说明开源项目,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Jupyter Notebook
技术栈/模型accuracy-analysis,chain-of-thought,chain-of-thought-reasoning,data-generation,distillation,fine-tune,fine-tuning,fine-tuning-llm,finetuning,finetuning-llms,lora,qlora,quantization,quantization-aware-training,reasoning,reinforcement-learning,self-correction,self-distillation,supervised-finetuning,training
GitHub 星标★ 230
上线时间2024-09-23 00:00:00
代码更新2026-10-27
仓库体积2.3 MB
本站数据更新2026-11-02
维护状态活跃
收录时间2026-11-02
浏览次数0

项目介绍

ellora 是一个围绕 LoRA 低秩适配微调大语言模型的实验型开源项目,以 Jupyter Notebook 为主要载体,把数据生成、蒸馏、思维链推理与微调评估串成可复现的流程。它要解决的问题是:普通开发者想给开源大模型做领域适配或推理能力增强时,往往缺少从数据构造到效果验证的完整参考实现。项目提供数据生成与蒸馏脚本,用于构造带思维链的微调样本;给出 LoRA 微调配置与训练流程,降低显存门槛;并附带准确率分析等评估手段,方便对比微调前后效果。整体更像一份可动手改的教学式实验手册,适合作为 LoRA 微调与推理蒸馏的入门模板,而非开箱即用的生产框架。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-02 · 当前星标 ★ 230

核心亮点

  • 以 Notebook 组织全流程,数据生成、蒸馏、微调、评估各环节可直接运行和修改
  • 覆盖思维链数据构造与蒸馏,适合做推理能力增强的对照实验
  • LoRA 微调显存需求低,普通单卡即可复现,上手门槛友好

不足之处

  • Notebook 形态缺少工程化封装,难以直接用于生产训练流水线
  • 文档与配置说明较简略,复现细节依赖阅读代码
  • 社区规模小,问题反馈和持续维护有待观察

适用场景

  • 学习 LoRA 微调流程并做小规模领域适配实验
  • 构造思维链样本对大模型做推理蒸馏
  • 课程或团队内部的大模型微调教学演示

替代项目

LLaMA-Factory、unsloth、PEFT

上一篇:hyper-parallel

下一篇:没有了!

同类项目推荐

flow-matching 开源

用流匹配快速训练图像生成模型,替代扩散模型

Flow Matching implemented in PyTorch

★ 130 2026-08-09
DrMAS 开源

把多智能体协作变成可训练环境,让多个 LLM 一起进化

Dr. MAS is an end-to-end RL training framework for multi-agent LLM systems, supporti···

★ 172 2026-10-07
Aurora 开源

统一多模态时间序列预测,一个模型搞定数值文本图像

[ICLR 2026] Aurora: Towards Universal Generative Multimodal Time Series Forecasting

★ 80 2026-08-09
RLinf 开源

一套框架把具身智能体和机器人策略的强化学习训练跑起来

RLinf: Reinforcement Learning Infrastructure for Embodied and Agentic AI

★ 5565 2026-10-11
LLM-SR 开源

用大模型从数据中自动发现科学方程,告别手动推导。

[ICLR 2025 Oral] This is the official repo for the paper "LLM-SR" on Scientific Equa···

★ 282 2026-08-09
SimpleTuner 开源

一条命令微调扩散模型,图像视频音频通吃

A general fine-tuning kit geared toward image/video/audio diffusion models.

★ 2951 2026-08-09
LyCORIS 开源

超越 LoRA 的微调工具箱,让 Stable Diffusion 定制更灵活高效

Lora beYond Conventional methods, Other Rank adaptation Implementations for Stable d···

★ 2538 2026-08-09
verl-omni 开源

给扩散和全模态模型做 RL 后训练,一套框架跑通

Multimodal RL training framework for diffusion & omni models

★ 1429 2026-10-12
adaptive-classifier 开源

让文本分类模型随新数据自动进化,无需频繁重训

A flexible, adaptive classification system for dynamic text classification

★ 577 2026-08-09