模型训练

chronos-forecasting 开源 免费 仅开源

像用语言模型一样，零样本预测任意时间序列

Chronos是一个基于Transformer架构的预训练时间序列预测模型库，由Amazon Science团队开发。它解决···

AutoTimes 开源 免费 仅开源

用大模型直接做时间序列预测，无需改架构

AutoTimes 是论文《AutoTimes: Autoregressive Time Series Forecasters via Large Language Model···

SparseLLM 开源 免费 仅开源

全局剪枝大模型，高稀疏度下保住性能

SparseLLM 是 NeurIPS 2024 论文的官方实现，专注于大语言模型的全局剪枝。它解决的核心问题是：现···

rllm 开源 免费 仅开源

把多张关系表变成图，用 GNN+LLM 一起做表格预测

rllm 是一个基于 PyTorch 的关系表学习库，把关系型数据库中的多张表、外键关联和特征列统一建模为···

ZO-LLM 开源 免费 仅开源

用零阶优化在低显存下微调大模型，省内存不省效果

ZO-LLM 是 ICML'24 论文《Revisiting Zeroth-Order Optimization for Memory-Efficient LLM Fine-T···

litData 开源 免费 仅开源

几行代码优化数据管道，让 GPU 不再等数据

litData 是 Lightning AI 推出的数据加载与预处理加速库，专门解决模型训练中数据管道成为瓶颈的问···

Graph-CoT 开源 免费 仅开源

让大模型在知识图谱上一步步推理，提升复杂问答准确率

Graph-CoT 是一个将图结构推理与思维链（Chain-of-Thought）相结合的开源项目，旨在增强大型语言模···

sd-mecha 开源 免费 仅开源

把模型合并变成可复现的代码配方

sd-mecha 是一个用于 Stable Diffusion 模型合并的 Python 库，提供可执行的模型状态字典（State D···

Spectral-DeTuning 开源 免费 仅开源

一键还原生成模型微调前的原始权重，逆向去微调

Spectral-DeTuning 是 ICML 2024 论文的官方 PyTorch 实现，旨在恢复生成模型在微调前的原始权重。···

Skills 开源 免费 仅开源

给大模型装技能插件，按需组合快速增强能力

Skills 是一个面向大语言模型能力提升的开源项目，核心思路是通过可复用的技能模块来增强模型在特定···

KIVI 开源 免费 仅开源

2bit 量化 KV Cache，长上下文推理显存减半不降质

KIVI 是一个针对大语言模型 KV Cache 的免调优非对称 2bit 量化工具，由 ICML 2024 论文提出。它解···

CICD-for-Machine-Learning 开源 免费 仅开源

用GitHub Actions一键跑通模型训练到部署全流程

这是一个面向初学者的机器学习CI/CD示例项目，旨在通过GitHub Actions自动化模型的训练、评估、版本···

contrastors 开源 免费 仅开源

用 PyTorch 快速训练对比学习模型，省心省力。

contrastors 是一个基于 PyTorch 的对比学习训练工具库，专注于帮助研究者和工程师高效地训练对比学···

makeMoE 开源 免费 仅开源

手写稀疏混合专家模型，彻底搞懂 MoE 原理

makeMoE 是一个从零开始实现稀疏混合专家（MoE）语言模型的教学项目，灵感来源于 Andrej Karpathy ···

Time-LLM 开源 免费 仅开源

用大模型重编程时间序列，预测更准更通用

Time-LLM 是一个面向时间序列预测的开源模型，其核心思路是“重编程”大型语言模型（LLM），将时间···

sd-webui-traintrain 开源 免费 仅开源

在 WebUI 里点几下就能训练自己的 LoRA 模型

sd-webui-traintrain 是 Stable Diffusion WebUI 的 LoRA 训练扩展，让用户无需离开熟悉的 WebUI 界···

KnowledgeCircuits 开源 免费 仅开源

拆解大模型内部知识电路，精准定位事实存储与推理路径

KnowledgeCircuits 是一个来自 NeurIPS 2024 的研究项目，专注于解析预训练 Transformer 模型（如大···

llm4regression 开源 免费 仅开源

不训练模型，看大模型能否从例子中学会回归

llm4regression 是一个研究项目，旨在系统评估大型语言模型（LLM）在上下文学习（in-context learn···

stable_diffusion_dreambooth_inpainti··· 开源 免费 仅开源

用少量图片微调Stable Diffusion，实现个性化生成与局部修复。

这是一个基于Stable Diffusion的Dreambooth与Inpainting微调项目，旨在解决特定对象或场景的图像生···

SiLLM 开源 免费 仅开源

在 Mac 上轻松训练和运行大模型，无需 NVIDIA GPU。

SiLLM 是一个基于 Apple MLX 框架的开源工具，旨在简化在 Apple Silicon 芯片上训练和运行大语言模···

modalities 开源 免费 仅开源

PyTorch 原生分布式训练，配置化复现大模型实验

Modalities 是一个基于 PyTorch 原生构建的基础模型训练框架，目标是把分布式训练和可复现性做成开···

INTERS 开源 免费 仅开源

给大模型注入搜索能力，让检索结果更精准

INTERS 是一个面向搜索场景的大语言模型指令微调开源项目，源自同名论文。它旨在解决通用大模型在信···

create-stable-diffusion-from-scratch 开源 免费 仅开源

手写Stable Diffusion核心代码，从零看懂扩散模型

这是一个从零开始实现稳定扩散（Stable Diffusion）架构的教程型开源项目，基于PyTorch编写，以Jup···

transformerlab-app 开源 可打开

一站式搞定大模型训练、微调和评估，从笔记本到集群无缝扩展

Transformer Lab 是一个面向 AI 研究者的开源研究环境，旨在让模型训练、评估和扩展变得无缝流畅，···