模型训练

Large-Time-Series-Model 开源

用预训练大模型搞定时间序列预测，零样本也能用

Timer 是一个面向时间序列预测的大规模预训练模型项目，由 ICML 2024 论文团队开源。它解决传统时间···

MLM_Filter 开源

用多模态模型自动筛出高质量图文对，提升训练数据纯净度

MLM_Filter 是一个用于图像-文本数据过滤的开源工具，基于论文《Finetuned Multimodal Language Mo···

Directional-Preference-Alignment 开源

用方向性偏好让模型对齐更精准，训练更稳定

Directional Preference Alignment 是一个用于大语言模型对齐的早期开源项目，旨在通过方向性偏好优···

TOTEM 开源

把时间序列变成 token，一个模型搞定预测、分类、异常检测

TOTEM 是一个面向通用时间序列分析的开源模型，核心思路是将连续的时间序列数据离散化为 token（令···

Unified-MoE-Compression 开源

给 MoE 模型瘦身，压缩后推理更快更省内存

Unified-MoE-Compression 是论文《Towards Efficient Mixture of Experts: A Holistic Study of Co···

chronos-forecasting 开源

像用语言模型一样，零样本预测任意时间序列

Chronos是一个基于Transformer架构的预训练时间序列预测模型库，由Amazon Science团队开发。它解决···

AutoTimes 开源

用大模型直接做时间序列预测，无需改架构

AutoTimes 是论文《AutoTimes: Autoregressive Time Series Forecasters via Large Language Model···

SparseLLM 开源

全局剪枝大模型，高稀疏度下保住性能

SparseLLM 是 NeurIPS 2024 论文的官方实现，专注于大语言模型的全局剪枝。它解决的核心问题是：现···

ZO-LLM 开源

用零阶优化在低显存下微调大模型，省内存不省效果

ZO-LLM 是 ICML'24 论文《Revisiting Zeroth-Order Optimization for Memory-Efficient LLM Fine-T···

litData 开源

几行代码优化数据管道，让 GPU 不再等数据

litData 是 Lightning AI 推出的数据加载与预处理加速库，专门解决模型训练中数据管道成为瓶颈的问···

Graph-CoT 开源

让大模型在知识图谱上一步步推理，提升复杂问答准确率

Graph-CoT 是一个将图结构推理与思维链（Chain-of-Thought）相结合的开源项目，旨在增强大型语言模···

sd-mecha 开源

把模型合并变成可复现的代码配方

sd-mecha 是一个用于 Stable Diffusion 模型合并的 Python 库，提供可执行的模型状态字典（State D···

Spectral-DeTuning 开源

一键还原生成模型微调前的原始权重，逆向去微调

Spectral-DeTuning 是 ICML 2024 论文的官方 PyTorch 实现，旨在恢复生成模型在微调前的原始权重。···

Skills 开源

给大模型装技能插件，按需组合快速增强能力

Skills 是一个面向大语言模型能力提升的开源项目，核心思路是通过可复用的技能模块来增强模型在特定···

KIVI 开源

2bit 量化 KV Cache，长上下文推理显存减半不降质

KIVI 是一个针对大语言模型 KV Cache 的免调优非对称 2bit 量化工具，由 ICML 2024 论文提出。它解···

CICD-for-Machine-Learning 开源

用GitHub Actions一键跑通模型训练到部署全流程

这是一个面向初学者的机器学习CI/CD示例项目，旨在通过GitHub Actions自动化模型的训练、评估、版本···

contrastors 开源

用 PyTorch 快速训练对比学习模型，省心省力。

contrastors 是一个基于 PyTorch 的对比学习训练工具库，专注于帮助研究者和工程师高效地训练对比学···

makeMoE 开源

手写稀疏混合专家模型，彻底搞懂 MoE 原理

makeMoE 是一个从零开始实现稀疏混合专家（MoE）语言模型的教学项目，灵感来源于 Andrej Karpathy ···

Time-LLM 开源

用大模型重编程时间序列，预测更准更通用

Time-LLM 是一个面向时间序列预测的开源模型，其核心思路是“重编程”大型语言模型（LLM），将时间···

sd-webui-traintrain 开源

在 WebUI 里点几下就能训练自己的 LoRA 模型

sd-webui-traintrain 是 Stable Diffusion WebUI 的 LoRA 训练扩展，让用户无需离开熟悉的 WebUI 界···

KnowledgeCircuits 开源

拆解大模型内部知识电路，精准定位事实存储与推理路径

KnowledgeCircuits 是一个来自 NeurIPS 2024 的研究项目，专注于解析预训练 Transformer 模型（如大···

llm4regression 开源

不训练模型，看大模型能否从例子中学会回归

llm4regression 是一个研究项目，旨在系统评估大型语言模型（LLM）在上下文学习（in-context learn···

stable_diffusion_dreambooth_inpainti··· 开源

用少量图片微调Stable Diffusion，实现个性化生成与局部修复。

这是一个基于Stable Diffusion的Dreambooth与Inpainting微调项目，旨在解决特定对象或场景的图像生···

SiLLM 开源

在 Mac 上轻松训练和运行大模型，无需 NVIDIA GPU。

SiLLM 是一个基于 Apple MLX 框架的开源工具，旨在简化在 Apple Silicon 芯片上训练和运行大语言模···