项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 150
核心亮点
- 专注1.58bit三值量化训练，显存占用远低于常规FP16训练
- Python轻量工具包，接口简洁，易于阅读和二次开发
- 覆盖训练与微调两条链路，适合做极低比特实验的起点
不足之处
- 项目处于早期，文档和示例较少，上手需读源码
- 社区规模小，缺少预训练权重和成熟生态支持
适用场景
- 个人开发者用单张消费级显卡实验三值模型训练
- 研究人员验证1.58bit量化对模型效果的影响
- 小团队在有限算力下微调轻量语言模型做原型验证
替代项目
bitsandbytes、GPTQ-for-LLaMa
同类项目推荐
FineEnvs
开源
快速搭 LLM 强化学习环境，从定义到训练一条龙
FineEnvs — RL Environments 101: building and scaling RL environments in the age of ···
CorDA
开源
用上下文感知的低秩分解，让大模型微调更省资源更精准
CorDA: Context-Oriented Decomposition Adaptation of Large Language Models for task-a···
INTERS
开源
给大模型注入搜索能力，让检索结果更精准
This is the repository for our paper "INTERS: Unlocking the Power of Large Language ···
MegaDLMs
开源
用扩散模型训练语言模型，更快更灵活
GPU-optimized framework for training diffusion language models at any scale. The bac···
diffusers-torchao
开源
一键优化扩散模型，推理提速3倍，显存减半
End-to-end recipes for optimizing diffusion models with torchao and diffusers (infer···
labs-molt
开源
用HuggingFace生态跑智能体强化学习，省心扩展
A scalable, agentic-first, and HuggingFace-native RL framework for research (9k line···
ms-swift
开源
一条命令微调千种大模型，从训练到部署全搞定
Use PEFT or Full-parameter to CPT/SFT/DPO/GRPO 600+ LLMs (Qwen3.8, DeepSeek-V4, GLM-···
traceml
开源
一键诊断 PyTorch 训练瓶颈，提升 GPU 利用率
Find why PyTorch training is slow, compare runs, and catch performance regressions i···
SuperPiano
开源
在 Colab 里用 Transformer 一键生成钢琴曲
Absolutely amazing SOTA Google Colab (Jupyter) Notebooks for creating/training SOTA ···