项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 131
核心亮点
- 提供全面的零阶优化基准测试，对比多种优化器在LLM微调中的表现，结果可信
- 显著降低微调内存占用，支持在单卡或低显存设备上微调大模型
- 代码集成HuggingFace Transformers，易于使用和复现实验
不足之处
- 项目处于早期阶段，星标较少，文档和社区支持待观察
- 零阶优化收敛速度通常较慢，实际训练时间可能更长
适用场景
- GPU显存有限（如单卡8GB）时微调7B以下模型
- 研究零阶优化在LLM微调中的效果对比
- 需要快速原型验证的低资源微调场景
替代项目
MeZO、Adam-zeroth、LoRA
同类项目推荐
ml-workflow-automation
开源
在 Notebook 里一键把模型部署到 Kubernetes，实现 ML 工作流自动化。
Python Machine Learning (ML) project that demonstrates the archetypal ML workflow wi···
DoLa
开源
不重训模型，对比层输出，让大模型少说瞎话。
Official implementation for the paper "DoLa: Decoding by Contrasting Layers Improves···
align-anything
开源
一套框架搞定全模态对齐训练，省时省力
Align Anything: Training All-modality Model with Feedback
onebitllms
开源
小显存也能训练1.58bit三值大模型
Lightweight toolkit package to train and fine-tune 1.58bit Language models
AutoTimes
开源
用大模型直接做时间序列预测，无需改架构
Official implementation for "AutoTimes: Autoregressive Time Series Forecasters via L···
nncf
开源
压缩模型，让 OpenVINO 推理更快更省资源
Neural Network Compression Framework for enhanced OpenVINO™ inference
aikit
开源
一条命令微调并部署开源大模型，省去繁琐工程配置。
️ Fine-tune, build, and deploy open-source LLMs easily!
SteptronOss
开源
一套配置跑通大模型微调、强化与评测
A lightweight, AI-native training framework for large language models. Designed for ···
terratorch
开源
一键微调遥感大模型，快速落地地理空间AI应用
A Python toolkit for fine-tuning Geospatial Foundation Models (GFMs).