项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-28 · 当前星标 ★ 333
技术标签
核心亮点
- 在 safetensors 之上扩展元数据，量化与稀疏配置随权重一起保存，加载端无需额外约定
- 提供打包解包与 PyTorch 权重互转接口，便于压缩模型分发和推理框架集成
- 聚焦存储层单一职责，与具体量化算法解耦，可承载多种量化方案
不足之处
- 早期项目，星标与生态规模较小，格式兼容性与长期维护待观察
- 依赖下游推理框架适配，单独使用时价值有限
适用场景
- 量化大模型权重的标准化保存与分发
- 稀疏化模型实验结果的持久化与复现
- 推理引擎加载压缩权重时的统一格式层
替代项目
safetensors、GPTQ、llm-compressor
上一篇：afd-plugin
下一篇：vllm-lens
同类项目推荐
openclaw-dashboard
开源
一条命令起面板，看清每个 AI 智能体花了多少钱
A beautiful, zero-dependency command center for OpenClaw AI agents
k3ai
开源
几分钟搭好 AI 环境，不用再折腾 K8s 和工具部署。
A lightweight tool to get an AI Infrastructure Stack up in minutes not days. K3ai wi···
LLMServingSim
开源
不买卡也能仿真 LLM 推理集群的吞吐与延迟
LLMServingSim 2.0: A Unified Simulator for Heterogeneous and Disaggregated LLM Servi···
ccLoad
开源
自动切换 AI 渠道，告别手动运维，提升调用稳定性
Self-hosted AI API gateway for Claude Code, Codex and Gemini: pool API keys and subs···
new-api
开源
一个网关接入所有大模型，协议随意转换，省心又省钱
A unified AI model hub for aggregation & distribution. It supports cross-converting ···
glide
开源
一个网关搞定所有AI模型，快速上线生产应用
A open blazing-fast simple model gateway for rapid development of production GenAI a···
comfyui-model-linker
开源
一键补全 ComfyUI 缺失模型，自动匹配下载，告别报错。
Relink missing models in ComfyUI workflows with fuzzy matching, and download them fr···
redis-llm
开源
用 Redis 给 LLM 装个长期记忆，轻松访问私有数据
redis-llm integrates LLM with Redis. It can help LLM to access private data, and rem···
token-limit
开源
盯紧 AI 上下文用量，超限自动提醒，省钱省心
Monitor how many tokens your code and configs consume in AI tools. Set budgets and g···