gpu_poor

选显卡前先算一算：模型显存和速度一键估算

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 87 🐛 待处理 9 👀 关注 7

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 1402

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，完全免费，无付费版本。

项目预览

项目数据

分类开源模型

开发团队RahulSChand

官网地址https://rahulschand.github.io/gpu_poor

GitHubhttps://github.com/RahulSChand/gpu_poor

定价模式🏷️完全免费

价格说明开源项目，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

主要语言JavaScript

技术栈/模型ggml,gpu,huggingface,language-model,llama,llama2,llamacpp,llm,pytorch,quantization

GitHub 星标★ 1402

上线时间2023-09-12 00:00:00

代码更新2024-12-03

仓库体积1.6 MB

本站数据更新2026-11-08

维护状态低维护

收录时间2026-08-09

浏览次数7

项目介绍

gpu_poor 是一个用于估算任意大语言模型（LLM）在本地部署时所需 GPU 显存和推理速度（token/s）的命令行工具。它通过解析模型的参数量、量化方式（支持 llama.cpp/ggml、bitsandbytes、QLoRA 等）以及硬件配置，快速给出显存占用和性能预估，帮助开发者在购买 GPU 或配置本地推理环境前做出决策。核心能力包括：输入模型名称或参数规模，自动匹配常见量化格式，计算不同精度下的显存需求，并基于 GPU 型号估算推理吞吐量。项目以 JavaScript 编写，提供简洁的 CLI 交互，适合 AI 开发者和硬件爱好者使用。它解决了模型部署前硬件选型盲目、显存不足导致运行失败的问题，让用户无需实际下载模型即可获得关键部署参数。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1402

技术标签

ggml gpu huggingface language-model llama

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：入门约 5 分钟部署方式：命令行工具 5 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

现代浏览器，可直接使用在线评估页面（README 提供链接）
已知目标模型的名称或参数量规模
已知本地 GPU 型号与显存大小
若要在本地运行：具备 JavaScript/Node.js 运行环境（README 未给出具体版本与安装命令）

安装与启动步骤

1打开在线评估页面

README 给出的官方地址为 https://rahulschand.github.io/gpu_poor/ ，可直接在浏览器中打开使用，无需安装任何依赖。
2克隆项目仓库

如需在本地查看源码或自行运行，先把 GitHub 仓库克隆到本地目录，README 未提供后续安装命令。
```
git clone https://github.com/RahulSChand/gpu_poor.git
```
3进入项目目录

切换到克隆下来的项目文件夹，查看其中的源码与说明文件，确认本地运行方式。
```
cd gpu_poor
```
4查看依赖与脚本

README 未给出安装步骤，需自行查看 package.json 等文件确认依赖和可用脚本，不要盲目执行未知命令。
```
cat package.json
```
5输入参数开始估算

在页面或工具中输入模型参数量、量化方式（GGML/bitsandbytes/QLoRA）、推理框架与 GPU 型号，取得显存与速度结果。

关键配置

配置项	必填	说明	示例
`模型参数量/模型名称`	是	决定基础权重占用的显存大小	`7B`
`量化方式`	是	影响模型体积，支持 GGML、bitsandbytes、QLoRA 等	`GGML 4-bit`
`推理框架`	否	不同框架的显存与吞吐开销不同	`llama.cpp`
`GPU 型号`	是	用于估算 token/s 与显存上限	`RTX 3090`
`上下文长度与 batch size`	否	影响 KV Cache 与激活内存大小	`2048`
`训练方式`	否	全量微调、LoRA 或 QLoRA，用于估算微调显存与耗时	`QLoRA`

如何确认成功

能得到显存明细输出（含 Total、KV Cache、Model Size 等字段），或得到 Token per second、ms per token 等速度结果，即表示估算成功。

常见问题

Q：使用这个工具需要先安装环境吗？

A：不需要。README 直接给出了在线页面链接，浏览器打开即可使用；README 未提供任何本地安装命令。

Q：支持哪些量化格式？

A：README 说明支持 GGML/llama.cpp、bitsandbytes、QLoRA 等量化方式，可估算不同精度下的显存占用。

Q：支持哪些推理框架？

A：README 提到支持 vLLM、llama.cpp 和 HuggingFace（HF）三种推理框架的显存与性能拆解。

Q：能估算微调时间吗？

A：可以。README 说明能给出微调每个迭代（forward + backward）的毫秒数，并判断是显存瓶颈还是算力瓶颈。

注意事项

README 节选中没有安装与本地启动说明，本地运行方式需自行查阅仓库文件，本教程未编造任何安装命令。
估算结果为理论近似值，实际显存占用与 token/s 会受驱动版本、显存带宽、并发与实现细节影响。
ollama、node、npm 等命令 README 均未提及，请勿照搬其他项目的安装流程。

核心亮点

支持多种主流量化格式（GGML/BNB/QLoRA），估算贴近实际部署
基于真实 GPU 型号数据库，推理速度估算有参考价值
命令行交互简单，输入模型参数即可快速输出结果

不足之处

估算结果基于理论模型，实际性能可能受驱动、散热等因素影响
文档/社区待观察

适用场景

购买 GPU 前评估能否运行目标模型
比较不同量化方式对显存和速度的影响
快速规划本地 LLM 部署的硬件配置

替代项目

llama.cpp、Ollama、GPT4All

上一篇：desktop

下一篇：Observal