项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 218
核心亮点
- 原生支持 LLM 流式响应与 token 级延迟统计，贴合大模型场景
- 内置 AI 分析模块，自动生成性能结论与优化建议，省去人工解读
- 支持结果对比，方便评估不同版本或配置的性能差异
不足之处
- 早期项目，文档与社区支持待观察
- 功能侧重压测执行，可能缺少复杂场景编排与分布式压测能力
适用场景
- 大模型推理服务的容量评估与性能基线测试
- 业务 HTTP 接口的回归压测与版本对比
- CI/CD 中集成自动化性能测试，快速发现性能退化
替代项目
Locust、k6、wrk
上一篇：one-api-pro
下一篇：Misceo
同类项目推荐
os
开源
像 cPanel 一样管服务器，容器化建站还能让 AI 代劳
Host-in-a-box. cPanel-like UX, Docker portability, agent-ready.
free-one-api
开源
一个 API 搞定所有免费逆向 AI，OpenAI 格式无缝切换
LLM 逆向工程接口管理 | 通过标准 OpenAI API 访问 ChatGPT / gpt4free / Bard / Claude /···
stable-diffusion-deploy
开源
一键部署 Stable Diffusion 到云端，自动负载均衡与动态批处理。
Learn to serve Stable Diffusion models on cloud infrastructure at scale. This Lightn···
mlx-flash
开源
让 Apple 设备跑起超内存大模型，流式加载不卡顿。
Flash weight streaming for MLX: run massive models larger than your RAM on Apple Sil···
GUNDAM
开源
用语言模型自动给数据排优先级，让系统先处理最重要的。
GUNDAM is a data management system that prioritizes data using language models.
agentcat-typescript-sdk
开源
给 MCP 服务器装上监控，一眼看清工具调用数据
AgentCat is an analytics platform for MCP server owners .
halogen-flash-server
开源
Strix Halo 一键跑 Qwen 本地大模型，开箱即用 OpenAI 接口
Local inference that behaves like a frontier API: Qwen3.8-Flash-Next on AMD Strix Ha···
llmserve
开源
终端里选模型选后端，一键把本地 LLM 跑起来
A simple TUI for serving local LLM models. Pick a model, pick a backend, serve it
mlops-e2e
开源
用AWS原生服务搭建自动化ML流水线，一键部署模型
MLOps End-to-End Example using Amazon SageMaker Pipeline, AWS CodePipeline and AWS C···