spark-ds41f
多台 DGX Spark 一键跑通 DeepSeek 分布式推理与压测
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-11-11 · 当前星标 ★ 173
核心亮点
- 提供从 Docker 镜像、vLLM 启动参数到 RoCE 网络配置的端到端可复现部署流程，减少多机环境搭建的试错成本
- 附带基准测试脚本，可量化不同节点数、并行度下的吞吐与延迟，便于做容量规划
- 针对无交换机直连 fabric 的组网方式给出具体配置，覆盖三节点与四节点两种拓扑
不足之处
- 强绑定 DGX Spark 硬件与特定模型版本，换硬件或其他模型时复用价值有限
- 早期项目，社区规模小，问题反馈与长期维护的稳定性有待观察
适用场景
- 已有两台以上 DGX Spark、需要快速搭建多机大模型推理验证环境
- 评估 DeepSeek V4.1 Flash 在小规模集群上的吞吐与扩展效率
- 为私有化部署做容量规划，对比不同并行策略与节点数的性能差异
替代项目
vLLM、SGLang、llm-d
上一篇：spark-dashboard
下一篇：pegaflow
同类项目推荐
OlliteRT
开源
把安卓手机变成本地 OpenAI 接口推理服务器
Turn your Android phone into an OpenAI-compatible LLM inference server - Fully local···
MLOps
开源
让机器学习模型从实验室平滑走向生产，告别手工部署烦恼。
Machine Learning In Production (MLOps)
MinerU
开源
把 PDF/Word 一键转成 AI 能读懂的 Markdown，让文档直接喂给大模型。
Transforms complex documents like PDFs and Office docs into LLM-ready markdown/JSON ···
openclaw-dashboard
开源
一条命令起面板，看清每个 AI 智能体花了多少钱
A beautiful, zero-dependency command center for OpenClaw AI agents
openllmetry
开源
用 OpenTelemetry 一键监控你的大模型应用，看清每次调用和成本。
Open-source observability for your GenAI or LLM application, based on OpenTelemetry
llmaz
开源
在 K8s 上一键部署多种 LLM 推理服务
☸️ Easy, advanced inference platform for large language models on Kubernetes. Sta···
djev-run
开源
在云 GPU 上一键跑起扩散模型推理服务
Serve the experimental DiffusionGemma-Jev diffusion model on Cloud Run GPUs (vLLM, R···
k8m
开源
给 K8s 配个 AI 助手，一句话搞定集群运维
一款轻量级、跨平台的 Mini Kubernetes AI Dashboard，支持大模型+智能体+MCP(支持设置操作···
Observal
开源
把 AI 组件管起来，共享复用还能看运行数据
Share and discover coding agent resources across your team. Self-hosted, Apache 2.0,···