项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-30 · 当前星标 ★ 258
核心亮点
- 用 agent 自动完成 kernel 选择与参数调优，减少手工试错
- 聚焦 AMD GPU 与 HIP 生态，填补非 NVIDIA 平台自动优化工具的空缺
- Python 技术栈，便于接入现有 LLM 推理与实验流程
不足之处
- 早期项目，功能覆盖与稳定性有待验证
- 文档与社区规模较小，遇到问题可参考的资料有限
适用场景
- 在 AMD MI300 等加速卡上部署 LLM 推理并做性能调优
- 为自研推理框架自动搜索更优的 GPU 内核配置
- 评估 AMD GPU 运行大模型时的性能上限与调优空间
替代项目
vLLM、TVM、Triton
上一篇：graphsignal
下一篇：Meterless
同类项目推荐
lmnr
开源
像调试普通软件一样调试 AI 智能体，全链路追踪+评估。
Laminar - open-source observability platform purpose-built for AI agents. YC S24.
vllm-omni
开源
一套框架通吃文本图像视频，换模型不用再重搭环境。
A framework for efficient model inference with omni-modality models
llm-inference-at-scale
开源
把大模型从能跑到稳定省钱的实战手册
A Practitioner handbook for production llm serving.
rust-mlops-template
开源
用 Rust 搭建高性能 MLOps 基础设施，告别 Python 性能瓶颈
A work in progress to build out solutions in Rust for MLOPs
worker-vllm
开源
在 Runpod 上一键部署 vLLM 推理端点，按需用 GPU
The Runpod worker template for serving our large language model endpoints. Powered b···
liveblocks
开源
快速为应用和智能体添加实时协作能力，无需自研后端。
Realtime infrastructure for multiplayer apps and agents
EmbedAnything
开源
用 Rust 打造极速、安全的嵌入与索引流水线，让 AI 应用更快更稳
Highly Performant, Modular, Memory Safe and Production-ready Inference, Ingestion an···
opik-mcp
开源
在 Claude Code 里直接查 Opik 追踪、打分、管提示词
Model Context Protocol (MCP) server for Opik, the open-source LLM observability and ···
sandlock
开源
无容器、无特权，轻量隔离 AI 代码执行
The lightest AI sandbox. A process-based sandbox for Linux, no container, no VM, no ···