项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-28 · 当前星标 ★ 336
核心亮点
- 用 Rust 实现，性能与内存安全兼顾，适合高并发 API 场景
- 把有状态会话逻辑与 vLLM 推理解耦，架构职责清晰
- 直接面向 agentic 应用设计，省去自建状态编排层的重复工作
不足之处
- 早期项目，星标约 336，生态与文档成熟度待观察
- 强绑定 vLLM，换用其他推理后端需额外改造
适用场景
- 自建多轮对话智能体后端服务
- 需要会话状态持久化的工具调用型应用
- 以 vLLM 为推理引擎的团队快速搭建 API 层
替代项目
LangGraph、vLLM、Dify
同类项目推荐
metaflow-tools
开源
一键部署 Metaflow 生产环境，省心运维工作流平台
Tools and utilities for operating Metaflow in production
os
开源
像 cPanel 一样管服务器，容器化建站还能让 AI 代劳
Host-in-a-box. cPanel-like UX, Docker portability, agent-ready.
Cypher.js
开源
在 JS 里直接跑 Cypher 图查询，轻量免部署
Cypher graph database for Javascript
shellward
开源
一行命令，给 AI 项目做合规体检，防数据泄露
AI 应用合规网关 · 一行命令体检 AI 项目的「数据出境 / 硬编码密钥 / 个人信息暴露」（网···
edgee
开源
一条命令接入 Edgee 网关，让所有 AI 编程助手省钱省心。
Official Edgee CLI to interract with Edgee's Agent Gateway. Route Claude Code, Codex···
yek
开源
把整个代码库一键打包成 LLM 能懂的上下文
A fast Rust based tool to serialize text-based files in a repository or directory fo···
sd4j
开源
Java 里跑 Stable Diffusion，无需 Python，直接集成图像生成
Stable diffusion pipeline in Java using ONNX Runtime
OpenToys
开源
用 MacBook 和 ESP32 快速造本地 AI 玩具
Make Local AI Toys, Robots, Devices that work with a MacBook and an Arduino ESP32
kitops
开源
把 AI 模型打包成标准镜像，像管容器一样管 AI 资产
An open source DevOps tool from the CNCF for packaging and versioning AI/ML models, ···