项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 54
核心亮点
- 零代码接入，无需改动现有应用，配置代理即可生效
- 实时检测提示注入和 PII 扫描，覆盖安全合规关键需求
- 内置成本控制功能，可限制 Token 消耗，防止预算超支
不足之处
- 项目处于早期阶段，文档和社区支持尚待完善
- 仅支持 OpenAI 兼容 API，对非标准接口适配有限
适用场景
- 企业将 LLM 接入生产环境前，需快速增加安全防护层
- 开发团队需要监控 API 调用成本，避免资源浪费
- 处理用户输入时，需实时过滤提示注入和敏感信息
替代项目
LiteLLM、Langfuse、Helicone
上一篇：zzz-api
下一篇：pasteguard
同类项目推荐
LLMinator
开源
拖拽式界面，一键运行 Hugging Face 开源大模型
Gradio based tool to run opensource LLM models directly from Huggingface
sdk
开源
用 Python 轻松在 K8s 上跑 AI 任务，无需懂运维
Universal Python SDK to run AI workloads on Kubernetes
dockit
开源
用大白话聊数据库，AI 帮你查 Elasticsearch、MongoDB 等，可视化监控一把梭。
Agentic desktop GUI client for Elasticsearch, OpenSearch, DynamoDB, MongoDB & EasySe···
YourMemory
开源
让 AI 像人一样记住该记的，忘掉该忘的
Agentic AI memory with Ebbinghaus forgetting curve decay. +16pp better recall than M···
FreeToken
开源
在桌面端跑起数据中心级大模型，又快又省资源
FreeToken brings datacenter-scale model serving to your desktop. Run massive models ···
llmserve
开源
终端里选模型选后端，一键把本地 LLM 跑起来
A simple TUI for serving local LLM models. Pick a model, pick a backend, serve it
fastembed-go
开源
在 Go 里直接生成文本向量，告别 Python 依赖
Go implementation of @qdrant/fastembed.
llm-d-inference-sim
开源
不装 GPU 不跑模型，秒起一个假 vLLM 服务
A lightweight, configurable, and real-time simulator designed to mimic the behavior ···
mistral-inference
开源
官方推理库，快速跑通 Mistral 模型，省心部署
Official inference library for Mistral models