项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-20 · 当前星标 ★ 289
核心亮点
- 开箱即用:内置 Pipecat 和 LiveKit 集成,Python/TypeScript 双语言支持,接入成本低
- 硬性预算闸门:在下一轮对话前强制拦截,防止费用超支,而非事后告警
- 隐私友好:本地运行,无账号、无遥测,数据不出服务器
不足之处
- 仅支持特定框架(Pipecat/LiveKit),对其他语音代理框架需自行适配
- 文档/社区待观察
适用场景
- 语音客服机器人成本控制
- 实时语音助手开发调试
- 多租户语音应用费用分摊
替代项目
OpenAI Usage API、LangSmith、Helicone
上一篇:freebuff-proxy
下一篇:ram-coffers
同类项目推荐
WaLiAPI
开源
把多家大模型渠道收进本地网关,一个地址喂给所有 AI 编程工具
WaLiAPI 是一款本地运行的 LLM API 网关桌面软件(Tauri 2 + React + Rust)。支持各类 LL···
mlop
开源
一键记录实验,轻松对比模型,让机器学习实验管理更高效
Next Generation Experimental Tracking for Machine Learning Operations
RSD
开源
用奖励模型引导投机解码,又快又好地生成文本。
[ICML 2025] Reward-guided Speculative Decoding (RSD) for efficiency and effectivenes···
llm-inference-at-scale
开源
把大模型从能跑到稳定省钱的实战手册
A Practitioner handbook for production llm serving.
TemporalStore
开源
给 LLM 装上时间轴,上下文可回溯、可管控
Open-source Rust TemporalStore for LLM context management, temporal features, and ri···
pathway
开源
一份 Python 代码,同时跑批处理和实时流,还能接 RAG。
Python ETL framework for stream processing, real-time analytics, LLM pipelines, and ···
glide
开源
一个网关搞定所有AI模型,快速上线生产应用
A open blazing-fast simple model gateway for rapid development of production GenAI a···
TurboDiffusion
开源
出片快上百倍,画质依然在线
TurboDiffusion: 100–200× Acceleration for Video Diffusion Models
context-lens
开源
一眼看清 AI 到底收到了什么上下文
See what your AI sees. Framework-agnostic LLM context window visualizer.
