litellm-pgvector
把 LiteLLM 日志变成可搜索的向量库，快速挖掘调用模式
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 91
技术标签
核心亮点
- 直接复用 pgvector，无需额外向量数据库，降低运维成本
- 自动嵌入日志内容，支持语义检索，方便调试和审计
- 与 LiteLLM 集成简单，几行代码即可启用
不足之处
- 文档/社区待观察
- 依赖外部嵌入模型，可能增加额外 API 成本
- 仅支持 PostgreSQL，限制了数据库选择
适用场景
- 对 LLM 调用日志进行语义搜索，快速定位相似问题
- 分析用户提示词趋势，优化提示模板
- 构建基于历史调用的异常检测或成本分析工具
替代项目
Langfuse、Helicone、Wandb Weave
上一篇：AI-Worker-Proxy
下一篇：Routerly
同类项目推荐
pasllm
开源
在 Pascal 里跑大模型，让 Delphi/Lazarus 也能做 AI 对话。
PasLLM - LLM inference engine in Object Pascal (synced from my private work reposito···
gateway
开源
搭建AI应用后端，统一管理模型调用与流量
[deprecated] AI Gateway - core infrastructure stack for building production-ready AI···
llmtrace
开源
零代码给 OpenAI API 加安全盾，实时防注入、扫隐私、控成本
Zero-code LLM security & observability proxy. Real-time prompt injection detection, ···
Memori
开源
给 AI 装上持久记忆，让智能体不再失忆
Memori is agent-native memory infrastructure. A LLM-agnostic layer that turns agent ···
wingman
开源
统一管理所有 AI 模型调用，让推理服务更稳更可控
Inference Hub for AI at Scale
GPTCache
开源
给 LLM 加个语义缓存，重复问题秒回，省钱又提速
Semantic cache for LLMs. Fully integrated with LangChain and llama_index.
OGAD
开源
断网也能用AI，一个网关搞定本地模型全家桶
Your private, on-device personal AI assistant for macOS and Windows. Chat, create, s···
openeverest
开源
在 K8s 上一键自动创建和管理多种数据库
OpenEverest is an open-source platform for automated database, storage and LLMs prov···
infermux
开源
看清跨云路由路径，优化网络调度
Route inference across providers.