prompt-cache

给 LLM 加个缓存，成本直降 80%，响应快到飞起

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署搜索知识 🍴 复刻 43 🐛 待处理 6 👀 关注 1

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 427

维护状态维护中

是否开源开源

定价模式 🏷️完全免费开源项目，MIT许可证，完全免费，需自行部署。

项目预览

prompt-cache 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类搜索知识

开发团队messkan

官网地址https://messkan.github.io/prompt-cache

GitHubhttps://github.com/messkan/prompt-cache

定价模式🏷️完全免费

价格说明开源项目，MIT许可证，完全免费，需自行部署。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Go

技术栈/模型ai,badgerdb,cache,claude,cost-optimization,go,langchain,llm,middleware,mistral,openai,performance,rag,rag-ai,semantic-search,vector-database

GitHub 星标★ 427

上线时间2025-11-22 00:00:00

代码更新2026-08-18

仓库体积18.0 MB

本站数据更新2026-11-10

维护状态维护中

收录时间2026-08-09

浏览次数5

项目介绍

prompt-cache 是一个用 Go 编写的 LLM 代理，通过智能语义缓存将 LLM 调用成本降低最多 80%，并实现亚毫秒级响应。它作为即插即用的中间层，兼容任意 LLM 提供商，自动缓存相似的提示词和响应，避免重复调用昂贵的模型。核心能力包括语义相似度匹配、缓存命中判断、多提供商支持，以及低延迟的请求转发。该项目解决了 LLM 应用中重复查询导致的成本高、响应慢的问题，适合高频、相似请求的场景，如客服问答、代码补全等。当前处于早期阶段，但设计简洁，易于集成。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 427

技术标签

ai claude cost-optimization go langchain

使用教程

难度：进阶约 35 分钟部署方式：容器部署 5 步

环境要求

Docker
一个模型 API

安装与启动步骤

1拉仓库

服务与配置模板在同一仓库。
```
git clone https://github.com/messkan/prompt-cache.git
```
2用 compose 起

它自己是轻量服务，容器最省事。
```
docker-compose up -d
```
3把应用指向缓存地址

改应用的 base URL 即可，业务代码不用动。
4造两次相似提问

看第二次是否命中缓存并显著变快。
5调相似度阈值

阈值太低会答错，太高等于没缓存。