semantic-cache

让缓存懂语义，相似查询秒命中，降低后端压力

semantic-cache 是一个基于语义相似度而非词法等值匹配的模糊键值存储库。它解决的是传统缓存或键值存储中，精确匹配键名导致无法命中语义相近查询的问题。例如，用户搜索“如何做红烧肉”和“红烧肉的做法”，在传统缓存中会被视为不同键，而 semantic-cache 通过向量嵌入和相似度计算，能够将语义相近的查询映射到同一缓存结果，从而提升缓存命中率，降低下游数据库或 API 的调用成本。其核心能力包括：支持自定义嵌入模型（如 OpenAI、本地模型），提供简单的 get/set 接口，自动计算向量相似度并返回最匹配的结果，同时支持阈值控制匹配灵敏度。项目基于 TypeScript 编写，API 设计简洁，易于集成到 Node.js 应用中，适合用于 RAG 系统、对话机器人、搜索加速等场景。目前项目处于早期阶段，但架构清晰，扩展性良好。