prompt-caching
本站收录 10 个带「prompt-caching」标签的 AI 开源项目
DeepSeek-Reasonix专为 DeepSeek 打造的终端 AI 编程智能体，围绕前缀缓存稳定性深度优化，可以长期持续运行不中断，让 AI 编程助手稳定常驻你的终端，随叫随到。★ 35,716
sqzsqz 是一个用 Rust 编写的上下文压缩工具，专门服务于 AI 编程代理（如 Claude Code、Cursor、Codex、Kiro、Zed 及任意 M★ 634
LynkrLynkr 是一个命令行工具，充当 HTTP 代理，专门用于优化 Claude Code CLI 的代码交互流程。它解决了开发者在与 AI 编程助手交互时，网络★ 605
always-accompanyalways-accompany 是一个基于上下文和注意力机制的多元化 AI Agent 项目，旨在将陪伴、聊天、编程和工作任务统一到一个共享的记忆与上下文框架★ 472
omniomni 是一个用 Rust 编写的终端上下文压缩工具，专为 AI 编程代理设计。它能在 AI 代理读取终端输出前，将噪声削减 89%，从而减少 token 消★ 373
awesome-ai-tokenomics这是一个关于AI token成本管理的精选资源列表，汇集了工具、基准、论文和可直接复制的配置，旨在帮助开发者理解token的定价、找出浪费点并降低费用。项目围绕★ 190
multi-agent-reasoningmulti-agent-reasoning 是一个基于 Python 的多智能体推理框架，旨在通过多个 AI 代理的协作来提升问答质量。它模拟一个团队讨论、辩论★ 188
distilldistill 是一个为 LLM 智能体设计的上下文智能层，以 Go 语言实现。它解决的是智能体在长期运行中上下文管理混乱、记忆冗余和敏感信息泄露的问题。核心能★ 182
awesome-llm-token-optimization这是一个精选资源列表，汇集了降低大语言模型（LLM）Token 成本、提升生产环境效率的策略、工具、论文和资源。它解决的核心问题是 LLM 使用中 Token ★ 82
lemoncrowlemoncrow 是一个为编码智能体（coding agents）设计的运行时加速工具。它通过优化智能体的运行流程，平均提升 25% 的速度并降低 30% 的★ 72