leanctx

不换代码,一键压缩提示词,立省 40-60% token 费用

leanctx 是一个用于生产环境 LLM 应用的即插即用提示词压缩工具。它基于 LLMLingua-2 模型,通过智能压缩提示词中的冗余内容,帮助开发者在不修改现有代码的前提下,将 token 消耗降低 40-60%,从而显著减少 API 调用成本。项目提供 Python SDK,集成简单,只需几行代码即可在现有 LLM 应用中加入压缩层。它解决了长提示词带来的高额费用和延迟问题,特别适合处理包含大量上下文、历史记录或文档片段的场景。核心能力包括高压缩比、保持语义完整性、低延迟处理,以及灵活的配置选项,可适应不同应用需求。作为早期项目,它已获得 316 个星标,展现出不错的社区关注度。

开源 free 搜索知识
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 326
维护状态 维护中
是否开源 是
定价模式 free

项目数据

分类搜索知识
开发团队jia-gao
所属国家
官网地址
定价模式free
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型anthropic,cost-optimization,gemini,langchain,langgraph,llm,llm-inference,llmlingua,openai,prompt-compression,python,rag
GitHub 星标★ 326
30天Star增速
HF 下载量
上线时间2026-04-18 00:00:00
最近更新2026-09-18 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

核心亮点

  • 即插即用,几行代码集成,无需改动现有 LLM 调用逻辑
  • 基于 LLMLingua-2 模型,压缩比高且能保持语义完整
  • 可显著降低 token 费用和推理延迟,适合成本敏感的生产环境

不足之处

  • 早期项目,API 和稳定性可能随版本变化
  • 压缩效果依赖输入内容类型,对某些特定格式可能不理想
  • 文档和社区生态尚待完善

适用场景

  • 生产环境 LLM API 调用,降低 token 成本
  • 长上下文场景(如文档问答、聊天历史)压缩
  • 批量处理大量提示词,优化资源消耗

替代项目

LLMLingua、PromptCompress、LangChain 的 Prompt 优化模块

项目介绍

leanctx 是基础设施领域的开源项目,由 jia-gao 开发,是 2026 年新上线的项目。

它收录于基础设施分类,该分类目前共有 1,132 个项目,GitHub 星标数为 326。

项目仍在小幅维护中,最近一次代码更新于 2026-09-18。MIT许可证,完全免费,可自行部署使用。

它主要面向的使用场景是:生产环境LLMAPI调用,降低token成本。同类可对比的替代方案包括 LLMLingua、PromptCompress、LangChain 的 Prompt 优化模块。

上一篇:VecturaKit

下一篇:reader

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09