leanctx 是基础设施领域的开源项目,由 jia-gao 开发,是 2026 年新上线的项目。
它收录于基础设施分类,该分类目前共有 1,132 个项目,GitHub 星标数为 326。
项目仍在小幅维护中,最近一次代码更新于 2026-09-18。MIT许可证,完全免费,可自行部署使用。
它主要面向的使用场景是:生产环境LLMAPI调用,降低token成本。同类可对比的替代方案包括 LLMLingua、PromptCompress、LangChain 的 Prompt 优化模块。

不换代码,一键压缩提示词,立省 40-60% token 费用
leanctx 是一个用于生产环境 LLM 应用的即插即用提示词压缩工具。它基于 LLMLingua-2 模型,通过智能压缩提示词中的冗余内容,帮助开发者在不修改现有代码的前提下,将 token 消耗降低 40-60%,从而显著减少 API 调用成本。项目提供 Python SDK,集成简单,只需几行代码即可在现有 LLM 应用中加入压缩层。它解决了长提示词带来的高额费用和延迟问题,特别适合处理包含大量上下文、历史记录或文档片段的场景。核心能力包括高压缩比、保持语义完整性、低延迟处理,以及灵活的配置选项,可适应不同应用需求。作为早期项目,它已获得 316 个星标,展现出不错的社区关注度。
LLMLingua、PromptCompress、LangChain 的 Prompt 优化模块
leanctx 是基础设施领域的开源项目,由 jia-gao 开发,是 2026 年新上线的项目。
它收录于基础设施分类,该分类目前共有 1,132 个项目,GitHub 星标数为 326。
项目仍在小幅维护中,最近一次代码更新于 2026-09-18。MIT许可证,完全免费,可自行部署使用。
它主要面向的使用场景是:生产环境LLMAPI调用,降低token成本。同类可对比的替代方案包括 LLMLingua、PromptCompress、LangChain 的 Prompt 优化模块。
上一篇:VecturaKit
下一篇:reader
freebuff-proxy
开源
聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型,免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···