leanctx
不换代码，一键压缩提示词，立省 40-60% token 费用
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 320
核心亮点
- 即插即用，几行代码集成，无需改动现有 LLM 调用逻辑
- 基于 LLMLingua-2 模型，压缩比高且能保持语义完整
- 可显著降低 token 费用和推理延迟，适合成本敏感的生产环境
不足之处
- 早期项目，API 和稳定性可能随版本变化
- 压缩效果依赖输入内容类型，对某些特定格式可能不理想
- 文档和社区生态尚待完善
适用场景
- 生产环境 LLM API 调用，降低 token 成本
- 长上下文场景（如文档问答、聊天历史）压缩
- 批量处理大量提示词，优化资源消耗
替代项目
LLMLingua、PromptCompress、LangChain 的 Prompt 优化模块
上一篇：VecturaKit
下一篇：reader
同类项目推荐
orbit
开源
自建私有 AI 网关，用自然语言安全访问数据与工具
Self-hosted AI gateway for private RAG, natural-language data access, and tool-calli···
vllm-backport
开源
让旧显卡也能跑新版 vLLM 推理
Dogfooding vLLM backport for older GPUs.
llm-inference-handbook
开源
一册看懂 LLM 推理全流程，选型调优不再靠猜
Everything you need to know about LLM inference
thepipe
开源
用视觉大模型，把复杂文档秒变干净数据
Get clean data from tricky documents, powered by vision-language models ⚡
destructive_command_guard
开源
给 AI 智能体装上安全锁，防止误删误推毁仓库。
A fast Rust safety hook that blocks destructive shell, git, and filesystem commands ···
babylog
开源
生产环境轻量记录图像和预测，快速排查模型问题
A lightweight logger for machine learning teams to log images and predictions in pro···
OlliteRT
开源
把安卓手机变成本地 OpenAI 接口推理服务器
Turn your Android phone into an OpenAI-compatible LLM inference server - Fully local···
ServerlessLLM
开源
把大模型部署变成按需调用的无服务器服务，省钱又省心
Serverless LLM Serving for Everyone.
stable-diffusion-rocm-docker
开源
AMD显卡用户，一条命令跑起Stable Diffusion
Stable Diffusion Docker image preconfigured for usage with AMD Radeon cards