awesome-llm-token-optimization
一站式收藏 LLM 省钱秘籍，快速降低 Token 成本
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 119
核心亮点
- 分类清晰，覆盖提示压缩、缓存、路由等多种优化方向
- 整合论文与工具，节省搜索时间，便于快速上手
- 紧跟前沿，收录最新策略，适合生产环境参考
不足之处
- 内容以链接为主，缺乏深入对比和实操指南
- 文档/社区待观察
适用场景
- 开发 LLM 应用时评估成本优化方案
- 研究 Token 压缩与效率提升技术
- 为生产环境选型缓存或路由工具
替代项目
Awesome-LLM、LLM-Ops、Prompt-Engineering-Guide
下一篇：tokenu
同类项目推荐
MagiCompiler
开源
插上就快，视频生成模型推理训练免费提速
A plug-and-play compiler that delivers free-lunch optimizations for both inference a···
strix-halo-guide
开源
AMD Strix Halo 跑本地大模型，先看这份实测指南再动手
Evidence-backed AMD Strix Halo local-AI setup and benchmarks: Qwen3.8, Ollama, llama···
clearml-fractional-gpu
开源
一块GPU跑多个容器，显存限制+时间切片，利用率翻倍
ClearML Fractional GPU - Run multiple containers on the same GPU with driver level m···
ray
开源
把 Python 代码一键变成分布式，搞定大规模 AI 训练和部署
Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of···
TinyGPT
开源
用 C++ 从零手写 LLM 推理，轻量无依赖，适合学习和嵌入式部署。
Tiny C++ LLM inference implementation from scratch
openai
开源
兼容 OpenAI 调用方式，请求时自动完成链上按次付费
Drop-in OpenAI Typescript client with transparent x402 payment support.
dns-aid-core
开源
用 DNS 让 AI 智能体像网站一样被找到和验证
DNS-based Agent Identification and Discovery - Reference Implementation for IETF BAN···
hummingbird
开源
消费级硬件上跑超大 MoE 模型，统一内存调度
hummingbird is a lightweight, zero dependency runtime for massive open source Mixtur···
n8n-nodes-qdrant
开源
在 n8n 里拖拽连接 Qdrant，快速实现向量检索与 RAG。
Official n8n node for interfacing with Qdrant