基础设施

awesome-ai-tokenomics 开源

一站式掌握AI token成本，省下每一分钱

这是一个关于AI token成本管理的精选资源列表，汇集了工具、基准、论文和可直接复制的配置，旨在帮···

tokentab 开源

一条命令，算清所有 AI 编程工具花了多少钱

tokentab 是一个命令行工具，专门用于解析 Claude Code、Codex 和 Gemini CLI 的会话日志，并统计各···

turbo-fieldfare 开源

在 MacBook 上2GB内存跑26B大模型

turbo-fieldfare 是一个基于 Swift 编写的开源项目，旨在让 Gemma 4 26B-A4B 模型在任意 M 系列 Ma···

paritok-4b-v1 开源

给编码问答先瘦身，速度翻倍还无损

面向 AI 编码 Agent 的无损压缩网关，基于开源代码原生 4B 模型实现智能压缩。在首轮对话即可节省约···

gptGrok2api 开源

批量注册 ChatGPT/Grok 账号，自动转成 API 网关

gptGrok2api 是一个专注于 ChatGPT 和 Grok 账号批量注册与 API 网关的开源工具。它通过纯协议方式···

Gozar 开源

自建 Docker 部署，统一管理多家大模型 API，自动容灾省钱

Gozar 是一个自托管的、以 Docker 优先的 OpenAI 兼容 LLM 网关。它主要解决企业在使用多个大模型提···

navop 开源

一个工具搞定数据库、服务器和 AI 监控，告别多窗口切换。

navop 是一个用 Rust 编写的原生一体化工作台，旨在统一管理数据库、SSH、SFTP、终端、远程桌面、监···

BigMoeOnEdge 开源

12GB 手机纯 CPU 跑超内存 MoE 大模型，无损不降智

BigMoeOnEdge 是一个让 MoE（混合专家）大模型跑在内存不足设备上的推理方案，核心思路是流式加载专···

WorldFoundry 开源

统一跑通世界模型推理与评测，告别碎片化流程。

WorldFoundry 是一个面向世界模型（World Model）的统一推理与评估基础设施，旨在解决视频生成、视···

litellm-relay 开源

一步接入所有 AI 工具，统一走你的 LiteLLM 网关

litellm-relay 是一个用 Rust 编写的轻量级代理工具，旨在将各类 AI 工具快速接入 LiteLLM 网关。它···

Dormice 开源

自托管持久沙箱，闲置零成本，兼容 E2B 即插即用

Dormice 是一个自托管的智能体沙箱运行时，定位为“智能体沙箱界的 SQLite”。它兼容 E2B 的 API，···

rocketplaneIO 开源

让 AI 直接修复 K8s 故障，零插桩、可离线部署

rocketplaneIO 是一个面向 Kubernetes 的自托管 AI 站点可靠性工程师（SRE）工具，它利用 eBPF 技术···

clawk 开源

给 AI 编码代理一个一次性 Linux 虚拟机，保护你的电脑。

clawk 是一个为 AI 编码代理提供一次性 Linux 虚拟机的开源工具。它解决了编码代理直接运行在开发者···

C-SSH 开源

跨平台 SSH 运维，持久会话+AI 助手，免费开源

C-SSH 是一个用 Rust 编写的原生跨平台 SSH 运维工具，旨在解决传统 SSH 客户端在会话持久化、监控···

agentglass 开源

一个屏幕管住所有 AI 编程代理，实时看成本、拦危险操作

agentglass 是一个面向 AI 编程代理的实时监控与安全控制面板，它将机器上所有 AI 编码代理（如 Cl···

inferock-bench 开源

本地代理，实时追踪 LLM 调用成本与失败，账单一目了然

inferock-bench 是一个面向本地 LLM 调用的成本追踪代理，支持 OpenAI、Anthropic、Gemini 以及固定···

backlot 开源

本地跑通企业SaaS API，带真实分页鉴权和ACL

backlot 是一个面向企业级 SaaS API 的本地模拟器，用 Python 编写，基于 FastAPI 提供 Slack、Gma···

open-connector 开源

一键连接千款 SaaS，让 AI 智能体轻松调用外部工具

open-connector 是一个开源的认证网关，旨在将 1000+ SaaS 提供商与 AI 智能体无缝连接。它解决了 ···

codex-runway 开源

菜单栏一眼看穿 Codex/Grok 额度，防超限断工

Codex Runway 是一个原生 macOS 状态栏应用，专门为使用 OpenAI Codex 和 Grok 的开发者设计。它解···

ESEILANE 开源

为 AI 和 LLM 打造的高性能知识图谱引擎，让 GraphRAG 更快更聪明。

ESEILANE 是一个面向 AI、大语言模型和 GraphRAG 的高性能知识图谱引擎，专为下一代智能应用设计。···

llmaker 开源

终端一键拉起整套自托管 LLM 服务栈

llmaker 是一个面向开发者的自托管 LLM 工具链管理工具，旨在让你通过终端一键部署和运行完整的现代···

nexus-llm-router 开源

一个接口接入所有大模型，自动选最优，省钱又省心

nexus-llm-router 是一个智能的多 LLM 路由网关，提供与 OpenAI 兼容的 API，可无缝替换现有调用。···

frugon 开源

本地跑一跑，立刻看清 LLM 账单漏在哪

frugon 是一款免费、本地运行的开源 LLM 成本分析工具，旨在帮助开发者和团队精准定位大模型账单中···

toolport 开源

一个端口管所有 AI 工具，省 token 又安全

toolport 是一个本地优先的 MCP（模型上下文协议）网关，旨在统一管理 AI 客户端与工具之间的连接。···