基础设施

axern 开源 仅开源

给 AI 代理一个安全沙箱，放心跑代码、跑服务

axern 是一个面向 AI 智能体的开源沙箱平台，专注于提供安全的代码执行环境和持久化服务。它解决了···

moe-l2 开源 免费 仅开源

8GB 显卡也能跑 100B+ MoE 大模型

moe-l2 是一个面向低显存消费级 GPU 的 MoE 模型推理优化项目，核心解决 100B+ 参数混合专家模型（···

agentacct 开源 免费 仅开源

看清你的 AI 编程代理干了啥、花了多少钱

agentacct 是一个面向 AI 编程代理的本地优先观测与成本分析工具。它解决了开发者无法清晰了解 Cla···

numbat 开源 免费 仅开源

给终端上的 AI 智能体装上监控和刹车，看清行为、阻止风险。

numbat 是一个面向 AI 智能体终端活动的安全可见性工具，用 Go 编写。它解决的是 AI 智能体在终端上···

one-api-pro 开源 仅开源

统一管理多模型，精准控成本，高可用部署一步到位

One Api Pro 是基于开源项目 one-api 深度重构的企业级 AI API 网关。它解决的是企业在使用多个 AI···

AgentENV 开源 仅开源

一行命令拉起上千个 Agent 沙箱环境

AgentENV（AENV）是一个用 Rust 编写的分布式平台，专门用于大规模运行 AI Agent 环境。随着智能体···

hummingbird 开源 免费 仅开源

消费级硬件上跑超大 MoE 模型，统一内存调度

hummingbird 是一个轻量级、零依赖的 C 语言运行时，专为大规模开源混合专家（MoE）语言模型设计。···

FreeToken 开源 不稳定

在桌面端跑起数据中心级大模型，又快又省资源

FreeToken 是一个面向桌面的数据中心级模型推理引擎，旨在让个人电脑也能高效运行大规模模型。它解···

CPA_Orbit 开源 免费 仅开源

本地命令行统一管理 AI 账号与配额，实时监控价格

CPA_Orbit 是一个本地优先的命令行控制台，面向 CPA（每次行动成本）代理运营场景。它从 K12 价格雷···

Misceo 开源 免费 仅开源

让 AI 调用自动选便宜模型，质量不翻车，成本一目了然

Misceo 是一个本地部署的 Anthropic 兼容 AI 网关，核心解决多模型调用时的成本与质量平衡问题。它···

awesome-ai-tokenomics 开源 免费 仅开源

一站式掌握AI token成本，省下每一分钱

这是一个关于AI token成本管理的精选资源列表，汇集了工具、基准、论文和可直接复制的配置，旨在帮···

tokentab 开源 免费 仅开源

一条命令，算清所有 AI 编程工具花了多少钱

tokentab 是一个命令行工具，专门用于解析 Claude Code、Codex 和 Gemini CLI 的会话日志，并统计各···

turbo-fieldfare 开源 免费 仅开源

在 MacBook 上2GB内存跑26B大模型

turbo-fieldfare 是一个基于 Swift 编写的开源项目，旨在让 Gemma 4 26B-A4B 模型在任意 M 系列 Ma···

WaLiAPI 开源 可打开

把多家大模型渠道收进本地网关，一个地址喂给所有 AI 编程工具

WaLiAPI 是一款本地运行的 LLM API 网关桌面软件，基于 Tauri 2、React 与 Rust 构建。它解决的核心···

paritok-4b-v1 开源 可打开

给编码问答先瘦身，速度翻倍还无损

面向 AI 编码 Agent 的无损压缩网关，基于开源代码原生 4B 模型实现智能压缩。在首轮对话即可节省约···

gptGrok2api 开源 可打开

批量注册 ChatGPT/Grok 账号，自动转成 API 网关

gptGrok2api 是一个专注于 ChatGPT 和 Grok 账号批量注册与 API 网关的开源工具。它通过纯协议方式···

Meterless 开源 可打开

夜间批量跑实验，早上只留能用的结果

Meterless 是一个面向本地 AI 推理的基础设施项目，目标是把 Mac（Apple Silicon）或 DGX Spark 这···

Gozar 开源 免费 仅开源

自建 Docker 部署，统一管理多家大模型 API，自动容灾省钱

Gozar 是一个自托管的、以 Docker 优先的 OpenAI 兼容 LLM 网关。它主要解决企业在使用多个大模型提···

navop 开源 可打开

一个工具搞定数据库、服务器和 AI 监控，告别多窗口切换。

navop 是一个用 Rust 编写的原生一体化工作台，旨在统一管理数据库、SSH、SFTP、终端、远程桌面、监···

BigMoeOnEdge 开源 免费 仅开源

12GB 手机纯 CPU 跑超内存 MoE 大模型，无损不降智

BigMoeOnEdge 是一个让 MoE（混合专家）大模型跑在内存不足设备上的推理方案，核心思路是流式加载专···

WorldFoundry 开源 免费 可打开

统一跑通世界模型推理与评测，告别碎片化流程。

WorldFoundry 是一个面向世界模型（World Model）的统一推理与评估基础设施，旨在解决视频生成、视···

litellm-relay 开源 免费 仅开源

一步接入所有 AI 工具，统一走你的 LiteLLM 网关

litellm-relay 是一个用 Rust 编写的轻量级代理工具，旨在将各类 AI 工具快速接入 LiteLLM 网关。它···

Dormice 开源 免费 仅开源

自托管持久沙箱，闲置零成本，兼容 E2B 即插即用

Dormice 是一个自托管的智能体沙箱运行时，定位为“智能体沙箱界的 SQLite”。它兼容 E2B 的 API，···

rocketplaneIO 开源 仅开源

让 AI 直接修复 K8s 故障，零插桩、可离线部署

rocketplaneIO 是一个面向 Kubernetes 的自托管 AI 站点可靠性工程师（SRE）工具，它利用 eBPF 技术···