基础设施

clawk 开源 免费 仅开源

给 AI 编码代理一个一次性 Linux 虚拟机，保护你的电脑。

clawk 是一个为 AI 编码代理提供一次性 Linux 虚拟机的开源工具。它解决了编码代理直接运行在开发者···

C-SSH 开源 免费 仅开源

跨平台 SSH 运维，持久会话+AI 助手，免费开源

C-SSH 是一个用 Rust 编写的原生跨平台 SSH 运维工具，旨在解决传统 SSH 客户端在会话持久化、监控···

agentglass 开源 可打开

一个屏幕管住所有 AI 编程代理，实时看成本、拦危险操作

agentglass 是一个面向 AI 编程代理的实时监控与安全控制面板，它将机器上所有 AI 编码代理（如 Cl···

M365-Copilot2API 开源 免费 仅开源

把 M365 Copilot 变成 OpenAI 接口，客户端零改动直接调

M365-Copilot2API 是一个用 Go 编写的 API 网关，把 Microsoft 365 Copilot 的对话能力包装成 Open···

inferock-bench 开源 免费 仅开源

本地代理，实时追踪 LLM 调用成本与失败，账单一目了然

inferock-bench 是一个面向本地 LLM 调用的成本追踪代理，支持 OpenAI、Anthropic、Gemini 以及固定···

backlot 开源 免费 仅开源

本地跑通企业SaaS API，带真实分页鉴权和ACL

backlot 是一个面向企业级 SaaS API 的本地模拟器，用 Python 编写，基于 FastAPI 提供 Slack、Gma···

vllm.cpp 开源 免费 仅开源

C++ 重写 vLLM，连续批处理加前缀缓存，推理吞吐更高

vllm.cpp 是一个用 C++ 实现的社区版 vLLM 推理引擎，目标是与 vLLM 保持 1:1 功能对齐，同时加入自···

open-connector 开源 可打开

一键连接千款 SaaS，让 AI 智能体轻松调用外部工具

open-connector 是一个开源的认证网关，旨在将 1000+ SaaS 提供商与 AI 智能体无缝连接。它解决了 ···

codex-runway 开源 可打开

菜单栏一眼看穿 Codex/Grok 额度，防超限断工

Codex Runway 是一个原生 macOS 状态栏应用，专门为使用 OpenAI Codex 和 Grok 的开发者设计。它解···

ESEILANE 开源 免费 仅开源

为 AI 和 LLM 打造的高性能知识图谱引擎，让 GraphRAG 更快更聪明。

ESEILANE 是一个面向 AI、大语言模型和 GraphRAG 的高性能知识图谱引擎，专为下一代智能应用设计。···

Deepseek-API 开源 免费 仅开源

把 DeepSeek 对话封装成 OpenAI 兼容接口，改个地址就能用

Deepseek-API 是一个用 Python 编写的轻量服务，通过逆向分析 DeepSeek 网页端对话接口，把其对话能···

llmaker 开源 免费 仅开源

终端一键拉起整套自托管 LLM 服务栈

llmaker 是一个面向开发者的自托管 LLM 工具链管理工具，旨在让你通过终端一键部署和运行完整的现代···

nexus-llm-router 开源 免费 仅开源

一个接口接入所有大模型，自动选最优，省钱又省心

nexus-llm-router 是一个智能的多 LLM 路由网关，提供与 OpenAI 兼容的 API，可无缝替换现有调用。···

frugon 开源 免费 仅开源

本地跑一跑，立刻看清 LLM 账单漏在哪

frugon 是一款免费、本地运行的开源 LLM 成本分析工具，旨在帮助开发者和团队精准定位大模型账单中···

toolport 开源 可打开

一个端口管所有 AI 工具，省 token 又安全

toolport 是一个本地优先的 MCP（模型上下文协议）网关，旨在统一管理 AI 客户端与工具之间的连接。···

TensorFold 开源 免费 仅开源

Mac 本地跑大模型，快而不糊，接口直接兼容 OpenAI

TensorFold 是一个面向 Apple Silicon 的 LLM 推理加速项目，基于 MLX 框架实现快速且精确的解码，···

Windows-Copilot-API 开源 免费 仅开源

把 Windows Copilot 变成 OpenAI 兼容接口，开箱即调

Windows-Copilot-API 是一个用 Python 编写的反向工程工具，将 Windows 系统内置的 Copilot 助手封···

opencodex 开源 可打开

一个网关，让 Codex 和 Claude Code 用上任意大模型

opencodex 是一个通用的 AI 网关代理，专为 OpenAI Codex 和 Claude Code 设计。它解决了开发者被锁···

tiygate 开源 免费 仅开源

给 LLM 服务加个高可用保险，自动切换不宕机

TiyGate 是一个用 Rust 编写的轻量级 LLM 网关，专注于为大型语言模型服务提供高可用性保障。它解决···

telnyx-code-examples 开源 仅开源

拿来即用的 Telnyx 通信 API 示例，快速集成 AI 语音与短信。

Telnyx 官方提供的生产级代码示例合集，覆盖其 AI 通信基础设施的 Voice AI、SMS、SIP 和 IoT API。···

vllm-deepseek-v4-sm89 开源 免费 仅开源

让新模型在 4090 等消费卡上跑起 vLLM 推理

这是一个面向 vLLM 推理框架的适配补丁项目，目标是让 DeepSeek-V4.1-Flash、DeepSeek-V4-Flash 与···

codex-token-skills 开源 免费 仅开源

为 Codex CLI 省 60-80% token 成本，用前缀缓存优化

codex-token-skills 是一个针对 Codex CLI 的 token 优化工具，旨在降低使用 DeepSeek V4 Pro 模型···

vLLM-Moet 开源 免费 仅开源

消费级 Blackwell 上跑 2-bit MoE，画质对齐官方 FP4

vLLM-Moet 是一个面向消费级 Blackwell 显卡（SM120）的 vLLM 补丁项目，核心目标是在显存有限的硬···

floe-guard 开源 免费 仅开源

给语音代理装上费用闸门，超支自动叫停

floe-guard 是一个为 AI 语音代理设计的开源成本计量与预算控制工具。它解决了语音代理在调用语音识···