基础设施

PocketClaw 开源

插上U盘，秒变AI工作站，随处可用

PocketClaw（口袋龙虾）是一个装在U盘里的随身AI助手，主要解决用户在不同电脑上无法携带个人AI环境···

CliRelay 开源

自建 AI 网关，统一管理编码 CLI 的模型调用与花费。

CliRelay 是一个自托管的 AI 网关，专为编码命令行工具（CLI）设计。它提供一个统一的 OpenAI/Clau···

Routerly 开源

换一个 URL，自动选最划算的 AI 模型

Routerly 是一个自托管的 LLM 网关，用于在 OpenAI、Anthropic、Gemini、Mistral、Ollama 等多家 A···

timber 开源

一条命令把 XGBoost 等模型编译成 C 代码，推理快 336 倍

timber 是一个面向经典机器学习模型的高性能推理编译器，定位为“Ollama for classical ML models”···

ai-memory-gateway 开源

给任何AI加上长期记忆，改个接口就行

ai-memory-gateway 是一个轻量级网关，旨在为任何基于 OpenAI 兼容接口的大语言模型（LLM）添加长期···

MeshClaw 开源

让 LoRa 设备离线也能用上 AI 对话

MeshClaw 是一个将 AI 能力引入 Meshtastic LoRa 网状网络的开源插件，基于 OpenClaw 构建，旨在无···

pawwake 开源

给任意 LLM 加长期记忆，不改造应用

pawwake 是一个轻量级网关，为任意 LLM 提供长期记忆能力。它位于应用与模型之间，自动捕获对话中的···

ai-gateway 开源

一个网关接入30+大模型，自带缓存、护栏和成本控制

ai-gateway 是一个用 Go 编写的统一 AI 网关，旨在为 30 多种大语言模型（如 OpenAI、Anthropic、B···

VibeGuard 开源

用1%内存开销，在AI对话前自动脱敏，守住隐私底线

VibeGuard 是一个用 Go 编写的轻量级隐私保护代理工具，专为 AI 对话场景设计。它通过 MITM 代理拦···

Rapid-MLX 开源

让 Mac 跑大模型快 4 倍，工具调用全兼容

Rapid-MLX 是一个专为 Apple Silicon 芯片打造的高性能本地 AI 推理引擎，旨在解决 Mac 上运行大模···

AegisGate 开源

给 AI 代理加个安全门，防注入、防泄露、防危险输出

AegisGate 是一个开源的 LLM API 安全网关，作为 OpenAI/Claude 兼容的代理层，为 AI 编码代理（如···

memory-lancedb-pro 开源

让智能体记忆更准、更清晰，开箱即用的混合检索与管理工具。

memory-lancedb-pro 是一个为 OpenClaw 智能体打造的增强型 LanceDB 记忆插件，主要解决智能体在长···

MachineAuth 开源

让 AI 代理安全访问 API，权限可控可审计

MachineAuth 是一个为 AI 代理提供认证与权限基础设施的开源项目，使用 Go 语言开发。它解决的核心···

cftunnel 开源

一条命令，内网服务秒变公网可访问，免费或自建任选。

cftunnel 是一个基于 Go 语言开发的全协议内网穿透 CLI 工具，同时集成了 Cloudflare Tunnel 和 fr···

os-moda 开源

跟服务器说人话，AI 替你干活，改坏了秒回滚

os-moda 是一个面向 AI 智能体设计的操作系统层，让你用自然语言与 NixOS 服务器交互，替代传统的 ···

snip 开源

给 AI 编程工具装上过滤器，Token 立省 60%

snip 是一个用 Go 编写的命令行代理工具，专为减少大语言模型（LLM）的 token 消耗而设计，官方宣称···

BYOKEY 开源

把 AI 订阅变成标准 API，让编程工具直接调用

BYOKEY 是一个用 Rust 编写的 AI 网关，将各种 AI 订阅服务转换为标准的 API 端点，兼容 OpenAI 和···

vpscheck 开源

一键检测 VPS 解锁和性能，买前扫雷买后安心

vpscheck 是一个用 Shell 编写的 VPS 全能检测脚本，主要解决用户在购买或使用 VPS 后，需要快速了···

picolm 开源

在 10 美元开发板上跑 10 亿参数大模型，边缘 AI 也能玩转。

picolm 是一个极轻量级的开源大语言模型推理引擎，专为在超低资源设备上运行 10 亿参数模型而设计，···

vmlx 开源

Mac 上跑 MLX 模型，一个格式搞定加载与量化

vMLX 是一个面向苹果 MLX 框架的模型运行与量化工具，核心创新是提出 JANGQ 格式——可以理解为“M···

agentsecrets 开源

让 AI 代理安全使用凭证，无需泄露秘密

agentsecrets 是一个面向 AI 代理的零知识凭证基础设施，旨在让代理不仅能消费凭证，还能安全地操作···

CatGPT-Gateway 开源

把网页版 ChatGPT/Claude 变成免费 API，免密钥直接调用

CatGPT-Gateway 是一个将 ChatGPT 或 Claude 网页账号转化为 OpenAI 兼容 API 的开源网关。它通过浏···

mlx-serve 开源

在 Mac 上原生跑 LLM，兼容 OpenAI/Anthropic API，无需 Python

mlx-serve 是一个专为 Apple Silicon 设计的原生 LLM 推理服务器，使用 Zig 语言编写，无需 Python···

pegainfer 开源

纯 Rust 直调 CUDA，OpenAI 接口跑大模型

pegainfer 是一个用纯 Rust 编写的 LLM 推理引擎，底层直接调用 CUDA 内核，不依赖 PyTorch 或任何···