基础设施

jangq 开源 不稳定

把 GGUF 模型搬上 Mac 的 MLX，量化后照样跑得动

JANG 是一个面向 Apple Silicon 的模型量化与推理运行时，核心目标是把原本为 llama.cpp 生态设计的···

d-inference 开源 可打开

把闲置 Mac 组成私有推理集群

d-inference 是一个用 Swift 编写的私有推理网络项目，目标是把闲置的 Mac 设备组织成分布式推理集···

safe-openclaw 开源 免费 仅开源

给 AI 代理加上安全锁，防止未授权访问和数据泄露

safe-openclaw 是一个基于 OpenClaw 的安全加固版本，主要解决 AI 代理在无人值守运行时面临的安全···

sdk-py 开源 免费+付费 可打开

让AI智能体秒开邮箱，免注册免人工，自动收发邮件

sdk-py 是一个为 AI 智能体提供免费邮箱服务的 Python SDK。它解决了 AI 智能体在收发邮件时需要人···

steward 开源 可打开

给AI代理装上安全钱包，密钥策略一把抓

steward 是一个面向 AI 智能体的钱包基础设施，提供加密密钥管理、策略执行、凭证代理和认证平台。···

sandlock 开源 免费 仅开源

无容器、无特权，轻量隔离 AI 代码执行

sandlock 是一个基于 Linux 进程的轻量级 AI 沙箱，专为 AI 代理和函数即服务（FaaS）场景设计。它···

eloquentjs 开源 免费 仅开源

在 Node.js 里用 Laravel 式语法操作数据库，开发效率翻倍

EloquentJS 是一个面向 Node.js 的 ORM 库，旨在将 Laravel Eloquent 的优雅体验带到 JavaScript 生···

tma1 开源 免费 仅开源

让 AI 代理读取自己的运行日志，自动优化下一轮决策。

TMA1 是一个面向 AI 代理的本地优先可观测性工具，用 Go 编写。它记录每一个 LLM 调用，并通过钩子···

keda-gpu-scaler 开源 免费 仅开源

无需 Prometheus，让 K8s 上的 GPU 工作负载按真实使用量自动伸缩。

keda-gpu-scaler 是一个基于 KEDA 外部 gRPC 扩展器的 GPU 自动扩缩容组件。它通过 DaemonSet 方式···

shellward 开源 免费 仅开源

一行命令，给 AI 项目做合规体检，防数据泄露

shellward 是一个面向 AI 应用的合规与安全网关，旨在帮助开发者和企业快速识别并修复 AI 项目中的···

Friday 开源 免费 仅开源

给 AI 代理装上企业级控制中枢，安全编排、可控运行

Friday 是一个面向 AI 代理的私有控制平面，用 TypeScript 编写，旨在解决企业在使用 AI 代理时面临···

vllm-lens 开源 免费 仅开源

在 vLLM 推理中实时取激活、注入引导向量

vllm-lens 是一个面向 vLLM 推理引擎的 Python 扩展工具，用于在模型推理过程中提取残差流激活值，···

OB1 开源 免费 仅开源

给AI装一个统一大脑：记忆、网关、聊天全搞定

OB1（Open Brain）是一个为AI智能体提供基础设施层的开源项目，旨在统一管理AI的“思考”过程。它通···

strix-halo-guide 开源 免费 可打开

AMD Strix Halo 跑本地大模型，先看这份实测指南再动手

strix-halo-guide 是一份针对 AMD Strix Halo（GFX1151，如 Radeon 8060S）平台本地 AI 部署的实测···

webclaw 开源 可打开

本地快速抓网页，一键转 Markdown 喂给大模型

webclaw 是一个用 Rust 编写的本地优先网页内容提取工具，专为 LLM 设计。它解决的是大模型应用开发···

1Cat-vLLM 开源 免费 仅开源

让 V100 老卡也能跑现代大模型推理

1Cat-vLLM 是面向 NVIDIA V100（SM70 架构）的 vLLM 工程化分支，专注解决老卡无法顺畅运行现代大模···

cerul 开源 可打开

让 AI 记住视频内容，秒级检索关键画面

Cerul 是一个面向 AI 产品的视频记忆基础设施，为开发者提供 SDK、CLI、MCP 及多种集成方式，帮助 ···

u-claw 开源 仅开源

插上U盘，离线一键装好AI编程助手

U-Claw 虾盘是一个将 AI 开发工具链打包进离线 U 盘的解决方案，主要解决开发者配置环境繁琐、网络···

tokenu 开源 免费 仅开源

像 du 一样快速统计 token 用量，优化 AI 上下文管理

tokenu 是一个类似 Unix du 命令的命令行工具，专门用于统计文件和目录的 token 使用量。它解决了开···

1flowbase 开源 免费 仅开源

自托管 AI 网关，协议转换+调度+日志，Agent 通过 MCP 全掌控

1flowbase 是一个自托管的 AI 网关，用 Rust 编写，旨在解决 AI 应用与业务数据集成时的协议混乱、···

open-relay 开源 免费 仅开源

关掉终端，AI 任务继续跑，随时回来接管。

open-relay 是一个用 Rust 编写的命令行工具，旨在将长时间运行的交互式 CLI 工作流（如 AI 编程助···

agent-vibes 开源 免费 仅开源

让 Claude Code 和 Cursor 免费接入更多 AI 后端

agent-vibes 是一个统一代理网关，通过协议转换让 Claude Code CLI 和 Cursor IDE 能够使用免费的 ···

entroly 开源 免费 仅开源

压缩 AI 上下文，保留证据，让每次对话可追溯。

entroly 是一个面向 AI 代理和开发者的上下文优化平台，专注于解决 AI 交互中的上下文膨胀、信息丢···

bitrouter 开源 可打开

自动选对模型，让智能体工作流越跑越顺

bitrouter 是一个上下文感知的模型路由器，专为智能体工作流设计。它持续监控和优化模型选择过程，···