基础设施

dgx-spark-inference-stack 开源 免费 仅开源

在桌面级 AI 超算上，一键部署本地大模型推理服务

dgx-spark-inference-stack 是一个面向 NVIDIA DGX Spark（Grace Blackwell 桌面级 AI 超算）的推理···

Reach 开源 免费 仅开源

一个开源应用搞定 SSH、SFTP、隧道和自动化运维

Reach 是一款用 Rust + Tauri 构建的跨平台 SSH 客户端与远程服务器管理工具，目标是用一个开源应用···

ClawRouter 开源 仅开源

让智能体自动选最划算的模型，支付也顺手搞定

ClawRouter 是一个面向自主智能体的 LLM 路由层，核心解决多模型选择与成本控制问题。它内置 66 个···

llmtrace 开源 可打开

零代码给 OpenAI API 加安全盾，实时防注入、扫隐私、控成本

llmtrace 是一个零代码的 LLM 安全与可观测性代理，专为 OpenAI 兼容 API 设计。它作为中间层，实时···

lucid-memory 开源 免费 仅开源

本地秒级记忆，让 AI 更懂你，零成本零延迟

lucid-memory 是一个面向 AI 智能体的本地优先记忆系统，旨在解决传统 RAG 和向量数据库在 AI 记忆···

skills 开源 免费 可打开

让 AI 助手秒变 Qdrant 专家，搞定向量搜索开发与运维

skills 是 Qdrant 官方推出的智能体技能包，旨在为 AI 编程助手（如 Claude Code、Codex、Cursor）···

bunqueue 开源 可打开

用 Bun 跑飞任务队列，AI 代理调度快人一步

bunqueue 是一个专为 Bun 运行时打造的高性能任务队列库，核心解决 AI 智能体与自动化场景下的异步···

tabularis 开源 可打开

一个桌面工具，连接 15+ 数据库，还能让 AI 帮你写 SQL。

tabularis 是一款开源的桌面端 SQL 工作台，支持 PostgreSQL、MySQL/MariaDB、SQLite 以及 DuckDB、···

toktrack 开源 免费 仅开源

实时盯紧 Claude Code 的 token 消耗，避免账单超支

toktrack 是一个用 Rust 编写的超快速 LLM Token 使用与成本追踪工具，专为 Claude Code 等 AI 编程···

hyperspace-db 开源 免费 仅开源

1-bit 量化省内存，原生支持双曲层级向量检索

HyperspaceDB 是一个用 Rust 编写的高性能向量数据库，面向需要在大规模向量集合上做相似性检索的场···

endee 开源 不稳定

一个节点扛住10亿条数据，检索照样快如闪电

Endee 是一款高性能向量数据库，单个节点即可承载多达 10 亿条向量，通过优化的索引与执行引擎带来···

OpenToys 开源 免费 仅开源

用 MacBook 和 ESP32 快速造本地 AI 玩具

OpenToys 是一个面向创客和开发者的开源框架，旨在利用 MacBook 和 Arduino ESP32 快速构建本地 AI···

qzcli_tool 开源 免费 仅开源

命令行管理启智AI任务，资源查询、提交、看日志一步到位，还能接入agent。

qzcli_tool 是面向启智平台（OpenI）的命令行工具，旨在简化 AI 训练任务的全生命周期管理。它解决···

traccia-py 开源 可打开

给 AI Agent 装上黑匣子，追踪、评估、治理一步到位

traccia-py 是一个面向 AI Agent 的可观测性 SDK，基于 OpenTelemetry 原生标准构建，目标是解决生···

radar 开源 可打开

一个 Go 二进制搞定 K8s 可视化与 AI 运维诊断

Radar 是一个开源的 Kubernetes 可视化界面，内置 MCP（Model Context Protocol）服务器，专为 AI ···

meridian 开源 仅开源

把 Claude Max 订阅用到所有 AI 编程工具里，省心省钱

Meridian 是一个 TypeScript 编写的代理工具，核心功能是让用户通过 Anthropic 官方 SDK 在第三方 ···

Wax 开源 免费 仅开源

在 Apple 设备上实现亚毫秒级本地 AI 记忆检索，无需服务器

Wax 是一个面向 AI 代理的轻量级记忆层，以单个 Swift 文件实现，专为 Apple Silicon 设备优化。它···

hpc-ops 开源 免费 仅开源

C++ 高性能 LLM 推理算子库，加速推理降延迟

hpc-ops 是一个面向大语言模型推理的高性能算子库，使用 C++ 编写。它解决的是 LLM 推理过程中算子···

OGAD 开源 仅开源

断网也能用AI，一个网关搞定本地模型全家桶

OGAD（Off Grid AI）是一个本地优先的AI网关项目，旨在让用户完全离线运行开源AI模型。它通过一个与···

ram-coffers 开源 免费 仅开源

用二手 POWER8 服务器，让 LLM 推理提速 8.8 倍，省下云账单。

ram-coffers 是一个面向 LLM 推理的基础设施优化项目，通过 NUMA 感知的权重银行（weight banking）···

gibram 开源 免费 仅开源

内存知识图谱，让 RAG 检索更懂关系

GibRAM 是一个基于 Go 语言实现的内存知识图谱服务器，专为检索增强生成（RAG / GraphRAG）工作流设···

vestauth 开源 可打开

给 AI 智能体加上安全身份证，让请求可信可验。

vestauth 是一个面向 AI 智能体的身份认证库，由 dotenv 和 dotenvx 的作者创建。它解决的是 AI 智···

opencode-multi-auth-codex 开源 免费 仅开源

多账户管理+会话控制，让 Codex 稳定高效

这是一个为 Codex OAuth 提供账户路由、会话控制、仪表盘和可靠性工具的开源项目。它解决了使用 Co···

vibebin 开源 免费 仅开源

在自己的服务器上，用容器托管代码并直接运行。

vibebin 是一个面向自托管场景的轻量级代码托管与运行平台，它允许用户在自己的 VPS 或服务器上，通···