基础设施

knowledgeops-agent 开源 免费 仅开源

快速搭建企业级安全可观测的 RAG 知识问答平台

knowledgeops-agent 是一个基于 Spring AI 的企业级知识管理平台，专注于检索增强生成（RAG）、工具···

Observal 开源 免费 仅开源

把 AI 组件管起来，共享复用还能看运行数据

Observal 是一个面向 AI 组件的本地注册表与分析平台，旨在帮助团队集中管理、共享和监控 AI 技能（···

mere-run 开源 可打开

在 Mac 上一条命令跑通图像、语音、视频等本地 AI 工作流

mere-run 是一个面向 Apple Silicon 设备的本地生成式 AI 工作流引擎，用 Swift 编写，基于 MLX 框···

cx-cli 开源 免费+付费 仅开源

在终端直接查 Coralogix 日志与指标

cx-cli 是 Coralogix 官方开源的命令行工具，用 Rust 编写，让开发者和 SRE 不必离开终端就能操作 ···

agent-vault 开源 可打开

给 AI 代理一个安全的凭证保险库，告别硬编码密钥

agent-vault 是一个面向 AI 代理（如 Claude Code、OpenClaw、Hermes 等）的 HTTP 凭证代理与保险库···

hazmat 开源 免费 仅开源

给 AI 代理套上安全笼子，防破坏防泄露，还能一键回滚

hazmat 是一个面向 AI 代理的安全隔离工具，用 Go 编写，专为 macOS 设计。它解决的核心问题是：当···

aisix-archived 开源 免费 仅开源

用 Rust 打造你的 AI 网关，统一管理多模型请求

aisix-archived 是一个用 Rust 构建的开源原生 AI 网关和 LLM 代理，旨在为企业和开发者提供统一的···

opentraces 开源 免费 仅开源

给 AI Agent 装上黑匣子，完整记录每一步操作，调试审计不再抓瞎。

opentraces 是一个面向 AI Agent 的本地优先证据层（evidence layer），用于记录 Agent 在工作过程···

Hyperloom 开源 免费 仅开源

让 AMD GPU 自动调优 LLM 推理

Hyperloom 是一个面向 AMD GPU 的智能体系统，用于自动优化大语言模型推理负载。它针对 AMD 硬件生···

turbovec 开源 免费 仅开源

用 Rust 和量化技术，让向量搜索又快又省内存

turbovec 是一个基于 TurboQuant 构建的向量索引库，使用 Rust 编写并提供 Python 绑定。它旨在解决···

TriviumDB 开源 可打开

一个内核搞定向量、图、文档，写入即用

TriviumDB 是一个用 Rust 编写的轻量级嵌入式数据库引擎，目标是把向量检索、图结构和文档型元数据···

claude-code-local 开源 免费 仅开源

在 Mac 上离线跑 Claude Code，代码不出本机

claude-code-local 是一个让 Claude Code 完全在 Apple Silicon 设备本地运行的开源方案。它用 MLX···

m365-copilot-proxy 开源 免费 仅开源

把已有 M365 Copilot 授权变成 OpenAI 兼容接口

m365-copilot-proxy 是一个用 TypeScript 编写的本地代理服务，把 Microsoft 365 Copilot 的对话接···

wirken 开源 可打开

给企业智能体装上安全闸门，身份、审计、隔离一步到位

wirken 是一个面向企业的自主智能体网关，用 Rust 编写，为 LLM 智能体提供统一的身份管理、按渠道···

opencode-llm-proxy 开源 免费 仅开源

本地一个代理，统一接入 OpenAI、Anthropic、Gemini 等大模型

opencode-llm-proxy 是一个基于本地 OpenCode 的 LLM 网关，为 OpenAI、Anthropic、Gemini 以及 Re···

Sipp 开源 可打开

浏览器里直接跑 GGUF 大模型，零依赖 WebGPU 加速

Sipp 是一个基于 Rust 和 C++ 构建的 WebGPU 推理运行时，目标是在浏览器中直接运行 GGUF 格式的大···

taladb 开源 不稳定

把向量检索和文档库塞进 App 本地跑

TalaDB 是一个用 Rust 编写的开源嵌入式向量与文档数据库，面向本地优先（local-first）的 AI 应用···

IAGA-Sentinel 开源 可打开

给AI智能体装个哨兵，实时监控安全与行为

IAGA Sentinel 是一个为 AI 智能体设计的可观测性与安全监控工具，用 Rust 编写。它作为 AI 智能体···

cligate 开源 仅开源

一个网关，统一管理所有 AI 工具和模型，省心又安全。

cligate 是一个私有的 AI 助手与统一模型代理，旨在为 Claude Code、Codex CLI、Gemini CLI 和 Ope···

vllm-factory 开源 免费 仅开源

让编码器模型也能跑上 vLLM，推理快人一步

vllm-factory 是一个为编码器模型（如 ColBERT、GLiNER、ColPali 等）提供生产级推理服务的开源项目···

vektori 开源 免费 仅开源

让 AI 代理记住完整故事，而非零散事实

vektori 是一个面向 AI 代理的记忆系统，旨在让代理不仅记住事实，还能记住完整的‘故事’。它通过···

agentic-api 开源 免费 仅开源

给智能体应用加状态管理，接上 vLLM 直接跑

agentic-api 是一个用 Rust 编写的基础设施项目，为智能体（agentic）应用提供有状态的 API 逻辑层···

openfirma 开源 免费 仅开源

给 AI 智能体装上硬性权限闸门，每次调用都过策略

openfirma 是一个为 AI 智能体提供运行时强制边界的本地辅助进程（sidecar）。它拦截智能体所有出站···

llmman 开源 免费 仅开源

把模型装进 OCI 镜像，任意 Agent 一键换模型跑

llmman 是一个用 Rust 编写的模型与 Agent 运行管理工具，核心思路是把大语言模型当作 OCI 镜像来存···