基础设施

XMem 开源 已失效

给 AI 代理装上长期记忆，多模态多代理协作不掉线

XMem 是印度首个开源的、面向 AI 代理的多模态长期记忆层，旨在解决 AI 代理在对话和任务执行中缺乏···

zeptoclaw 开源 免费 仅开源

一个 Rust 二进制搞定本地 AI 助手，安全自治不泄露隐私

zeptoclaw 是一个本地优先的个人 AI 助手基础设施，用 Rust 编写，将工具调用、记忆存储、多渠道接···

mesh-llm 开源 免费 仅开源

共享闲置算力，跑起你的 AI 代理

mesh-llm 是一个基于 Rust 构建的去中心化 AI/LLM 推理网络，旨在让普通用户能够共享或使用闲置的 ···

NadirClaw 开源 免费+付费 不稳定

自动分流简单/复杂请求，AI API 账单直降四到七成

NadirClaw 是一个开源的 LLM 路由与 AI 成本优化代理，核心目标是帮你在不改变现有工具用法的前提下···

openai 开源 免费 仅开源

兼容 OpenAI 调用方式，请求时自动完成链上按次付费

这是一个面向 TypeScript 开发者的 OpenAI 客户端封装库，在保持与官方 SDK 调用方式兼容的前提下，···

humming 开源 免费 仅开源

运行时生成量化矩阵乘内核，推理更快更灵活

humming 是一个面向量化推理的高性能、轻量且灵活的 JIT（即时编译）GEMM 内核库，主要解决量化模型···

claw-compactor 开源 可打开

超长对话自动压缩，花小钱办大事不丢内容

面向 LLM 的 14 阶段融合式 Token 压缩流水线，支持可逆压缩、AST 感知的代码分析与智能内容路由，···

rampart 开源 可打开

给 AI 代理装上防火墙，控制它们在你电脑上的一举一动。

rampart 是一个面向 AI 智能体的开源防火墙，采用 Go 语言开发。它通过策略引擎审计和控制 OpenCla···

openclaw-dashboard 开源 免费 仅开源

自托管面板，实时看住 AI 智能体的行为与花费

openclaw-dashboard 是面向 OpenClaw AI 智能体的自托管实时监控面板，主要解决多智能体运行过程不···

ODS 开源 免费 仅开源

一键将电脑变成全能 AI 服务器，本地运行 LLM、语音、图像与自动化。

ODS 是一个开源的本地 AI 服务器解决方案，旨在将个人电脑（PC、Mac 或 Linux）转变为功能全面的 A···

memsearch 开源 免费 仅开源

给 AI 智能体装上长期记忆，跨会话秒级召回关键信息

memsearch 是一个为 AI 智能体（如 Claude Code、Codex）设计的持久化统一记忆层，基于 Markdown 和···

krasis 开源 免费 仅开源

显存不够也能跑大模型，混合推理榨干硬件性能

Krasis 是一个混合 LLM 运行时，专注于在消费级显存受限的硬件上高效运行更大的模型。它通过将模型···

tiny-vllm 开源 免费 仅开源

用 C++/CUDA 手写一个能跑的迷你 vLLM

tiny-vllm 是一个用 C++ 与 CUDA 从零实现的高性能 LLM 推理引擎教学项目，定位为 vLLM 的精简版。···

VectorRAG.Net 开源 免费 仅开源

在 .NET 中快速实现语义搜索和 RAG，无需外部向量数据库。

VectorRAG.Net 是一个面向 .NET 生态的高性能向量数据库库，专为语义搜索和 RAG（检索增强生成）场···

arboric 开源 免费 仅开源

给 AI 算力开经济模式，省 GPU 跑更多活

arboric 是一个面向 AI 计算的基础设施项目，定位为 AI 算力的“经济模式”。它通过智能调度和资源···

claude-devtools 开源 免费 可打开

给 Claude Code 装上可视化仪表盘，一眼看透会话、Token 与工具调用

claude-devtools 是专为 Claude Code 打造的开发者工具套件，以可视化界面补全其缺失的调试与监控能···

nyro 开源 免费 仅开源

一个网关，让所有 AI 工具无缝切换任意模型。

nyro 是一个自托管的 AI 网关，用 Rust 编写，核心功能是协议转换。它能让 Claude Code、Codex、Ge···

context-lens 开源 免费 仅开源

一眼看清 AI 到底收到了什么上下文

context-lens 是一个与框架无关的 LLM 上下文窗口可视化工具，用 TypeScript 编写。它解决的是开发···

ClawPanel 开源 已失效

给 OpenClaw 装上图形化仪表盘，通道日志一目了然

ClawPanel 是一个为 OpenClaw AI 助手设计的可视化管理面板，采用 Go 语言开发，以单二进制文件形式···

KsanaDiT 开源 免费 仅开源

让视频生成模型推理更快，部署更省心

KsanaDiT 是一个面向视频与图像生成场景的高性能 Diffusion Transformer（DiT）推理框架，专注于解···

onWatch 开源 可打开

一个后台小进程，实时盯住所有 AI 额度不爆表

onWatch 是一个用 Go 编写的轻量级后台守护进程，专门用来实时追踪多个 AI 服务的 API 配额消耗情况···

openclaw-dashboard 开源 免费 仅开源

一条命令起面板，看清每个 AI 智能体花了多少钱

openclaw-dashboard 是一个面向 OpenClaw AI 智能体的可视化指挥中心，用 Go 编写，主打零依赖和开···

dns-aid-core 开源 免费 仅开源

用 DNS 让 AI 智能体像网站一样被找到和验证

dns-aid-core 是 IETF BANDAID 工作组提出的 DNS-based Agent Identification and Discovery（DNS-···

llm-gateway 开源 免费 仅开源

统一安全接入多个大模型，零信任管控 API 调用

llm-gateway 是一个零信任的 LLM 网关，提供 OpenAI 兼容的代理服务，支持语义路由和负载均衡，可对···