基础设施

bc250 开源

用 PS5 同款 APU 主板，低成本跑本地大模型和文生图

bc250 是一份面向 AMD BC-250（PS5 同款 APU 主板）的开源配置指南与脚本集合，目标是把这块廉价硬···

SmarterRouter 开源

统一管理本地多模型，自动路由省成本，故障秒切换。

SmarterRouter 是一个面向本地 AI 实验室的智能 LLM 网关和路由工具，专门服务于 Ollama、llama.cp···

claude-tap 开源

本地拦截 AI 编程代理流量，可视化调试每个 API 调用

claude-tap 是一个面向 AI 编程代理的本地流量拦截与调试工具。它通过本地代理服务器捕获 Claude C···

llmfit 开源

一条命令，测出你的硬件能跑哪些 AI 模型

llmfit 是一个用 Rust 编写的命令行工具，旨在帮助用户快速评估和选择能在自己硬件上运行的 AI 模型···

OmniRoute 开源

一个接口接入 290+ 模型，自动省钱还能无缝切换

OmniRoute 是一个开源的 AI 网关项目，旨在解决开发者在使用多种 AI 模型时面临的接口碎片化、成本···

clawmetry 开源

看清智能体每一步思考，调试不再靠猜。

clawmetry 是一个面向 AI 智能体的实时可观测性平台，支持 OpenClaw、NVIDIA NemoClaw、Claude Cod···

omlx 开源

Mac 菜单栏一键跑大模型，SSD 缓存突破内存限制，连续批处理提速

omlx 是一个专为 Apple Silicon 打造的 LLM 推理服务器，通过 macOS 菜单栏应用进行管理。它解决了···

XMem 开源

给 AI 代理装上长期记忆，多模态多代理协作不掉线

XMem 是印度首个开源的、面向 AI 代理的多模态长期记忆层，旨在解决 AI 代理在对话和任务执行中缺乏···

zeptoclaw 开源

一个 Rust 二进制搞定本地 AI 助手，安全自治不泄露隐私

zeptoclaw 是一个本地优先的个人 AI 助手基础设施，用 Rust 编写，将工具调用、记忆存储、多渠道接···

mesh-llm 开源

共享闲置算力，跑起你的 AI 代理

mesh-llm 是一个基于 Rust 构建的去中心化 AI/LLM 推理网络，旨在让普通用户能够共享或使用闲置的 ···

NadirClaw 开源

自动分流简单/复杂请求，AI API 账单直降四到七成

NadirClaw 是一个开源的 LLM 路由与 AI 成本优化代理，核心目标是帮你在不改变现有工具用法的前提下···

claw-compactor 开源

超长对话自动压缩，花小钱办大事不丢内容

面向 LLM 的 14 阶段融合式 Token 压缩流水线，支持可逆压缩、AST 感知的代码分析与智能内容路由，···

rampart 开源

给 AI 代理装上防火墙，控制它们在你电脑上的一举一动。

rampart 是一个面向 AI 智能体的开源防火墙，采用 Go 语言开发。它通过策略引擎审计和控制 OpenCla···

ODS 开源

一键将电脑变成全能 AI 服务器，本地运行 LLM、语音、图像与自动化。

ODS 是一个开源的本地 AI 服务器解决方案，旨在将个人电脑（PC、Mac 或 Linux）转变为功能全面的 A···

memsearch 开源

给 AI 智能体装上长期记忆，跨会话秒级召回关键信息

memsearch 是一个为 AI 智能体（如 Claude Code、Codex）设计的持久化统一记忆层，基于 Markdown 和···

krasis 开源

显存不够也能跑大模型，混合推理榨干硬件性能

Krasis 是一个混合 LLM 运行时，专注于在消费级显存受限的硬件上高效运行更大的模型。它通过将模型···

tiny-vllm 开源

用 C++/CUDA 手写一个能跑的迷你 vLLM

tiny-vllm 是一个用 C++ 与 CUDA 从零实现的高性能 LLM 推理引擎教学项目，定位为 vLLM 的精简版。···

VectorRAG.Net 开源

在 .NET 中快速实现语义搜索和 RAG，无需外部向量数据库。

VectorRAG.Net 是一个面向 .NET 生态的高性能向量数据库库，专为语义搜索和 RAG（检索增强生成）场···

arboric 开源

给 AI 算力开经济模式，省 GPU 跑更多活

arboric 是一个面向 AI 计算的基础设施项目，定位为 AI 算力的“经济模式”。它通过智能调度和资源···

claude-devtools 开源

给 Claude Code 装上可视化仪表盘，一眼看透会话、Token 与工具调用

claude-devtools 是专为 Claude Code 打造的开发者工具套件，以可视化界面补全其缺失的调试与监控能···

nyro 开源

一个网关，让所有 AI 工具无缝切换任意模型。

nyro 是一个自托管的 AI 网关，用 Rust 编写，核心功能是协议转换。它能让 Claude Code、Codex、Ge···

ClawPanel 开源

给 OpenClaw 装上图形化仪表盘，通道日志一目了然

ClawPanel 是一个为 OpenClaw AI 助手设计的可视化管理面板，采用 Go 语言开发，以单二进制文件形式···

KsanaDiT 开源

让视频生成模型推理更快，部署更省心

KsanaDiT 是一个面向视频与图像生成场景的高性能 Diffusion Transformer（DiT）推理框架，专注于解···

onWatch 开源

一个后台小进程，实时盯住所有 AI 额度不爆表

onWatch 是一个用 Go 编写的轻量级后台守护进程，专门用来实时追踪多个 AI 服务的 API 配额消耗情况···