基础设施

Atomic-Chat 开源

本地跑大模型，私密离线聊天，告别云端依赖

Atomic-Chat 是一款面向本地智能体的 AI 对话应用与推理引擎，旨在让用户完全离线、私密地运行开源···

ungate 开源

用订阅账号在 Cursor 里白嫖 AI，省下 API 钱

ungate 是一个开源工具，旨在让用户将已有的 Claude 或 ChatGPT 订阅服务直接用于 Cursor 编辑器，···

cli 开源

用代码图谱给 AI 编程省 token，只喂相关代码，不烧钱。

这是一个用 Go 语言编写的命令行工具，通过构建代码图谱来帮助开发者节省 AI 代理的 token 成本。它···

anolisa 开源

用 Rust 打造 AI 代理的底层操作系统，让多代理协同更稳更安全。

ANOLISA（Agentic Nexus Operating Layer & Interface System Architecture）是一个用 Rust 构建的···

knowledgeops-agent 开源

快速搭建企业级安全可观测的 RAG 知识问答平台

knowledgeops-agent 是一个基于 Spring AI 的企业级知识管理平台，专注于检索增强生成（RAG）、工具···

Observal 开源

把 AI 组件管起来，共享复用还能看运行数据

Observal 是一个面向 AI 组件的本地注册表与分析平台，旨在帮助团队集中管理、共享和监控 AI 技能（···

mere-run 开源

在 Mac 上一条命令跑通图像、语音、视频等本地 AI 工作流

mere-run 是一个面向 Apple Silicon 设备的本地生成式 AI 工作流引擎，用 Swift 编写，基于 MLX 框···

agent-vault 开源

给 AI 代理一个安全的凭证保险库，告别硬编码密钥

agent-vault 是一个面向 AI 代理（如 Claude Code、OpenClaw、Hermes 等）的 HTTP 凭证代理与保险库···

hazmat 开源

给 AI 代理套上安全笼子，防破坏防泄露，还能一键回滚

hazmat 是一个面向 AI 代理的安全隔离工具，用 Go 编写，专为 macOS 设计。它解决的核心问题是：当···

aisix-archived 开源

用 Rust 打造你的 AI 网关，统一管理多模型请求

aisix-archived 是一个用 Rust 构建的开源原生 AI 网关和 LLM 代理，旨在为企业和开发者提供统一的···

opentraces 开源

给 AI Agent 装上黑匣子，完整记录每一步操作，调试审计不再抓瞎。

opentraces 是一个面向 AI Agent 的本地优先证据层（evidence layer），用于记录 Agent 在工作过程···

turbovec 开源

用 Rust 和量化技术，让向量搜索又快又省内存

turbovec 是一个基于 TurboQuant 构建的向量索引库，使用 Rust 编写并提供 Python 绑定。它旨在解决···

TriviumDB 开源

一个内核搞定向量、图、文档，写入即用

TriviumDB 是一个用 Rust 编写的轻量级嵌入式数据库引擎，目标是把向量检索、图结构和文档型元数据···

wirken 开源

给企业智能体装上安全闸门，身份、审计、隔离一步到位

wirken 是一个面向企业的自主智能体网关，用 Rust 编写，为 LLM 智能体提供统一的身份管理、按渠道···

opencode-llm-proxy 开源

本地一个代理，统一接入 OpenAI、Anthropic、Gemini 等大模型

opencode-llm-proxy 是一个基于本地 OpenCode 的 LLM 网关，为 OpenAI、Anthropic、Gemini 以及 Re···

IAGA-Sentinel 开源

给AI智能体装个哨兵，实时监控安全与行为

IAGA Sentinel 是一个为 AI 智能体设计的可观测性与安全监控工具，用 Rust 编写。它作为 AI 智能体···

cligate 开源

一个网关，统一管理所有 AI 工具和模型，省心又安全。

cligate 是一个私有的 AI 助手与统一模型代理，旨在为 Claude Code、Codex CLI、Gemini CLI 和 Ope···

vllm-factory 开源

让编码器模型也能跑上 vLLM，推理快人一步

vllm-factory 是一个为编码器模型（如 ColBERT、GLiNER、ColPali 等）提供生产级推理服务的开源项目···

vektori 开源

让 AI 代理记住完整故事，而非零散事实

vektori 是一个面向 AI 代理的记忆系统，旨在让代理不仅记住事实，还能记住完整的‘故事’。它通过···

openfirma 开源

给 AI 智能体装上硬性权限闸门，每次调用都过策略

openfirma 是一个为 AI 智能体提供运行时强制边界的本地辅助进程（sidecar）。它拦截智能体所有出站···

llmman 开源

把模型装进 OCI 镜像，任意 Agent 一键换模型跑

llmman 是一个用 Rust 编写的模型与 Agent 运行管理工具，核心思路是把大语言模型当作 OCI 镜像来存···

llmserve 开源

终端里选模型选后端，一键把本地 LLM 跑起来

llmserve 是一个用 Rust 编写的终端 TUI 工具，用于在本地启动和托管大语言模型服务。它把「选模型···

awesome-free-llm-apis 开源

白嫖各种免费LLM API，开发测试不花钱

这是一个收录永久免费的大语言模型（LLM）API接口的精选列表，旨在帮助开发者在不花费成本的情况下···

SwiftLM 开源

Mac/iPhone 上跑本地大模型，OpenAI 接口直接调

SwiftLM 是一个面向 Apple Silicon 的原生 MLX Swift 大模型推理服务器，目标是把本地 LLM 推理做成···