基础设施

汇聚全球AI基础设施项目,算力、数据集、模型服务、AI中间件,赋能AI应用落地。

共收录 1133 个开源项目

dns-aid-core 开源

用 DNS 让 AI 智能体像网站一样被找到和验证

dns-aid-core 是 IETF BANDAID 工作组提出的 DNS-based Agent Identification and Discovery(DNS-···

★ 70 评分 2026-02-05
llm-gateway 开源

统一安全接入多个大模型,零信任管控 API 调用

llm-gateway 是一个零信任的 LLM 网关,提供 OpenAI 兼容的代理服务,支持语义路由和负载均衡,可对···

★ 96 评分 2026-02-05
dgx-spark-inference-stack 开源

在桌面级 AI 超算上,一键部署本地大模型推理服务

dgx-spark-inference-stack 是一个面向 NVIDIA DGX Spark(Grace Blackwell 桌面级 AI 超算)的推理···

★ 52 评分 2026-02-05
ClawRouter 开源

让智能体自动选最划算的模型,支付也顺手搞定

ClawRouter 是一个面向自主智能体的 LLM 路由层,核心解决多模型选择与成本控制问题。它内置 66 个···

★ 6612 评分 2026-02-03
llmtrace 开源

零代码给 OpenAI API 加安全盾,实时防注入、扫隐私、控成本

llmtrace 是一个零代码的 LLM 安全与可观测性代理,专为 OpenAI 兼容 API 设计。它作为中间层,实时···

★ 53 评分 2026-01-31
lucid-memory 开源

本地秒级记忆,让 AI 更懂你,零成本零延迟

lucid-memory 是一个面向 AI 智能体的本地优先记忆系统,旨在解决传统 RAG 和向量数据库在 AI 记忆···

★ 160 评分 2026-01-30
skills 开源

让 AI 助手秒变 Qdrant 专家,搞定向量搜索开发与运维

skills 是 Qdrant 官方推出的智能体技能包,旨在为 AI 编程助手(如 Claude Code、Codex、Cursor)···

★ 247 评分 2026-01-29
bunqueue 开源

用 Bun 跑飞任务队列,AI 代理调度快人一步

bunqueue 是一个专为 Bun 运行时打造的高性能任务队列库,核心解决 AI 智能体与自动化场景下的异步···

★ 570 评分 2026-01-28
tabularis 开源

一个桌面工具,连接 15+ 数据库,还能让 AI 帮你写 SQL。

tabularis 是一款开源的桌面端 SQL 工作台,支持 PostgreSQL、MySQL/MariaDB、SQLite 以及 DuckDB、···

★ 5067 评分 2026-01-26
toktrack 开源

实时盯紧 Claude Code 的 token 消耗,避免账单超支

toktrack 是一个用 Rust 编写的超快速 LLM Token 使用与成本追踪工具,专为 Claude Code 等 AI 编程···

★ 192 评分 2026-01-26
endee 开源

一个节点扛住10亿条数据,检索照样快如闪电

Endee 是一款高性能向量数据库,单个节点即可承载多达 10 亿条向量,通过优化的索引与执行引擎带来···

★ 1295 评分 2026-01-24
OpenToys 开源

用 MacBook 和 ESP32 快速造本地 AI 玩具

OpenToys 是一个面向创客和开发者的开源框架,旨在利用 MacBook 和 Arduino ESP32 快速构建本地 AI···

★ 164 评分 2026-01-24
qzcli_tool 开源

命令行管理启智AI任务,资源查询、提交、看日志一步到位,还能接入agent。

qzcli_tool 是面向启智平台(OpenI)的命令行工具,旨在简化 AI 训练任务的全生命周期管理。它解决···

★ 133 评分 2026-01-21
radar 开源

一个 Go 二进制搞定 K8s 可视化与 AI 运维诊断

Radar 是一个开源的 Kubernetes 可视化界面,内置 MCP(Model Context Protocol)服务器,专为 AI ···

★ 3503 评分 2026-01-20
meridian 开源

把 Claude Max 订阅用到所有 AI 编程工具里,省心省钱

Meridian 是一个 TypeScript 编写的代理工具,核心功能是让用户通过 Anthropic 官方 SDK 在第三方 ···

★ 2056 评分 2026-01-20
Wax 开源

在 Apple 设备上实现亚毫秒级本地 AI 记忆检索,无需服务器

Wax 是一个面向 AI 代理的轻量级记忆层,以单个 Swift 文件实现,专为 Apple Silicon 设备优化。它···

★ 800 评分 2026-01-20
hpc-ops 开源

C++ 高性能 LLM 推理算子库,加速推理降延迟

hpc-ops 是一个面向大语言模型推理的高性能算子库,使用 C++ 编写。它解决的是 LLM 推理过程中算子···

★ 1168 评分 2026-01-20
OGAD 开源

断网也能用AI,一个网关搞定本地模型全家桶

OGAD(Off Grid AI)是一个本地优先的AI网关项目,旨在让用户完全离线运行开源AI模型。它通过一个与···

★ 113 评分 2026-01-19
ram-coffers 开源

用二手 POWER8 服务器,让 LLM 推理提速 8.8 倍,省下云账单。

ram-coffers 是一个面向 LLM 推理的基础设施优化项目,通过 NUMA 感知的权重银行(weight banking)···

★ 170 评分 2026-01-19
gibram 开源

内存知识图谱,让 RAG 检索更懂关系

GibRAM 是一个基于 Go 语言实现的内存知识图谱服务器,专为检索增强生成(RAG / GraphRAG)工作流设···

★ 106 评分 2026-01-17
vestauth 开源

给 AI 智能体加上安全身份证,让请求可信可验。

vestauth 是一个面向 AI 智能体的身份认证库,由 dotenv 和 dotenvx 的作者创建。它解决的是 AI 智···

★ 170 评分 2026-01-15
opencode-multi-auth-codex 开源

多账户管理+会话控制,让 Codex 稳定高效

这是一个为 Codex OAuth 提供账户路由、会话控制、仪表盘和可靠性工具的开源项目。它解决了使用 Co···

★ 187 评分 2026-01-14
vibebin 开源

在自己的服务器上,用容器托管代码并直接运行。

vibebin 是一个面向自托管场景的轻量级代码托管与运行平台,它允许用户在自己的 VPS 或服务器上,通···

★ 108 评分 2026-01-13
pmetal 开源

Mac 上一条龙跑大模型:推理、微调、服务全本地

PMetal 是一个面向 Apple Silicon 的高性能本地大模型框架,用 Rust 编写,目标是在 Mac 上把 LLM ···

★ 320 评分 2026-01-12