基础设施

myapi 开源

一个终端，搞定网站、后端和支付，快速落地真实业务。

myapi 是一个面向自主化公司的统一 API 平台，旨在让开发者通过一个终端即可快速搭建完整的真实业务···

UnifiedModel 开源

一次建模，让 AI 智能体秒懂企业数据

UnifiedModel 是一个面向企业级 AI 智能体的语义层项目，旨在解决 AI 难以理解企业数据结构和关系的···

tokenspeed 开源

让大模型在现有硬件上跑出光速级 token 生成速度

TokenSpeed 是一个主打极致推理速度的 LLM 推理引擎，目标是让大模型在现有硬件上跑出“光速”级别···

platform 开源

把 AI 智能体从笔记本搬到 K8s，企业级管控一步到位

Agyn 是一个开源的原生 Kubernetes 运行时，旨在将 Claude Code、Codex 等 AI 智能体从开发者个人电···

opendray 开源

统一网关，让多个 AI 编码代理在自有服务器上协同工作

opendray 是一个自托管的 AI 编程智能体网关，旨在统一管理 Claude Code、Codex、Antigravity、Gro···

self-hosted-ai-stack 开源

一行命令部署本地 AI 全家桶，数据不出门，隐私又安全。

这是一个基于 Docker Compose 的一站式自托管 AI 技术栈部署方案，旨在帮助用户快速搭建本地优先、···

dualmark 开源

一个页面，两种形态，让 AI 和人类都能读懂你的内容。

dualmark 是一个开源的 AEO（答案引擎优化）基础设施，旨在让网页同时为人类和 AI 代理优化。它通过···

books-for-bots 开源

把电子书变成智能体能高效导航的 Markdown，省 token 又精准。

books-for-bots 是一个用 Rust 编写的命令行工具，专门解决大模型（LLM）智能体高效阅读电子书的问···

lemoncrow 开源

让编码智能体提速 25%、降价 30%，质量不变

lemoncrow 是一个为编码智能体（coding agents）设计的运行时加速工具。它通过优化智能体的运行流程···

fox-in-the-box 开源

一键安装 Hermes，快速自托管 AI 助手

Fox in the Box 是一个一键安装 Hermes 自托管 AI 助手平台的工具。它解决了自托管 AI 助手部署复杂···

minimal-embodiment 开源

给大模型装上身体，实现感知-行动闭环

这是一个极简的软硬件架构，旨在为大型语言模型（LLM）提供闭环的物理具身，使其具备自我感知循环。···

openlake 开源

加速 LLM 训练与推理，让 GPU 不再等数据

OpenLake 是一个用 Rust 编写的高性能存储引擎，专为大型语言模型（LLM）推理和 GPU 训练而设计。它···

router 开源

换一个端点，50 毫秒内自动选对模型，成本直降 70%

router 是一个面向智能体系统的大模型路由基础设施，用 Go 编写。它解决的核心问题是：在复杂的多模···

e2a 开源

给AI智能体装上安全邮件收发网关，快速集成邮件能力

e2a 是首个面向 AI 智能体的开源邮件网关，旨在解决智能体无法安全、可靠地收发邮件的问题。它提供···

hermes-labyrinth 开源

给 Hermes Agent 装上行车记录仪，看清每一步决策路径

Hermes Labyrinth 是 Nous Research 为 Hermes Agent 打造的只读可观测性插件，旨在解决自主智能体···

Sentinel_Guard 开源

给 AI 应用加一道安全网关，拦截注入与越权调用

Sentinel_Guard 是一个面向 AI 应用、智能体（Agent）和 AI 增强 IDE 的安全优先 LLM 网关与护栏系···

statewave 开源

给AI智能体装上可追溯的长期记忆，告别查询式检索

statewave 是一个面向 AI 智能体的开源记忆运行时，旨在解决智能体长期记忆的可靠性和可复现性问题···

tokentelemetry 开源

本地追踪 AI 智能体令牌消耗，成本一目了然

TokenTelemetry 是一个面向 AI 自主智能体与编码智能体的本地化令牌遥测仪表盘，用于追踪令牌消耗、···

free-ai 开源

免费获取 OpenAI 兼容 API，50+ 模型免费用

FreeTheAi 是一个免费提供 OpenAI 兼容 API 的开源项目，旨在降低 AI 应用开发门槛。它通过 Discor···

litefuse 开源

给AI智能体装上监控和评分系统，调试优化不再抓瞎

Litefuse 是一个面向 AI 智能体的可观测性与评估平台，旨在解决开发者在构建和部署 LLM 应用时面临···

gpu-telemetry 开源

一个代理，让每块 GPU 的消耗都精确到 Pod 或作业

gpu-telemetry 是一个面向 GPU 可观测性的开源项目，核心解决 GPU 资源在 Kubernetes 或 Slurm 集群···

leanctx 开源

不换代码，一键压缩提示词，立省 40-60% token 费用

leanctx 是一个用于生产环境 LLM 应用的即插即用提示词压缩工具。它基于 LLMLingua-2 模型，通过智···

kiwi-mem 开源

给 AI 伴侣装上会遗忘、会做梦的长期记忆

kiwi-mem 是一个自托管的 AI 伴侣记忆网关，定位为 OpenAI 兼容的代理层，解决长期陪伴型 AI 聊天中···

aisix 开源

用 Rust 打造的统一 AI 网关，一套 API 接入所有主流大模型。

aisix 是一个用 Rust 构建的开源 AI 网关，为 LLM 和 AI 智能体提供统一的 OpenAI 兼容 API 接口。···