一键部署 RWKV 模型，集成聊天、嵌入、RAG 和智能代理。
ai00_server 是一个基于 Rust 编写的 RWKV 模型全功能运行时，旨在提供开箱即用的一体化服务。它解决了 RWKV 模型部署和集成复杂的问题，将模型推理、向量嵌入、检索增强生成（RAG）以及 AI 代理等功能整合在一个服务中。核心能力包括：兼容 OpenAI API 格式，便于替换现有应用；支持文本嵌入，可用于语义搜索；内置 RAG 流程，能结合外部知识库回答问题；支持构建简单的 AI 代理，执行多步骤任务。项目处于早期阶段，但架构清晰，性能潜力大，适合希望低成本部署 RWKV 模型的开发者或研究者。
llama.cpp、vLLM、text-generation-webui
ai00_server 是基础设施领域的开源项目，由 Ai00-X 开发，2023 年首次发布。
它收录于基础设施分类，该分类目前共有 1,130 个项目，GitHub 星标数为 620。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-14。MIT许可证，完全免费，无付费版本。从国内网络环境看，可直接访问。
它主要面向的使用场景是：本地部署RWKV模型，提供OpenAI兼容的聊天API。同类可对比的替代方案包括 llama.cpp、vLLM、text-generation-webui。
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···
