WilmerAI

多模型路由中间件，让提示词按规则自动流转

WilmerAI 是一个较早出现的 LLM 语义路由中间件，位于你的应用与多个 LLM API 之间，通过多层提示词路由和复杂工作流来操纵请求与响应。它解决的核心问题是：当应用需要对接多个模型、动态切换供应商、或根据上下文选择不同提示策略时，直接硬编码会非常混乱。WilmerAI 提供 REST 接口，让你可以定义路由规则、组合提示词、串联多步工作流，从而构建实用的聊天机器人，也能扩展任何通过 REST 调用 LLM 的应用。它支持多 API 端点管理、提示词预处理、条件分支和结果后处理，适合需要精细控制 LLM 交互流程的开发者。

开源 free 基础设施

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 831

维护状态较活跃

是否开源是

定价模式 free

项目数据

分类基础设施

开发团队SomeOddCodeGuy

所属国家

官网地址

GitHubhttps://github.com/SomeOddCodeGuy/WilmerAI

定价模式free

价格说明开源免费，需自行部署

访问状态

是否开源是

开源协议GPL-3.0

主要语言Python

技术栈/模型ai,generative-ai,llms

GitHub 星标★ 831

30天Star增速

HF 下载量

上线时间2024-04-08 00:00:00

最近更新2026-09-09 00:00:00

维护状态较活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-09-14

浏览次数0

使用教程

核心亮点

支持多层提示词路由和复杂工作流，可条件分支与串联多步调用
作为中间层统一管理多个 LLM API，便于切换供应商和密钥
提供 REST 接口，能嵌入任何现有应用，不绑定特定前端

不足之处

项目较早期，文档和示例可能不够完善，上手需要读源码
社区规模较小，遇到问题可参考的讨论和第三方教程有限

适用场景

为聊天机器人动态选择不同模型并注入上下文
在应用中根据用户意图路由到不同提示词模板
串联多个 LLM 调用完成复杂任务，如先总结再翻译再润色

替代项目

LiteLLM、OpenRouter

项目介绍

WilmerAI 是一个基础设施领域的开源项目，官方简介：WilmerAI is one of the oldest LLM semantic routers. It uses multi-layer prompt routing and complex workflows to allow you to not only create practical chatbots, but to extend any kind of application that connects to an LLM via REST API. Wilmer sits between your app and your many LLM APIs, so that you can manipulate prompts as needed.。项目使用 Python 开发，在 GitHub 上获得 831 星标。

上一篇：TensorSharp

下一篇：symforce