onellm

一个接口调用数百种大模型,自动缓存和故障回退,省心又稳定。

onellm 是一个 Python 库,为开发者提供统一的接口来调用数百种大语言模型(LLM),包括 OpenAI、Claude、Gemini、Mistral 等主流提供商。它解决了多模型集成时接口碎片化、切换成本高、可靠性不足的问题。核心能力包括:统一的 API 抽象层,屏蔽不同厂商的差异;内置缓存机制,减少重复请求和成本;支持 fallback 回退策略,当主模型不可用时自动切换到备用模型,提升服务稳定性;还支持多模态(文本、图像等)输入。项目处于早期阶段,代码简洁,适合希望快速集成多种 LLM 并需要高可用保障的开发者。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 52
维护状态 活跃
是否开源
定价模式 free

项目数据

分类对话助手
开发团队muxi-ai
所属国家
官网地址https://muxi.org
定价模式free
价格说明开源项目,Apache-2.0 许可证,可免费使用和部署。
访问状态
是否开源
开源协议Apache-2.0
主要语言Python
技术栈/模型ai,api,chatgpt,claude,embeddings,gemini,llm,mistral,multimodal,openai
GitHub 星标★ 52
30天Star增速
HF 下载量
上线时间2025-05-04 00:00:00
最近更新2026-09-19 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数1

使用教程

核心亮点

  • 统一接口封装了主流 LLM 提供商,切换模型只需改配置,无需改代码
  • 内置缓存和 fallback 机制,显著降低 API 成本和提升服务可用性
  • 支持多模态输入,覆盖文本和图像等场景,扩展性强

不足之处

  • 项目处于早期,文档和社区生态尚不完善
  • 功能覆盖可能不如成熟库全面,高级特性需自行扩展

适用场景

  • 需要同时接入多家 LLM 供应商,避免厂商锁定的应用
  • 对 API 调用成本敏感,希望通过缓存减少开支的生产环境
  • 要求高可用,需要自动故障转移的 AI 服务

替代项目

LiteLLM、LangChain、Haystack

项目介绍

onellm 是开发框架领域的开源项目,由 muxi-ai 开发,2025 年首次发布。

它收录于开发框架分类,该分类目前共有 795 个项目,GitHub 星标数为 52。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-19。Apache-2.0 许可证,可免费使用和部署。

它主要面向的使用场景是:需要同时接入多家LLM供应商,避免厂商锁定的应用。同类可对比的替代方案包括 LiteLLM、LangChain、Haystack。

上一篇:Graphite

下一篇:PyChatGPT

同类项目推荐

langchain 开源

组装 AI 应用的乐高积木,从想法到上线不换工具

The agent engineering platform.

★ 146874 2026-08-09
transformers 开源

全球最大的模型仓库全家桶,想用的模型一把抓

Transformers: the model-definition framework for state-of-the-art machine learning m···

★ 166529 2026-08-09
pi 开源

一套 TypeScript 工具包,快速搭出能写代码的 AI agent

AI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI

★ 108504 2026-09-12