项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 52
技术标签
核心亮点
- 统一接口封装了主流 LLM 提供商，切换模型只需改配置，无需改代码
- 内置缓存和 fallback 机制，显著降低 API 成本和提升服务可用性
- 支持多模态输入，覆盖文本和图像等场景，扩展性强
不足之处
- 项目处于早期，文档和社区生态尚不完善
- 功能覆盖可能不如成熟库全面，高级特性需自行扩展
适用场景
- 需要同时接入多家 LLM 供应商，避免厂商锁定的应用
- 对 API 调用成本敏感，希望通过缓存减少开支的生产环境
- 要求高可用，需要自动故障转移的 AI 服务
替代项目
LiteLLM、LangChain、Haystack
同类项目推荐
attachments
开源
两行代码，把任意文件变成大模型能读的上下文
Easiest way to give context to LLMs; Attachments has the ambition to be the general ···
PaddleNLP
开源
一站式搞定NLP大模型与小模型，从训练到部署全流程提速
Easy-to-use and powerful LLM and SLM library with awesome model zoo.
comfyui-client
开源
用 TypeScript 轻松调用 ComfyUI，实现可编程图像生成工作流。
all ComfyUI http/ws APIs. support NodeJS / Browser environments. and advanced progra···
prodagent
开源
1800行读懂 agent 框架内核，可恢复可续跑
A minimal, readable agent-framework kernel — understand how LangGraph/ADK work unde···
Ultimate-TypeScript-Real-World-A···
开源
照着抄，250+生产级TypeScript AI项目，从Demo到落地一步到位
250+ real-world TypeScript AI projects: workflows, agents, and multi-agent systems w···
dspy-advanced-prompting
开源
用DSpy实现高级提示词技巧，提升LLM应用效果
State-of-the-art prompting techniques implementation with DSpy - Manager-style promp···
npi
开源
给 AI Agent 装上百宝工具箱，开箱即用
Action library for AI Agent
Speech
开源
一站式语音生成框架，快速构建 ASR/TTS 应用
A scalable generative AI framework built for researchers and developers working on L···
loop-engineering
开源
套上现成模板，AI 干活一次比一次稳。
Practical patterns, starters & CLI tools for loop engineering with AI coding agents.···