EcoAssistant

让LLM助手更省钱更精准,智能路由+缓存复用

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 8 🐛 待处理 2 👀 关注 1
GitHub ↗
GitHub 星标 ★ 132
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,需自行部署。

项目预览

EcoAssistant 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队JieyuZ2
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,需自行部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型chatbot,gpt,large-language-models,llm-inference,nlp
GitHub 星标★ 132
上线时间2023-09-25 00:00:00
代码更新2024-06-30
仓库体积966 KB
本站数据更新2026-11-07
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

EcoAssistant 是一个旨在降低大语言模型(LLM)使用成本并提升回答准确性的开源对话助手项目。它通过智能的查询路由和结果缓存机制,将用户请求分配给最合适的模型(如GPT-4或更经济的模型),并复用历史答案,从而在保证质量的同时显著减少API调用费用。项目核心能力包括:基于语义的查询分类、多模型自动选择、答案缓存与相似度匹配,以及可扩展的插件架构。它解决了企业在部署LLM助手时面临的成本高、响应慢、结果不稳定等痛点,适合需要高频调用LLM的客服、知识库问答等场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 132

核心亮点

  • 智能路由:自动在昂贵和廉价模型间切换,平均节省40%+API成本
  • 结果缓存:相似问题直接复用历史答案,响应速度提升数倍
  • 准确率优化:通过模型选择策略,在降本同时保持高准确率

不足之处

  • 早期项目,文档和社区支持待观察
  • 缓存命中率依赖问题相似度阈值,复杂场景可能失效

适用场景

  • 企业客服机器人,高频重复问题降本
  • 内部知识库问答,快速检索历史答案
  • 多模型API聚合平台,统一管理成本

替代项目

LangChain、LlamaIndex、OpenAI Evals

上一篇:Gensokyo-llm

下一篇:friday-gpt

同类项目推荐

adhd 开源

让AI像多动症一样发散思维,再剪枝聚焦,搞定复杂创意活。

ADHD — a skill for coding agents. Tree-of-thought with pruning, built on the Claude···

★ 4509 2026-08-09
DeepseekHarness-Android 开源

装个 APK,让 DeepSeek 智能体直接帮你操作手机

免 ROOT 免 Termux,一个 APK 在安卓手机上跑 DeepSeek Harness。引擎内嵌 App 进程 · 读···

★ 860 2026-10-31
paper-reading-zh 开源

让 AI 帮你严谨读论文,基于证据不瞎说

中文论文精读 skill:先说读了什么,数字标出处,查不到写未核验。Codex / Claude Code / ···

★ 108 2026-08-09
jat 开源

一个界面管 20+ 智能体,并行干活不打架

The World's First Agentic IDE. Visual dashboard: live sessions, task management, cod···

★ 248 2026-08-09
design-os-3d-blender 开源

让 AI 代理稳定驱动 Blender 建模并过打印门禁

AI agent operating system for Blender 5.2: bpy knowledge base, AGENT_OK execution co···

★ 112 2026-10-21
servicenow-mcp 开源

让任何 AI 直接操作 ServiceNow,450+ 工具开箱即用

ServiceNow MCP server: 500+ tools and 26 AI capabilities for any AI (Claude, ChatGPT···

★ 241 2026-08-09
openpaw 开源

一条命令让 Claude Code 变身个人助理,自动搞定日常杂务

Personal Assistant Wizard for Claude Code — npx pawmode

★ 178 2026-08-09
sentient-os 开源

让 AI 读懂你的生活,主动帮你把电脑上的活干了

An on-device LLM understands your entire life, then proactively offers to get your w···

★ 710 2026-08-09
MCP-Universe 开源

一站式训练评测智能体工具调用能力

MCP-Universe is a comprehensive framework designed for RL training, benchmarking, an···

★ 604 2026-10-13