Misceo

让 AI 调用自动选便宜模型,质量不翻车,成本一目了然

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 3 👀 关注 11
GitHub ↗
GitHub 星标 ★ 849
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,本地部署,完全免费。

项目预览

Misceo 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队MaySudo
定价模式🏷️完全免费
价格说明开源项目,本地部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
技术栈/模型ai-agents,ai-gateway,anthropic-api,claude-code,cost-optimization,llm-router,local-first,model-routing,multi-model
GitHub 星标★ 849
上线时间2026-07-18 00:00:00
代码更新2026-08-03
仓库体积52 KB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数5

项目介绍

Misceo 是一个本地部署的 Anthropic 兼容 AI 网关,核心解决多模型调用时的成本与质量平衡问题。它提供“便宜优先”的路由策略,自动将请求导向低成本模型,同时通过质量门控(quality gates)确保输出不降级,并在模型间安全切换(safe model handoffs),避免对话中断或上下文丢失。内置成本仪表盘,实时展示各模型的花费与调用量,帮助团队透明化管控 AI 开支。网关兼容 Anthropic API 格式,可无缝替换或代理现有调用,适合需要灵活调度多种大模型(如 Claude、GPT、开源模型)的生产环境。作为早期项目,其架构轻量,强调本地部署与数据隐私,但生态和文档尚在完善中。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 849

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:进阶 约 10 分钟 部署方式:命令行工具 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Node.js 与 npm(项目通过 npm 分发预编译二进制)
  • 可运行本地命令行程序的系统环境
  • 支持 Anthropic API 格式的客户端或调用代码

安装与启动步骤

  1. 1确认运行环境

    Misceo 通过 npm 分发预编译二进制,先确认本机已有 Node.js 与 npm,避免后续无法安装。

    node --version
    npm --version
  2. 2查看发布说明

    README 未给出具体 npm 包名与安装命令,请以官方发布页和 release 说明为准,不要猜测包名。

  3. 3安装命令行包

    确认包名后再使用 npm 安装;本仓库不含源码,不应尝试从仓库直接构建二进制。

  4. 4启动本地网关

    按官方发布说明启动本地网关;README 未提供启动参数、监听端口和配置文件格式。

  5. 5接入客户端

    使用兼容 Anthropic API 的客户端连接本地网关,验证请求、路由结果与成本统计是否正常。

如何确认成功

按官方说明启动后,用兼容 Anthropic API 的客户端发起请求,能得到响应并查看路由与成本信息。

常见问题

Q:源码在哪里?

A:本仓库仅包含官方文档、issue 与 release;产品以 npm 预编译二进制分发,不包含源码。

Q:为什么没有安装命令?

A:README 未列出具体 npm 包名、启动参数和端口,应以官方发布页与 release 说明为准。

Q:和普通模型路由器有什么区别?

A:Misceo 除生成前路由外,还会检查首个候选结果,质量不达标时可升级到更强模型重新生成。

Q:是否保护多轮对话和工具调用?

A:项目强调会话连续性、跨模型 transcript 兼容,以及活动工具循环的归属管理。

Q:能否只用低成本模型?

A:可采用便宜优先策略,但遇到空结果、格式错误或质量不足时不会自动恢复。

注意事项

  • 本仓库不含源码,不能按常规源码项目 clone 后构建。
  • README 未提供 npm 包名、端口、配置文件与启动命令,本教程不虚构这些参数。
  • 本地网关会接触模型密钥与对话内容,注意访问权限和日志脱敏。
  • 早期项目用于生产前,建议先小流量验证并准备回滚方案。

核心亮点

  • 便宜优先路由:自动选择低成本模型,显著降低 API 费用
  • 质量门控机制:在低成本模型输出不达标时自动升级到更强模型,保障结果质量
  • 安全模型切换:支持对话上下文的平滑迁移,避免多模型切换时的中断或数据丢失

不足之处

  • 早期项目,文档和社区支持尚不完善
  • 仅兼容 Anthropic API,对 OpenAI 等生态的适配需额外开发

适用场景

  • 生产环境多模型调度:在保证响应质量的前提下,自动选择性价比最高的模型
  • 成本敏感型应用:如创业公司或内部工具,需要精细控制 AI 调用预算
  • 本地化部署需求:数据隐私要求高,需在本地网关统一管理模型路由

替代项目

LiteLLM、OpenRouter、Kong AI Gateway

上一篇:LMeterX

下一篇:nyro

同类项目推荐

Reach 开源

一个开源应用搞定 SSH、SFTP、隧道和自动化运维

A modern, cross-platform SSH client and remote server management tool. Tabbed termin···

★ 129 2026-10-22
mlops-templates 开源

把机器学习模型快速、标准化地部署到 Azure 生产环境

Azure MLOps (v2) solution accelerators. Enterprise ready templates to deploy your ma···

★ 144 2026-08-09
midjourney-proxy 开源

把 Midjourney 变成 API,一行代码接入 AI 绘图

The world's most complete open-source Midjourney API — Discord, YouChuan and the of···

★ 830 2026-08-09
pymilo 开源

统一序列化 ML 模型,跨框架安全保存与加载

PyMilo: Python for ML I/O

★ 170 2026-08-09
ChatGPTReversed 开源

免费逆向 ChatGPT 网页版,一键转成标准 API 调用

Free ChatGPT API reversed and simplified

★ 86 2026-08-09
openinference 开源

给 AI 应用装上标准监控,一键追踪 LLM 调用全链路

OpenTelemetry Instrumentation for AI Observability

★ 1308 2026-08-09
sdk 开源

给生产级 ML 装个元数据仓库,让模型资产可追踪、可复现。

Metadata store for Production ML

★ 87 2026-08-09
TurboLLM 开源

一条命令把 Claude Code 接到自己显卡上跑

Run any local LLM engine, auto-tuned to your GPU — polished web UI + OpenAI/Anthrop···

★ 290 2026-09-16
aimirror 开源

AI 模型下载提速 200 倍,告别漫长等待

200倍速!AI时代的下载神器 | Docker/PyPI/HuggingFace/CRAN 全加速 | 并行分片+智能缓存,···

★ 218 2026-08-09