flama

一行命令把模型变成 API，自带聊天界面和 MCP 支持

flama 是一个面向预测式与生成式 AI 的生产级框架，旨在让开发者以极简方式将任意模型快速部署为 API。它解决了模型服务化过程中配置复杂、接口不统一、缺乏交互界面等痛点，核心能力包括：一行命令启动模型服务，自动生成兼容 OpenAI、Anthropic、Ollama 的 API 端点，内置可用的聊天界面，并原生支持 MCP（模型上下文协议），方便与外部工具集成。基于 Python 和 ASGI 构建，采用领域驱动设计，兼顾灵活性与可扩展性，适用于从原型验证到生产部署的多种场景。

开源 unknown 对话助手

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 296

维护状态活跃

是否开源是

定价模式 unknown

项目数据

分类对话助手

开发团队vortico

所属国家

官网地址https://flama.dev

GitHubhttps://github.com/vortico/flama

定价模式unknown

价格说明定价信息待确认

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型anthropic,asgi,chatbot,domain-driven-design,generative-ai,inference,llm,llm-serving,machine-learning,mcp,mlops,mlx,model-context-protocol,model-serving,ollama,openai-api,python,rust,vllm,web-framework

GitHub 星标★ 296

30天Star增速

HF 下载量

上线时间2018-09-27 00:00:00

最近更新2026-09-24 00:00:00

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数4

使用教程

核心亮点

一行命令即可将任意模型部署为 API，显著降低服务化门槛
同时兼容 OpenAI、Anthropic、Ollama 端点，迁移成本低
内置聊天 UI，开箱即用，便于快速演示和调试

不足之处

项目处于早期阶段（星标不足300），生态和文档可能尚不完善
文档/社区待观察

适用场景

快速将 Hugging Face 模型封装为内部 API 供团队调用
搭建兼容 OpenAI 接口的本地模型网关，替换第三方服务
开发需要 MCP 工具调用的智能体应用，快速提供模型后端

替代项目

vLLM、Triton Inference Server、Ray Serve

项目介绍

flama 是基础设施领域的开源项目，由 vortico 开发，2018 年首次发布。

它收录于基础设施分类，该分类目前共有 1,132 个项目，GitHub 星标数为 296。

项目目前处于活跃维护状态，最近一次代码更新于 2026-09-24。从国内网络环境看，可直接访问。

它主要面向的使用场景是：快速将HuggingFace模型封装为内部API供团队调用。同类可对比的替代方案包括 vLLM、Triton Inference Server、Ray Serve。

上一篇：FreeQwenApi

下一篇：OpenGPT