lanarky

快速搭建 LLM 微服务，支持流式响应，现已废弃。

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署基础设施 🍴 复刻 76 🐛 待处理 10 👀 关注 14 ⚠️ 作者已归档（停止维护）

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 986

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，MIT许可证，完全免费，无付费版本。

项目预览

项目数据

分类基础设施

开发团队ajndkr

官网地址https://lanarky.ajndkr.com

GitHubhttps://github.com/ajndkr/lanarky

定价模式🏷️完全免费

价格说明开源项目，MIT许可证，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Python

技术栈/模型deprecated-repo,fastapi,llmops,microservices,python3,web

GitHub 星标★ 986

上线时间2023-04-07 00:00:00

代码更新2024-07-06

仓库体积23.4 MB

本站数据更新2026-11-10

维护状态低维护

收录时间2026-08-09

浏览次数11

项目介绍

lanarky 是一个面向 LLM 微服务的 Python Web 框架，现已标记为废弃。它旨在简化基于大语言模型的应用开发，提供流式响应、中间件、插件等能力，帮助开发者快速构建和部署 LLM 微服务。项目解决了 LLM 应用开发中常见的流式传输、请求处理和服务集成问题，核心能力包括与 FastAPI 的集成、对 OpenAI 等模型的调用封装，以及可扩展的插件系统。尽管项目已停止维护，但其设计思路对理解 LLM 微服务架构仍有参考价值。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 986

技术标签

fastapi llmops microservices python3 web

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：进阶约 10 分钟部署方式：本地 (Python) 3 步

安装与启动步骤

1安装

pip install lanarky

2编写微服务

创建 Python 文件，导入 Lanarky 与 OpenAI 适配器，定义路由：

from lanarky import Lanarky
from lanarky.adapters.openai.resources import ChatCompletionResource
from lanarky.adapters.openai.routing import OpenAIAPIRouter

app = Lanarky()
router = OpenAIAPIRouter()

@router.post("/chat")
def chat(stream: bool = True) -> ChatCompletionResource:
    return ChatCompletionResource(stream=stream, system="You are a helpful assistant")

app.include_router(router)