lanarky

快速搭建 LLM 微服务,支持流式响应,现已废弃。

lanarky 是一个面向 LLM 微服务的 Python Web 框架,现已标记为废弃。它旨在简化基于大语言模型的应用开发,提供流式响应、中间件、插件等能力,帮助开发者快速构建和部署 LLM 微服务。项目解决了 LLM 应用开发中常见的流式传输、请求处理和服务集成问题,核心能力包括与 FastAPI 的集成、对 OpenAI 等模型的调用封装,以及可扩展的插件系统。尽管项目已停止维护,但其设计思路对理解 LLM 微服务架构仍有参考价值。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 990
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类基础设施
开发团队ajndkr
所属国家
定价模式free
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型deprecated-repo,fastapi,llmops,microservices,python3,web
GitHub 星标★ 990
30天Star增速
HF 下载量
上线时间2023-04-07 00:00:00
最近更新2026-09-01 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数7

使用教程

核心亮点

  • 基于 FastAPI,上手快,生态兼容好
  • 内置流式响应支持,适合实时对话场景
  • 插件化设计,便于扩展自定义功能

不足之处

  • 项目已废弃,不再维护,存在安全与兼容风险
  • 文档和社区支持有限,学习资源少

适用场景

  • 快速原型验证 LLM 微服务架构
  • 构建需要流式输出的聊天机器人后端
  • 教学演示 LLM 服务与 Web 框架集成

替代项目

LangServe、FastAPI + LangChain、Chainlit

项目介绍

lanarky 是开发框架领域的开源项目,由 ajndkr 开发,2023 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(990)位列前 30%,在开发框架分类中处于中上游。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-01。MIT许可证,完全免费,无付费版本。

它主要面向的使用场景是:快速原型验证LLM微服务架构。同类可对比的替代方案包括 LangServe、FastAPI + LangChain、Chainlit。

上一篇:genai-stack

下一篇:llm-api-starterkit

同类项目推荐

langchain 开源

组装 AI 应用的乐高积木,从想法到上线不换工具

The agent engineering platform.

★ 146874 2026-08-09
transformers 开源

全球最大的模型仓库全家桶,想用的模型一把抓

Transformers: the model-definition framework for state-of-the-art machine learning m···

★ 166529 2026-08-09
pi 开源

一套 TypeScript 工具包,快速搭出能写代码的 AI agent

AI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI

★ 108504 2026-09-12