llms
配好密钥就能跑的 LLM 聊天前后端一体工具
llms 是一个用 JavaScript 实现的 LLM 客户端、服务端 API 与 UI 一体化工具。它把调用大模型所需的常见环节打包在一起：前端提供可直接使用的对话界面，后端暴露统一的 API 接口，客户端负责与各家模型服务通信。项目目标是让开发者不必从零搭建聊天应用，只需配置模型密钥即可获得可运行的对话产品，同时方便把 LLM 能力接入已有系统。核心能力包括多模型接入、请求转发与统一封装、会话界面展示，以及可作为 API 网关供其他应用调用。适合想快速验证 LLM 应用、搭建内部助手或做原型演示的团队，降低从模型到可用产品之间的工程成本。
开源
free
基础设施
GitHub 星标
★ 628
维护状态
较活跃
是否开源
是
定价模式
free
项目数据
分类基础设施
开发团队ServiceStack
所属国家
定价模式free
价格说明开源免费，无在线服务，需自行部署
访问状态
是否开源是
开源协议BSD-3-Clause
主要语言JavaScript
技术栈/模型
GitHub 星标★ 628
30天Star增速
HF 下载量
上线时间2025-09-23 00:00:00
最近更新2026-09-12 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-16
浏览次数0
使用教程
核心亮点
- 前后端与 UI 一体，省去分别搭建客户端、API 和界面的工作量
- JavaScript 技术栈，前端与 Node 开发者上手成本低
- 提供统一 API 层，便于把模型能力接入已有系统或做网关
不足之处
- 星标仅 628，属于早期项目，生态与文档成熟度有限
- 功能相对基础，复杂编排、权限与生产级运维能力待观察
适用场景
- 快速搭建内部 LLM 聊天助手原型
- 作为统一 API 网关转发多家模型请求
- 给已有 Web 应用嵌入对话界面
替代项目
LibreChat、Open WebUI
项目介绍
上一篇：KsanaLLM
下一篇：vLLM-metax
同类项目推荐
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
OpenAI-compatible gateway for FreeBuff coding models. Token pool, session lifecycle,···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···