ReadyLLM

图形界面一键部署本地大模型,还能顺手跑图生视频

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 11 🐛 待处理 2
GitHub ↗
GitHub 星标 ★ 101
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,需自行部署

项目预览

ReadyLLM 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队htobty
定价模式🏷️完全免费
价格说明开源免费,需自行部署
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型comfyui,fastapi,gguf,inference-optimization,llama-cpp,llm,llm-inference,llm-serving,local-llm,model-deployment,quantization,react,self-hosted,sglang,speculative-decoding,vllm
GitHub 星标★ 101
上线时间2026-08-31 00:00:00
代码更新2026-11-06
仓库体积3.8 MB
本站数据更新2026-11-20
维护状态较活跃
收录时间2026-10-06
浏览次数2

项目介绍

ReadyLLM 是一个面向本地大模型部署与运维的可视化基础设施工具。它把模型下载、量化、推理服务启动、运行监控和参数调优整合到一个图形界面中,底层基于 llama.cpp 和 GGUF 格式,通过 FastAPI 暴露服务接口,让不熟悉命令行的用户也能在本地跑起 LLM。除了文本模型,它还借助 ComfyUI 支持图像和视频生成,相当于把 LLM 推理和 AIGC 生成统一到一个控制台里。核心能力包括:一键部署本地模型、实时查看推理性能、调整量化与推理参数,以及在同一界面管理生成式任务。适合想在本地或私有环境快速搭建 LLM 服务、又不想深陷配置细节的开发者与团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-06 · 当前星标 ★ 101

核心亮点

  • 把模型部署、监控、调参收进一个可视化界面,降低本地 LLM 上手门槛
  • 基于 llama.cpp + GGUF,对量化模型和消费级硬件友好
  • 集成 ComfyUI,文本推理和图像/视频生成共用一套控制台

不足之处

  • 项目处于早期,星标仅 106,功能稳定性和文档完善度待观察
  • 依赖 ComfyUI 等外部组件,环境配置可能仍有一定复杂度

适用场景

  • 个人开发者在本地电脑快速部署和试用开源 LLM
  • 小团队在私有服务器上搭建带监控的模型推理服务
  • 需要同时做文本生成和图像/视频生成的 AIGC 实验环境

替代项目

Ollama、LocalAI

上一篇:claude-code-local

下一篇:gemini-web2api-go

同类项目推荐

chats 开源

一套接口接入21+大模型,聊天与网关开箱即用

A powerful and flexible frontend & AI gateway for large language models, supporting ···

★ 621 2026-09-15
WaLiAPI 开源

把多家大模型渠道收进本地网关,一个地址喂给所有 AI 编程工具

WaLiAPI 是一款本地运行的 LLM API 网关桌面软件(Tauri 2 + React + Rust)。支持各类 LL···

★ 170 2026-10-02
beneath 开源

免运维的实时数据管道,一键接入,秒级查询。

Beneath is a serverless real-time data platform ⚡️

★ 84 2026-08-09
hongbomiao.com 开源

把个人研发实验变成可分享的知识库

A personal research and development (R&D) lab that facilitates the sharing of knowle···

★ 299 2026-08-09
gpu-telemetry 开源

一个代理,让每块 GPU 的消耗都精确到 Pod 或作业

GPU Observability with workload attribution. One OTLP agent per node ties hardware m···

★ 78 2026-08-09
llm-sandbox 开源

给 LLM 一个安全的代码沙箱,跑 AI 生成的代码不翻车

Lightweight and portable LLM sandbox runtime (code interpreter) Python library.

★ 1144 2026-08-09
toolport 开源

一个端口管所有 AI 工具,省 token 又安全

Local-first MCP gateway. Set up MCP servers once and use them in every AI client, wi···

★ 242 2026-08-09
gateway 开源

一个 API 接入 1600+ 模型,内置安全护栏,AI 应用开发提速。

A blazing fast AI Gateway with integrated guardrails. Route to 1,600+ LLMs, 50+ AI G···

★ 13424 2026-08-09
vpscheck 开源

一键检测 VPS 解锁和性能,买前扫雷买后安心

️ VPS全能检测脚本,一键检测Netflix/Disney+/ChatGPT/Gemini等流媒体和AI服务解锁情况,···

★ 83 2026-08-09