lemonade

一键在本地 GPU/NPU 上跑优化大模型，数据不出门

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 560 🐛 待处理 625 👀 关注 33

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 6158

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0许可，可免费自部署使用，无在线服务。

项目预览

项目数据

分类开源模型

开发团队lemonade-sdk

官网地址https://lemonade-server.ai

GitHubhttps://github.com/lemonade-sdk/lemonade

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0许可，可免费自部署使用，无在线服务。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言C++

技术栈/模型ai,amd,genai,gpu,llama,llm,llm-inference,local-server,mcp,mcp-server,mistral,npu,onnxruntime,openai-api,qwen,radeon,rocm,ryzen,vulkan

GitHub 星标★ 6158

上线时间2025-05-15 00:00:00

代码更新2026-11-09

仓库体积163.2 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数6

项目介绍

Lemonade 是一个面向本地 AI 应用的开源推理引擎，旨在让用户直接在自己的 GPU 和 NPU 上运行优化后的大语言模型。它解决了云端 AI 带来的隐私、延迟和成本问题，让 AI 能力完全本地化。项目提供模型发现、下载和高效推理的一站式体验，核心能力包括对多种硬件架构的适配与性能优化，支持从模型仓库快速部署到本地环境。通过简洁的命令行或 API，开发者可以轻松集成并运行各类 LLM，实现数据不出本机的安全 AI 应用。项目社区活跃，提供 Discord 支持，适合个人开发者、隐私敏感型企业以及边缘计算场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 6158

技术标签

ai amd genai gpu llama

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：入门约 10 分钟部署方式：本地安装 7 步

环境要求

Windows：可下载并安装最新 Release 的 lemonade.msi
Linux / macOS：从 GitHub Releases 页面获取对应平台安装包
（可选）Docker 环境，用于容器化部署
硬件后端需匹配：CPU、Apple Silicon GPU(metal)、NVIDIA GPU(cuda，Turing 或更新)、AMD GPU(vulkan/

安装与启动步骤

1选择安装方式

README 提供 Windows MSI、Linux、macOS、Docker、源码五种入口，先按自己的系统选一种。
2安装 Lemonade Server

Windows 下载 lemonade.msi 双击安装；Linux/macOS 到 Releases 页下载对应安装包。
3Docker 方式安装

需要容器化部署时，按官方 Docker 安装文档执行，勿自行改动镜像参数。
4源码构建

想自行编译时参考仓库内 docs/dev/getting-started.md 的说明进行构建。
5下载模型

使用 Model Manager 浏览并下载所需模型，模型保存在本机供推理调用。
6本地生成测试

使用内置的聊天、图像生成、语音生成界面试跑模型，确认推理链路正常。
7接入常用应用

通过标准 OpenAI、Anthropic、Ollama API 把服务接入 Claude Code、Open WebUI 等应用。