项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-23 · 当前星标 ★ 1933
使用教程
环境要求
- Windows、Linux 或 macOS 桌面系统
- 已安装现代网页浏览器(用于访问本地界面 http://localhost:1420)
- 首次运行需联网下载便携 Node.js 运行时与 GPU/CPU 后端二进制
- macOS 仅支持 Apple Silicon(M1 及以上),Intel 机型完全不支持
- 预留充足磁盘空间(如 Linux 启用 ROCm 后端约需下载 1.3 GB)
安装与启动步骤
-
1获取项目文件
把仓库克隆到本地,得到一个包含 windows.bat / linux.sh / mac.sh 的项目文件夹。
git clone https://github.com/techjarves/Portable-Local-Studio.git -
2Windows 启动
在项目文件夹中双击 windows.bat。首次运行会自动下载便携 Node.js 运行时并配置预编译的 GPU/CPU 后端二进制,耗时较久属正常。
windows.bat -
3Linux 授权并启动
进入项目文件夹,先给脚本加可执行权限再运行。NVIDIA 用户运行时会提示是否安装高性能 CUDA 后端(预编译下载,失败则从源码编译)。
chmod +x linux.sh ./linux.sh -
4Linux 可选加速后端
AMD Radeon 用户加 --max-perf 启用 ROCm 后端(约 1.3 GB 下载);Intel Core Ultra NPU 用户用 --setup-openvino 配置 NPU(需先装 Intel Linux NPU 驱
./linux.sh --max-perf ./linux.sh --setup-openvino -
5macOS 授权并启动
进入项目文件夹,赋予执行权限后运行。预编译后端针对 Apple Silicon 优化并使用 Metal GPU 加速。
chmod +x mac.sh ./mac.sh -
6放入模型文件
把 .safetensors、.gguf 或 .ckpt 权重放进 app/models/ 目录,也可以在界面里的 Model Manager 标签页在线下载模型。
-
7打开界面生成
用浏览器访问本地地址,在界面中选择模型并输入提示词即可开始生成或对话。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
访问地址 | 是 | 本地 GUI 的浏览器访问入口 | http://localhost:1420 |
模型目录 | 是 | 存放 .safetensors/.gguf/.ckpt 权重文件的目录 | app/models/ |
--max-perf | 否 | Linux 下为 AMD Radeon 启用 ROCm 后端加速,约 1.3 GB 下载 | ./linux.sh --max-perf |
--setup-openvino | 否 | Linux 下配置 Intel Core Ultra NPU 支持,需预装 Intel NPU 驱动 | ./linux.sh --setup-openvino |
如何确认成功
浏览器打开 http://localhost:1420 能正常显示界面,并在 Model Manager 中选择到已放入的模型即启动成功。
常见问题
Q:macOS 的 Intel 机型可以运行吗?
A:不可以。预编译的 macOS 后端仅针对 Apple Silicon(M1 或更新)优化并使用 Metal 加速,README 明确说明 Intel 硬件完全不支持。
Q:Linux 上 AMD 显卡怎么开加速?
A:运行 ./linux.sh --max-perf,会额外下载约 1.3 GB 的 ROCm 后端;NVIDIA 用户则直接在 ./linux.sh 运行时按提示安装 CUDA 后端。
Q:第一次启动为什么很慢?
A:首次运行会自动下载便携 Node.js 运行时并配置预编译的 GPU/CPU 后端二进制,视网络情况需要等待较长时间。
Q:必须联网才能用吗?
A:运行阶段完全离线、无需登录或订阅,但首次运行下载运行时、后端二进制以及获取模型时需要网络。
Q:没有模型文件怎么办?
A:可以自己下载 .safetensors、.gguf 或 .ckpt 权重放入 app/models/,也可以直接在界面的 Model Manager 标签页中下载。
注意事项
- 整个工具是零配置便携式的,脚本、运行时和模型可随目录一起拷贝到移动硬盘或 U 盘携带使用。
- 访问界面必须使用现代浏览器,本地地址端口固定为 1420。
- NVIDIA、AMD、Intel NPU 的加速后端需要按平台单独启用,未启用时回退到 CPU 后端。
- Intel NPU 支持依赖系统已安装 Intel Linux NPU 驱动,缺失时 OpenVINO 后端无法生效。
核心亮点
- 四类 AI 能力(图像、LLM、TTS、STT)统一在一个 GUI 内,省去分别部署多套工具链
- 便携设计,模型与运行时随包分发,可放移动硬盘跨机器使用,不污染系统环境
- 支持 GGUF 格式,兼容 llama.cpp 生态的量化模型,对消费级硬件友好
不足之处
- JavaScript 技术栈在本地推理场景下性能上限有限,重度任务仍依赖后端二进制
- 项目星标约 1.4k,生态和插件扩展性相比 ComfyUI 等成熟项目还有差距
适用场景
- 在无管理员权限的办公电脑上快速体验本地大模型对话
- 内容创作者用同一工具完成配图生成、文案生成和配音朗读
- 需要离线处理敏感语音转写、又不想上传云端的隐私场景
替代项目
ComfyUI、LM Studio、Ollama
同类项目推荐
polyaxon
开源
一站式管理AI实验、训练与部署,让团队协作更高效。
AI Infra / AI Orchestration / AI Control Plane
sagemaker-python-sdk
开源
几行 Python 把模型训练部署到 AWS 云端
A library for training and deploying machine learning models on Amazon SageMaker
nvidia_gpu_exporter
开源
一条命令把 NVIDIA GPU 监控接入 Prometheus,实时掌握显卡状态。
Nvidia GPU exporter for prometheus using nvidia-smi binary OR using NVML
openlit
开源
一键接入,全栈监控你的 LLM 应用,从开发到生产。
Same agent Smaller bill. The tools and infrastructure to get more work from your AI.···
rivet
开源
给 AI 智能体和协作应用装上持久记忆与实时状态
The orchestrator for agentic workloads. A fast, high-density and scalable orchestrat···
picolm
开源
在 10 美元开发板上跑 10 亿参数大模型,边缘 AI 也能玩转。
Run a 1-billion parameter LLM on a $10 board with 256MB RAM
mesh-api
开源
让 LoRa 设备接入 AI 和 API,无网也能智能通信
MESH-API — Off-Grid AI & API Router & with MCP server & over 30 API extensions for···
feathub
开源
一套特征定义,流批通吃,实时上线不求人
FeatHub - A stream-batch unified feature store for real-time machine learning
redis-llm
开源
用 Redis 给 LLM 装个长期记忆,轻松访问私有数据
redis-llm integrates LLM with Redis. It can help LLM to access private data, and rem···
