dalai

一条命令本地跑 LLaMA，无需折腾环境

dalai 是一个让普通用户能一键在本地运行 LLaMA 大语言模型的工具，旨在解决 LLaMA 模型部署门槛高、依赖复杂的问题。它通过简单的命令行界面，自动完成模型下载、环境配置和推理服务启动，用户无需手动处理 Python 依赖、模型权重转换等繁琐步骤。核心能力包括跨平台支持（macOS、Linux、Windows）、多模型管理（支持不同尺寸的 LLaMA 变体）、以及提供 Web 聊天界面和 API 接口，方便开发者集成。项目采用 Node.js 编写，利用原生编译优化推理性能，适合个人电脑上离线体验大模型。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 12892

维护状态低维护

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队cocktailpeanut

所属国家

官网地址https://cocktailpeanut.github.io/dalai

GitHubhttps://github.com/cocktailpeanut/dalai

定价模式free

价格说明开源项目，本地部署运行LLaMA，完全免费

访问状态

是否开源是

开源协议

主要语言CSS

技术栈/模型ai,llama,llm

GitHub 星标★ 12892

30天Star增速

HF 下载量

上线时间2023-03-12 00:00:00

最近更新2026-09-21 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数3

使用教程

难度：进阶约 30 分钟部署方式：命令行工具 7 步

环境要求

Node.js >= 18
Docker（使用 Docker Compose 方式时需要，且需已启动）
macOS 用户需安装 Homebrew、cmake、pkg-config
Windows 用户需安装 Visual Studio 并勾选 Python、Node.js、C++ 桌面开发三项
内存建议：7B 约 4GB、13B 约 8GB、30B 约 16GB、65B 约 32GB

安装与启动步骤

1安装 Node.js

确保本机已安装 Node.js 18 或更高版本，dalai 通过 npx 运行，版本过低会失败。
2安装 Homebrew(macOS)

macOS 用户若未安装 Homebrew，先执行此命令安装；已安装可跳过。
```
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
```
3安装编译依赖(macOS)

macOS 上安装 cmake 和 pkg-config，用于编译推理引擎。
```
brew install cmake
brew install pkg-config
```
4安装 Visual Studio(Win

Windows 用户需从官网下载安装 Visual Studio，安装时勾选 Python 开发、Node.js 开发、使用 C++ 的桌面开发。
5下载模型

下载 alpaca 或 llama 模型，7B 为示例尺寸，也可换成其他尺寸；Windows 必须在 cmd 中执行，不要用 PowerShell。
```
npx dalai alpaca install 7B
```
6启动 Web UI

启动本地服务后在浏览器打开 http://localhost:3000 即可聊天；Windows 同样需在 cmd 中运行。
```
npx dalai serve
```
7Docker Compose 方式

已安装并运行 Docker 的用户可改用此方式，模型会保存在当前目录的 ./models 文件夹。
```
docker compose build
docker compose run dalai npx dalai alpaca install 7B
docker compose up -d
```

关键配置

配置项	必填	说明	示例
`--home`	否	指定模型安装的自定义目录	`npx dalai llama install 7B --home ~/test_dir`

如何确认成功

浏览器打开 http://localhost:3000 或 http://127.0.0.1:3000 能看到聊天界面并能正常对话。

常见问题

Q：Windows 上命令执行没有反应或失败？

A：必须在 cmd 中运行，不要使用 PowerShell，PowerShell 权限限制会导致脚本静默失败。

Q：支持哪些模型引擎？

A：目前支持 llama 和 alpaca 两种引擎，alpaca 提供 7B 和 13B 模型。

Q：安装模型需要多少磁盘空间？

A：Alpaca 模型已量化压缩，7B 模型约需 4.21GB 磁盘空间。

Q：macOS 安装依赖报错怎么办？

A：确认已安装 Homebrew，并执行 brew install cmake 与 brew install pkg-config 后重试。

注意事项

Windows 用户所有命令都应在 cmd 中执行，PowerShell 会因权限过严导致脚本静默失败。
使用 Docker 方式时模型保存在 ./models 目录，可通过挂载卷持久化。
模型尺寸越大对内存要求越高，请对照内存需求表选择合适模型。
README 中仅给出 alpaca 7B 的完整安装命令，其他尺寸与 llama 命令请按同样格式自行替换。

核心亮点

安装极简，一条命令自动下载模型并启动服务
内置 Web 聊天界面，开箱即用
支持多种 LLaMA 模型尺寸，灵活选择

不足之处

文档/社区待观察
项目已停止维护，依赖可能过时

适用场景

个人开发者本地快速体验 LLaMA 对话
教学演示大模型基本原理
离线环境下的轻量级推理需求

替代项目

llama.cpp、Ollama、LM Studio

项目介绍

dalai 是开源模型领域的开源项目，由 cocktailpeanut 开发，2023 年首次发布。

在全站 13,014 个收录项目中，它的 GitHub 星标数（12,892）位列前 4%，在开源模型分类的 422 个项目里位列前 5%。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。本地部署运行LLaMA，完全免费。

它主要面向的使用场景是：个人开发者本地快速体验LLaMA对话。同类可对比的替代方案包括 llama.cpp、Ollama、LM Studio。

上一篇：Halfrost-Field

下一篇：open-llms