
LocalAGI
本地跑 AI 智能体,兼容 OpenAI 接口,数据不出门
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-10-08 · 当前星标 ★ 2016
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Docker 与 Docker Compose 环境
- 可选:NVIDIA / Intel / AMD 显卡及对应驱动(无 GPU 也可用 CPU 运行)
- 支持现代浏览器(用于访问 Web UI)
安装与启动步骤
-
1获取项目代码
把仓库拉到本地并进入目录,后续 docker compose 命令都在此目录执行。
git clone https://github.com/mudler/LocalAGI.git cd LocalAGI -
2CPU 模式启动
没有独显或只想快速体验时用默认配置,直接拉起全部容器。
docker compose up -
3GPU 模式启动
按显卡三选一:NVIDIA / Intel Arc 与核显 / AMD,文件名不可写错。
docker compose -f docker-compose.nvidia.yaml up docker compose -f docker-compose.intel.yaml up docker compose -f docker-compose.amd.yaml up -
4自定义模型启动
在启动命令前加环境变量,可替换主模型、多模态模型和图像模型。
MODEL_NAME=gemma-3-12b-it \ MULTIMODAL_MODEL=moondream2-20250414 \ IMAGE_MODEL=flux.1-dev-ggml \ docker compose -f docker-compose.nvidia.yaml up -
5打开 Web UI
容器启动后在浏览器访问 8080 端口,可在此创建和管理 Agent。
-
6查看 Agent 配置接口
API 服务跑在 3000 端口,可读取可用配置字段及其类型说明。
curl -X GET "http://localhost:3000/api/meta/agent/config"
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
LOCALAGI_MODEL | 否 | 指定 Agent 默认使用的主模型 | gemma-3-12b-it |
LOCALAGI_MULTIMODAL_MODEL | 否 | 可选的多模态能力模型 | moondream2-20250414 |
LOCALAGI_LLM_API_URL | 否 | OpenAI 兼容的推理服务地址 | http://localhost:11434/v1 |
LOCALAGI_LLM_API_KEY | 否 | 调用推理接口所需的鉴权密钥 | sk-xxxxxxxx |
LOCALAGI_STATE_DIR | 否 | 状态与技能(skills 子目录)的存储位置 | /pool |
LOCALAGI_API_KEYS | 否 | 对外开放 API 的鉴权密钥列表,逗号分隔 | sk-aaa,sk-bbb |
如何确认成功
浏览器打开 http://localhost:8080 能看到 Agent 管理界面,即表示服务启动成功。
常见问题
Q:没有显卡能跑吗?
A:可以。默认的 docker compose up 就是 CPU 模式,只是推理速度会慢一些。
Q:怎么换成别的模型?
A:启动时通过 MODEL_NAME 环境变量传入模型名,或修改 compose 文件中 localagi 容器的 LOCALAGI_MODEL。
Q:Web 界面和 API 分别在哪个端口?
A:Web UI 是 8080;API 默认监听 3000(由 LOCALAGI_BASE_URL 控制,默认 ":3000")。
Q:环境变量改了为什么不生效?
A:这些变量必须写在 docker-compose 文件中 localagi 这个容器下(或用启动命令前置),写在别处不会起作用。
Q:启动失败怎么办?
A:README 提供了排障视频 https://youtu.be/HtVwIxW3ePg ,可对照检查显卡驱动与 compose 文件选择。
注意事项
- 数据与推理全程在本地进行,不依赖云服务密钥,适合隐私敏感场景。
- Intel/AMD/NVIDIA 三种 GPU 配置分别对应不同 compose 文件,不要混用。
- 自定义 Go action 需放到 LOCALAGI_CUSTOM_ACTIONS_DIR 目录,每个文件要实现 Run、Definition、RequiredFields 三个函数。
- Telegram 集成默认开启流式回复(streaming 为 true),设为 false 可关闭预览。
核心亮点
- 兼容 OpenAI Responses API,现有应用可低成本迁移到本地
- Go 编写,单二进制部署轻量,适合消费级 CPU/GPU 本地运行
- 强调隐私与自托管,数据完全不出本地,适合敏感场景
不足之处
- 本地模型能力受硬件限制,复杂任务效果与云端大模型仍有差距
- 项目星标约 2000,生态与文档完善度待观察
适用场景
- 企业内网搭建私有 AI 助手,处理敏感业务数据
- 个人在笔记本或家用主机上离线运行智能体做自动化任务
- 开发者用本地环境替代 OpenAI API 做调试与成本控制
替代项目
Ollama、LocalAI、Open WebUI
上一篇:trajectory
下一篇:skills
同类项目推荐
loadout
开源
一眼看清编码助手到底加载了哪些技能和 MCP
See and manage what your coding assistants load — skills, commands, subagents, plug···
agent-rules-books
开源
把经典编程书变成 AI 编码规则,提升代码质量
AGENTS.md rules / skills for AI coding agents: Codex, Cursor & Claude Code. Inspired···
PokeClaw
开源
手机本地 AI 管家,离线自动操作 Android,无需云端密钥
PokeClaw (PocketClaw) — first on-device AI that controls your Android phone. Gemma ···
turbo-flow
开源
一键部署多智能体集群,云端开发自动化提速
The rules layer for AI-written code — rig-lite: a fail-closed cross-model review ga···
spacebot
开源
把 AI 智能体接入团队群聊,多人各自对话不串线
An AI agent for teams, communities, and multi-user environments.
Everywhere
开源
看屏懂你,跨应用自动干活
On-screen aware AI assistant for your desktop. Uses current app context, multiple LL···
forkprobe
开源
同任务对比多个AI技能,快速选出最优解
Compare multiple skills on the same task and pick the winner.
ClawMem
开源
给 AI 智能体装上本地记忆,跨会话不忘事。
On-device memory layer for AI agents. Claude Code, OpenClaw and Hermes. Hooks + MCP ···
Vrooli
开源
让一群AI智能体自动协作干活,还能越干越聪明
Open-source, self-improving autonomous agent swarm