LocalAGI

本地跑 AI 智能体,兼容 OpenAI 接口,数据不出门

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 智能体 🍴 复刻 299 🐛 待处理 68 👀 关注 29
GitHub ↗
GitHub 星标 ★ 2016
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,可自行部署

项目预览

LocalAGI 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类智能体
开发团队mudler
定价模式🏷️完全免费
价格说明开源免费,可自行部署
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Go
GitHub 星标★ 2016
上线时间2023-07-27 00:00:00
代码更新2026-11-01
仓库体积7.1 MB
本站数据更新2026-11-22
维护状态较活跃
收录时间2026-10-08
浏览次数6

项目介绍

LocalAGI 是一个用 Go 编写的可自托管 AI 智能体平台,目标是在消费级硬件(CPU 或 GPU)上本地运行完整的智能体能力,不依赖云服务,从而最大程度保护隐私与数据自主权。它同时兼容 OpenAI Responses API,可作为其直接替代品,让已有调用 OpenAI 接口的应用无需大改即可切换到本地模型。核心能力包括智能体编排、工具调用、多步任务执行、状态管理与对话记忆,并支持接入本地推理后端。适合对数据外泄敏感、希望离线运行、或想低成本搭建私有 AI 助手的个人与团队。项目语言为 Go,部署轻量,社区处于成长阶段。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-08 · 当前星标 ★ 2016

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 10 分钟 部署方式:Docker 6 步

环境要求

  • Docker 与 Docker Compose 环境
  • 可选:NVIDIA / Intel / AMD 显卡及对应驱动(无 GPU 也可用 CPU 运行)
  • 支持现代浏览器(用于访问 Web UI)

安装与启动步骤

  1. 1获取项目代码

    把仓库拉到本地并进入目录,后续 docker compose 命令都在此目录执行。

    git clone https://github.com/mudler/LocalAGI.git
    cd LocalAGI
  2. 2CPU 模式启动

    没有独显或只想快速体验时用默认配置,直接拉起全部容器。

    docker compose up
  3. 3GPU 模式启动

    按显卡三选一:NVIDIA / Intel Arc 与核显 / AMD,文件名不可写错。

    docker compose -f docker-compose.nvidia.yaml up
    docker compose -f docker-compose.intel.yaml up
    docker compose -f docker-compose.amd.yaml up
  4. 4自定义模型启动

    在启动命令前加环境变量,可替换主模型、多模态模型和图像模型。

    MODEL_NAME=gemma-3-12b-it \
    MULTIMODAL_MODEL=moondream2-20250414 \
    IMAGE_MODEL=flux.1-dev-ggml \
    docker compose -f docker-compose.nvidia.yaml up
  5. 5打开 Web UI

    容器启动后在浏览器访问 8080 端口,可在此创建和管理 Agent。

  6. 6查看 Agent 配置接口

    API 服务跑在 3000 端口,可读取可用配置字段及其类型说明。

    curl -X GET "http://localhost:3000/api/meta/agent/config"

关键配置

配置项必填说明示例
LOCALAGI_MODEL否指定 Agent 默认使用的主模型gemma-3-12b-it
LOCALAGI_MULTIMODAL_MODEL否可选的多模态能力模型moondream2-20250414
LOCALAGI_LLM_API_URL否OpenAI 兼容的推理服务地址http://localhost:11434/v1
LOCALAGI_LLM_API_KEY否调用推理接口所需的鉴权密钥sk-xxxxxxxx
LOCALAGI_STATE_DIR否状态与技能(skills 子目录)的存储位置/pool
LOCALAGI_API_KEYS否对外开放 API 的鉴权密钥列表,逗号分隔sk-aaa,sk-bbb

如何确认成功

浏览器打开 http://localhost:8080 能看到 Agent 管理界面,即表示服务启动成功。

常见问题

Q:没有显卡能跑吗?

A:可以。默认的 docker compose up 就是 CPU 模式,只是推理速度会慢一些。

Q:怎么换成别的模型?

A:启动时通过 MODEL_NAME 环境变量传入模型名,或修改 compose 文件中 localagi 容器的 LOCALAGI_MODEL。

Q:Web 界面和 API 分别在哪个端口?

A:Web UI 是 8080;API 默认监听 3000(由 LOCALAGI_BASE_URL 控制,默认 ":3000")。

Q:环境变量改了为什么不生效?

A:这些变量必须写在 docker-compose 文件中 localagi 这个容器下(或用启动命令前置),写在别处不会起作用。

Q:启动失败怎么办?

A:README 提供了排障视频 https://youtu.be/HtVwIxW3ePg ,可对照检查显卡驱动与 compose 文件选择。

注意事项

  • 数据与推理全程在本地进行,不依赖云服务密钥,适合隐私敏感场景。
  • Intel/AMD/NVIDIA 三种 GPU 配置分别对应不同 compose 文件,不要混用。
  • 自定义 Go action 需放到 LOCALAGI_CUSTOM_ACTIONS_DIR 目录,每个文件要实现 Run、Definition、RequiredFields 三个函数。
  • Telegram 集成默认开启流式回复(streaming 为 true),设为 false 可关闭预览。

核心亮点

  • 兼容 OpenAI Responses API,现有应用可低成本迁移到本地
  • Go 编写,单二进制部署轻量,适合消费级 CPU/GPU 本地运行
  • 强调隐私与自托管,数据完全不出本地,适合敏感场景

不足之处

  • 本地模型能力受硬件限制,复杂任务效果与云端大模型仍有差距
  • 项目星标约 2000,生态与文档完善度待观察

适用场景

  • 企业内网搭建私有 AI 助手,处理敏感业务数据
  • 个人在笔记本或家用主机上离线运行智能体做自动化任务
  • 开发者用本地环境替代 OpenAI API 做调试与成本控制

替代项目

Ollama、LocalAI、Open WebUI

上一篇:trajectory

下一篇:skills

同类项目推荐

loadout 开源

一眼看清编码助手到底加载了哪些技能和 MCP

See and manage what your coding assistants load — skills, commands, subagents, plug···

★ 104 2026-11-13
agent-rules-books 开源

把经典编程书变成 AI 编码规则,提升代码质量

AGENTS.md rules / skills for AI coding agents: Codex, Cursor & Claude Code. Inspired···

★ 3325 2026-08-09
PokeClaw 开源

手机本地 AI 管家,离线自动操作 Android,无需云端密钥

PokeClaw (PocketClaw) — first on-device AI that controls your Android phone. Gemma ···

★ 1165 2026-08-09
turbo-flow 开源

一键部署多智能体集群,云端开发自动化提速

The rules layer for AI-written code — rig-lite: a fail-closed cross-model review ga···

★ 186 2026-08-09
spacebot 开源

把 AI 智能体接入团队群聊,多人各自对话不串线

An AI agent for teams, communities, and multi-user environments.

★ 2435 2026-09-12
Everywhere 开源

看屏懂你,跨应用自动干活

On-screen aware AI assistant for your desktop. Uses current app context, multiple LL···

★ 6363 2026-08-09
forkprobe 开源

同任务对比多个AI技能,快速选出最优解

Compare multiple skills on the same task and pick the winner.

★ 74 2026-08-09
ClawMem 开源

给 AI 智能体装上本地记忆,跨会话不忘事。

On-device memory layer for AI agents. Claude Code, OpenClaw and Hermes. Hooks + MCP ···

★ 212 2026-08-09
Vrooli 开源

让一群AI智能体自动协作干活,还能越干越聪明

Open-source, self-improving autonomous agent swarm

★ 56 2026-08-09