LocalAGI

环境要求

• Docker 与 Docker Compose 环境
• 可选：NVIDIA / Intel / AMD 显卡及对应驱动（无 GPU 也可用 CPU 运行）
• 支持现代浏览器（用于访问 Web UI）

安装与启动步骤

1. 1获取项目代码

   把仓库拉到本地并进入目录，后续 docker compose 命令都在此目录执行。

   git clone https://github.com/mudler/LocalAGI.git
   cd LocalAGI

   复制

2. 2CPU 模式启动

   没有独显或只想快速体验时用默认配置，直接拉起全部容器。

   docker compose up

   复制

3. 3GPU 模式启动

   按显卡三选一：NVIDIA / Intel Arc 与核显 / AMD，文件名不可写错。

   docker compose -f docker-compose.nvidia.yaml up
   docker compose -f docker-compose.intel.yaml up
   docker compose -f docker-compose.amd.yaml up

   复制

4. 4自定义模型启动

   在启动命令前加环境变量，可替换主模型、多模态模型和图像模型。

   MODEL_NAME=gemma-3-12b-it 
   MULTIMODAL_MODEL=moondream2-20250414 
   IMAGE_MODEL=flux.1-dev-ggml 
   docker compose -f docker-compose.nvidia.yaml up

   复制

5. 5打开 Web UI

   容器启动后在浏览器访问 8080 端口，可在此创建和管理 Agent。

6. 6查看 Agent 配置接口

   API 服务跑在 3000 端口，可读取可用配置字段及其类型说明。

   curl -X GET "http://localhost:3000/api/meta/agent/config"

   复制

关键配置

如何确认成功

浏览器打开 http://localhost:8080 能看到 Agent 管理界面，即表示服务启动成功。

常见问题

注意事项

• 数据与推理全程在本地进行，不依赖云服务密钥，适合隐私敏感场景。
• Intel/AMD/NVIDIA 三种 GPU 配置分别对应不同 compose 文件，不要混用。
• 自定义 Go action 需放到 LOCALAGI_CUSTOM_ACTIONS_DIR 目录，每个文件要实现 Run、Definition、RequiredFields 三个函数。
• Telegram 集成默认开启流式回复（streaming 为 true），设为 false 可关闭预览。