MasterAgent

设备本地跑 AI 智能体,百毫秒响应不联网

开源 🏷️定价信息待确认 ✅ 目前可打开 智能体 🍴 复刻 37 🐛 待处理 1
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 980
维护状态 维护中
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

MasterAgent 项目界面预览图
图片来源:项目官网

项目数据

分类智能体
开发团队OpenSparX
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态✅ 目前可打开
是否开源是
开源协议Apache-2.0
主要语言C++
技术栈/模型agent-framework,ai-agent,automotive,edge-ai,embedded,iot,llm,npu,on-device,qualcomm
GitHub 星标★ 980
上线时间2026-08-10 00:00:00
代码更新2026-09-28
仓库体积18.6 MB
本站数据更新2026-11-08
维护状态维护中
收录时间2026-09-25
浏览次数8

项目介绍

MasterAgent 是一个用 C++ 编写的端侧 AI 智能体框架,目标是在设备本地完整运行 AI Agent,不依赖云端。它针对高通 NPU 做了深度优化,官方称延迟可低于 100 毫秒,适合对响应速度和隐私要求高的场景。框架内置智能体调度、工具调用和 LLM 推理能力,可部署在嵌入式、IoT、汽车电子等资源受限设备上。相比把请求发往云端的方案,它避免了网络往返、数据外传和持续 API 费用,同时利用 NPU 加速降低 CPU 占用。项目定位偏底层,强调零云依赖和实时性,适合需要在本地完成感知、决策与执行的边缘智能应用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-25 · 当前星标 ★ 980

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:进阶 约 20 分钟 部署方式:本地安装 7 步

环境要求

  • 已安装 git、CMake 和 C++ 编译器(需支持 Release 构建)
  • 系统有 make 及 nproc 等多核构建工具(Linux 环境)
  • 可选:Node.js/npm,用于安装 @sparx/cli 命令行工具
  • 可选:llama.cpp(llama-server)与 GGUF 模型文件,用于本地推理

安装与启动步骤

  1. 1克隆仓库

    从 GitHub 拉取 MasterAgent 源码并进入项目目录,后续编译都在此目录进行。

    git clone https://github.com/OpenSparX/MasterAgent.git && cd MasterAgent
  2. 2编译项目

    用 CMake 生成 Release 构建目录并多核编译,产出 build 下的可执行文件与测试。

    cmake -B build -DCMAKE_BUILD_TYPE=Release && cmake --build build -j$(nproc)
  3. 3运行测试

    执行编译好的测试套件,含 speculative、CRDT、Merkle、embedding 等战略特性。

    ctest --test-dir build --output-on-failure
  4. 4确定性模式跑评测

    不装模型也能用:确定性技能照常工作,可先跑全部评测脚本验证环境。

    cd MasterAgent && ./eval/run_all.sh
  5. 5安装 npm CLI

    可选,官方另一种快速体验方式,全局安装 @sparx/cli 后直接运行 sparx run。

    npm install -g @sparx/cli
    sparx run
  6. 6启动本地模型

    可选,先单独安装 llama.cpp,再加载 GGUF 模型并监听 8080 端口作为推理后端。

    llama-server -m your-model.gguf --port 8080
  7. 7连接模型运行 CLI

    把编译出的 sparx CLI 指向本地 llama-server 的 127.0.0.1:8080 端点进行推理。

    ./build/cli/sparx run --endpoint 127.0.0.1:8080

关键配置

配置项必填说明示例
--endpoint否指定推理后端地址,不填则走确定性技能路线127.0.0.1:8080
-m否llama-server 加载的 GGUF 模型文件路径your-model.gguf
--port否llama-server 监听端口,需与 CLI 的 endpoint 一致8080
-DCMAKE_BUILD_TYPE否CMake 构建类型,Release 可获得更好性能Release

如何确认成功

执行 ctest 后终端显示 “100% tests passed, 0 tests failed out of 5”;或 sparx run 输出 route=deterministic 即表示运行正常。

常见问题

Q:不安装模型可以用吗?

A:可以。确定性技能照常工作,只有开放性问题需要模型推理,此时会路由到 inference。

Q:为什么编译出的 CLI 不能做模型推理?

A:开源构建只编译并测试战略特性(推测执行、CRDT mesh、形式化验证、embedding 检索),含模型推理的完整 CLI 需要 kernel runtime。

Q:@sparx/cli 和源码编译的 sparx 是同一个吗?

A:README 把 npm 全局安装列为快速开始方式,源码构建产出的是 build 下的 sparx CLI,两者调用形式类似。

Q:多设备协作需要配置吗?

A:不需要。Agent Mesh 通过 mDNS 发现 + CRDT 状态同步 + Merkle 反熵自动组网,并把任务路由到最强设备。

注意事项

  • 项目处于 Alpha 阶段,核心内核可用但 API 不稳定,不建议用于生产环境。
  • 官方同时使用 OAK(Open Agent Kernel)这一名称,README 中两者指同一项目。
  • 本地推理需自行安装 llama.cpp 并准备 GGUF 模型文件,仓库不附带模型。
  • 命令中的端口 8080 与模型名 your-model.gguf 为示例值,请按实际环境替换。

核心亮点

  • 纯端侧运行,数据不出设备,隐私和离线可用性强
  • 针对高通 NPU 优化,官方标称延迟低于 100ms
  • C++ 实现,便于嵌入汽车、IoT 等资源受限环境

不足之处

  • 强绑定高通 NPU,其他芯片平台适配情况不明确
  • 早期项目,文档和社区生态待观察

适用场景

  • 车载语音助手在无网络环境下本地完成指令理解与执行
  • 工业 IoT 设备本地做异常检测和自动决策
  • 隐私敏感场景下在终端运行个人 AI 助理

替代项目

llama.cpp、ONNX Runtime

上一篇:agent-skills

下一篇:dsh_desktop

同类项目推荐

mcp 开源

让 AI 助手直接查 MDN 文档,写前端代码少出错

MDN's prototype MCP server

★ 196 2026-10-22
Agent-2 开源

一句提示词,自动写码跑命令干安全活

An autonomous AI agentic harness built to code anything, automate terminals, perform···

★ 173 2026-10-09
best-of-Agent-Harnesses 开源

每周更新,让AI帮你挑智能体框架

Ranked list of 187 AI agent harnesses, plus templates, playbooks, MCP, and learning ···

★ 1474 2026-08-09
FPF 开源

用第一性原理规范人机协作,让每个决策可审计、可追溯。

FPF (First Principles Framework) Library: methods and pattern languages for open-end···

★ 539 2026-08-09
remote-factory 开源

让多个AI代理协作,自动完成软件设计和代码演进

Domain-agnostic multi-agent software design and evolution harness

★ 75 2026-08-09
Agent 开源

让 AI 直接操控你的 Mac 桌面,自动化一切操作

Agent! now supports macOS 14.6 or later, Apple Silicon and Intel, latest release. Th···

★ 651 2026-08-09
humanizer 开源

复制AI稿进去,秒变人写的

Agent skill that removes signs of AI-generated writing from text

★ 66069 2026-08-09
Citadel 开源

给 AI 编码代理装上记忆和调度中枢,让多代理协作安全又省心

The operating layer for Claude Code + OpenAI Codex: persistent project memory, inten···

★ 927 2026-08-09
niubiskill 开源

动手前先测一测,哪个点子最接近赚钱

中文变现决策 Skill:在你继续开发、发内容或追加投入之前,先判断这件事是否接近收入。Ch···

★ 43 2026-08-09