
Spark-X2.5
本地跑智能体大模型,离线也能调工具写代码
Spark-X2.5 是一个面向端侧设备的开源大模型系列,目标是在手机、笔记本等本地硬件上把智能体(Agent)能力推到极限。它解决的核心问题是:云端大模型调用成本高、隐私风险大、离线不可用,而普通小模型又难以胜任多步推理、工具调用和代码生成等智能体任务。项目提供完整模型权重与推理适配,支持 llama.cpp、MLX、Ollama、SGLang 等主流本地推理框架,并覆盖 HuggingFace、ModelScope 等模型分发渠道。核心能力包括:在有限显存/内存下完成工具调用、代码补全与多轮任务规划,让开发者无需联网即可搭建私有 AI Agent 与 AI Coding 助手,兼顾低延迟、数据不出本机和可定制部署。
项目预览
项目数据
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
使用教程
核心亮点
- 针对端侧硬件优化,可在 llama.cpp/MLX/Ollama 等本地框架直接加载运行
- 主打 Agentic 能力,覆盖工具调用、多步推理与 AI Coding 场景,而非单纯聊天
- 同时上架 HuggingFace 与 ModelScope,权重获取和社区分发渠道较完整
不足之处
- 项目处于早期,498 星标,文档与评测基准尚不充分
- 端侧模型能力上限受硬件限制,复杂任务表现可能不及云端大模型
适用场景
- 在笔记本或手机上离线部署私有 AI 助手,数据不出本机
- 为本地 IDE 提供代码补全与 Agent 式编程辅助
- 在无网络或弱网环境下运行工具调用型智能体任务
替代项目
Qwen2.5-Coder、Llama-3.2、Phi-3.5-mini
项目介绍
上一篇:decider
下一篇:没有了!
同类项目推荐
awesome-claude-fable-5-prompt-va···
开源
一站式掌握 Claude Fable 5 玩法,快速选型不踩坑
Ultimate Claude Fable 5 Guide 2026: Use Cases, Integrations & Benchmarks
Diffusion-Models-Papers-Survey-T···
开源
学视频生成怕绕路?这份资料库帮你理清
Diffusion model papers, survey, and taxonomy
Machine-Learning
开源
跟着博客笔记,边看边跑机器学习代码
All content related to machine learning from my blog
CoreML-Models
开源
下载即用的苹果端 AI 模型库,免去转换烦恼
Core ML model zoo for iOS/macOS — PyTorch models converted to ready-to-use .mlpacka···