项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-30 · 当前星标 ★ 258
核心亮点
- Nightshift 批量试错并自动筛选，把模型迭代从人工盯盘变成夜间自动任务
- 面向 Apple Silicon 与 DGX Spark 本地硬件，减少对云端 API 的依赖
- 内置分层记忆与上下文引擎，为长会话智能体提供可复用的上下文管理
不足之处
- 早期项目，258 星，接口与文档可能频繁变动
- 本地批量推理对硬件与散热要求高，实际吞吐受设备限制
适用场景
- 个人开发者在 Mac 上夜间批量评估提示词变体
- 团队用 DGX Spark 搭建内部共享的本地推理实验环境
- 为长会话 AI 智能体接入分层记忆与上下文管理
替代项目
Ollama、LM Studio、vLLM
上一篇：Hyperloom
下一篇：没有了！
同类项目推荐
tokentab
开源
一条命令，算清所有 AI 编程工具花了多少钱
A CLI that reads Claude Code, Codex, and Gemini CLI session logs and works out how m···
pmetal
开源
Mac 上一条龙跑大模型：推理、微调、服务全本地
PMetal: high-performance Apple Silicon framework for local LLM inference, LoRA/QLoRA···
tokenmaxxing
开源
同步你的 token 用量，让团队消耗一目了然
A local CLI, built on ccusage, that syncs your token usage with everyone else.
ServerlessLLM
开源
把大模型部署变成按需调用的无服务器服务，省钱又省心
Serverless LLM Serving for Everyone.
agentgateway
开源
给 AI Agent 装个智能网关，统一管理 API、MCP 和权限，让调用更安全可控。
Next Generation Agentic Proxy for AI Agents and MCP servers
mlops-template
开源
一键生成标准 MLOps 项目骨架，快速落地工程化实践
mlops template
Gozar
开源
自建 Docker 部署，统一管理多家大模型 API，自动容灾省钱
Self-hosted, Docker-first OpenAI-compatible LLM gateway with provider routing, fallb···
terraform-genai-rag
开源
填几个变量，云上 RAG 环境一键搭好
Deploys a Generative AI RAG solution
AI-Gateway
开源
用 Azure 网关统一管住模型、MCP 和 Agent 调用
Labs to explore AI Models, MCP servers, and Agents with the AI Gateway powered by Az···