NoLlama
让 Intel NPU 跑起 Ollama 风格本地大模型 API
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-29 · 当前星标 ★ 132
核心亮点
- 同时兼容 Ollama 与 OpenAI 两套 API，现有客户端和 SDK 迁移成本低
- 基于 OpenVINO 调用 Intel NPU/GPU/CPU，填补 Ollama 在 Intel 加速硬件上的空白
- Python 实现，代码结构清晰，便于二次开发和嵌入自有服务
不足之处
- 项目仍处早期，星标与社区规模小，长期维护和问题响应待观察
- 依赖 Intel OpenVINO 生态与特定硬件，非 Intel 设备无法发挥优势
- 模型格式转换与量化流程依赖 OpenVINO 工具链，上手门槛高于直接使用 Ollama
适用场景
- 在搭载 Intel NPU 的笔记本上搭建本地大模型对话服务
- 把已有 OpenAI 接口的应用切换到本地推理后端做离线测试
- 边缘设备上做轻量模型推理与 API 集成原型
替代项目
Ollama、llama.cpp、OpenVINO Model Server
上一篇：ollama-swift
下一篇：magnitude
同类项目推荐
openclaw-guardian
开源
给 OpenClaw 网关配个自动修复的看门狗，故障秒级自愈
️ Guardian watchdog for OpenClaw Gateway — auto-monitor, self-repair via doctor --···
ram-coffers
开源
用二手 POWER8 服务器，让 LLM 推理提速 8.8 倍，省下云账单。
LLM infrastructure cost reduction via NUMA-aware weight banking: 147 t/s (8.8x stock···
token-limit
开源
盯紧 AI 上下文用量，超限自动提醒，省钱省心
Monitor how many tokens your code and configs consume in AI tools. Set budgets and g···
llm-metadata
开源
统一查询 LLM 元数据，告别硬编码模型信息
A lightweight interface for accessing and integrating LLM metadata, enabling applica···
ephemeral-sandbox
开源
让多个编码AI并行干活，互不干扰，结果可靠发布
Open-source agent sandbox infrastructure for parallel coding agents: isolated worksp···
awesome-hosting
开源
按最低价排序的托管清单，几分钟挑出最省钱的服务器
List of awesome hosting sorted by minimal plan price
NeumAI
开源
一键搭建大规模向量数据管道，让 RAG 应用数据实时同步
Neum AI is a best-in-class framework to manage the creation and synchronization of v···
tokencost
开源
输入模型和 token 数，秒估 400+ 大模型成本
Easy token price estimates for 400+ LLMs. TokenOps.
awesome-open-source-data-enginee···
开源
一张清单，搞定数据工程选型
A curated list of open source tools used in analytics platforms and data engineering···