hummingbird

消费级硬件上跑超大 MoE 模型，统一内存调度

hummingbird 是一个轻量级、零依赖的 C 语言运行时，专为大规模开源混合专家（MoE）语言模型设计。它通过统一 SSD、RAM 和 VRAM 为单一智能内存层次，使得 GPT-OSS 120B、GLM、DeepSeek、Qwen 等大型模型能够在消费级硬件上运行。该项目解决了 MoE 模型推理时内存容量与带宽的瓶颈问题，核心能力包括智能内存调度、高效模型加载和推理加速。它无需外部依赖，便于集成和部署，特别适合个人开发者或小团队在本地设备上体验和运行超大模型。目前项目处于早期阶段，星标较少，但技术方向具有创新性，有望降低大模型使用门槛。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 58

维护状态维护中

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队prayangshuuu

所属国家

官网地址

GitHubhttps://github.com/prayangshuuu/hummingbird

定价模式free

价格说明开源项目，无官网，需自行部署，完全免费。

访问状态

是否开源是

开源协议NOASSERTION

主要语言C

技术栈/模型ai-inference,artificial-intelligence,c17,cross-platform,deepseek,glm,gpt-oss,high-performance-computing,inference-engine,large-language-models,llm,llm-runtime,memory-management,mixture-of-experts,open-source,qwen,sparse-moe,systems-programming,transformers

GitHub 星标★ 58

30天Star增速

HF 下载量

上线时间2026-07-21 00:00:00

最近更新2026-09-21 00:00:00

维护状态维护中

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数4

使用教程

核心亮点

零依赖纯 C 实现，部署简单，易于交叉编译
统一 SSD/RAM/VRAM 内存层次，智能调度，突破显存限制
支持多种主流 MoE 模型（GPT-OSS、GLM、DeepSeek、Qwen）

不足之处

项目处于早期，文档和社区生态待观察
推理速度可能受限于内存带宽，实际性能需验证

适用场景

个人开发者本地运行 100B+ MoE 模型进行实验
边缘设备或离线环境部署大模型推理服务
教育科研场景，低成本体验前沿模型

替代项目

llama.cpp、vLLM、Ollama

项目介绍

hummingbird 是基础设施领域的开源项目，由 prayangshuuu 开发，是 2026 年新上线的项目。

它收录于基础设施分类，该分类目前共有 1,130 个项目，GitHub 星标数为 58。

项目仍在小幅维护中，最近一次代码更新于 2026-09-21。无官网，需自行部署，完全免费。

它主要面向的使用场景是：个人开发者本地运行100B+MoE模型进行实验。同类可对比的替代方案包括 llama.cpp、vLLM、Ollama。

上一篇：tokenu

下一篇：langfuse-java