LLM-Hub 是基础设施领域的开源项目,由 timmyy123 开发,2025 年首次发布。
它收录于基础设施分类,该分类目前共有 1,130 个项目,GitHub 星标数为 591。
近 45 天,它的 GitHub 星标从 537 增加到 591,净增 54。
项目目前处于活跃维护状态,最近一次代码更新于 2026-09-23。从国内网络环境看,可直接访问。
它主要面向的使用场景是:隐私敏感场景下的本地AI助手。同类可对比的替代方案包括 Ollama、LocalAI、llama.cpp。

本地跑大模型,图像语音问答全搞定
LLM-Hub 是一个本地 AI 助手,专注于图像生成领域,但实际覆盖多模态能力。它基于 C++ 构建,集成多种主流大语言模型(如 Gemma、Llama、Mistral、Phi4)以及 Stable Diffusion 图像生成、Whisper 语音识别和 RAG 检索增强生成。项目旨在提供完全本地化的 AI 推理体验,解决数据隐私和云端依赖问题。核心能力包括:本地化 LLM 推理、文生图、语音转文字、知识库问答,并通过 agent skills 扩展功能。早期项目,代码结构清晰,适合开发者二次开发或集成到桌面应用。
Ollama、LocalAI、llama.cpp
LLM-Hub 是基础设施领域的开源项目,由 timmyy123 开发,2025 年首次发布。
它收录于基础设施分类,该分类目前共有 1,130 个项目,GitHub 星标数为 591。
近 45 天,它的 GitHub 星标从 537 增加到 591,净增 54。
项目目前处于活跃维护状态,最近一次代码更新于 2026-09-23。从国内网络环境看,可直接访问。
它主要面向的使用场景是:隐私敏感场景下的本地AI助手。同类可对比的替代方案包括 Ollama、LocalAI、llama.cpp。
下一篇:restai
freebuff-proxy
开源
聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型,免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···