gguf-loader 是基础设施领域的开源项目，由 GGUFloader 开发，2025 年首次发布。
它收录于基础设施分类，该分类目前共有 1,133 个项目，GitHub 星标数为 69。
项目保持着较活跃的维护节奏，最近一次代码更新于 2026-09-25。MIT许可证，完全免费，可本地部署使用。
它主要面向的使用场景是：在无网络环境下使用本地大模型进行对话。同类可对比的替代方案包括 Ollama、LM Studio、llama.cpp。
gguf-loader
本地一键加载 GGUF 模型，离线聊天还带智能代理
gguf-loader 是一个专注于本地离线运行大语言模型的开源工具，旨在简化 GGUF 格式模型的加载与管理。它解决了普通用户在使用 Ollama、llama.cpp 等底层引擎时配置复杂、缺乏图形界面的痛点，通过提供悬浮按钮和 Agentic 模式，让用户能够快速切换和调用 Mistral、Deepseek、Llama、Gemma、Qwen 等主流模型。核心能力包括模型文件管理、一键加载、对话交互以及智能代理功能，支持完全离线运行，保护数据隐私。项目基于 Python 构建，适合桌面端使用，目前处于早期阶段，功能聚焦但扩展性良好。
开源
free
办公效率
GitHub 星标
★ 69
维护状态
较活跃
是否开源
是
定价模式
free
项目数据
分类办公效率
开发团队GGUFloader
所属国家
定价模式free
价格说明开源项目，MIT许可证，完全免费，可本地部署使用。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai-assistant,chatgpt-oss,code,desktop-app,gpt-oss,gpt-oss-120b,gpt-oss-20b,grok,gui,kiro-dev,qwen3
GitHub 星标★ 69
30天Star增速
HF 下载量
上线时间2025-07-05 00:00:00
最近更新2026-09-25 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5
使用教程
核心亮点
- 提供悬浮按钮，快速切换模型，操作便捷
- 支持多种主流开源模型（Mistral、Deepseek 等），兼容性好
- 完全离线运行，数据不出本机，隐私安全
不足之处
- 项目处于早期阶段，功能尚不完善
- 文档和社区支持待观察
适用场景
- 在无网络环境下使用本地大模型进行对话
- 开发者快速测试不同 GGUF 模型的性能
- 隐私敏感场景下替代云端 AI 服务
替代项目
Ollama、LM Studio、llama.cpp
项目介绍
上一篇：PocketClaw
下一篇：safe-openclaw
同类项目推荐
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
[DEPRECATED / UNMAINTAINED] Multi-account gateway. No longer maintained; fork it and···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···