gguf-loader

本地一键加载 GGUF 模型,离线聊天还带智能代理

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 办公效率 🍴 复刻 14 🐛 待处理 4 👀 关注 2
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 74
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可本地部署使用。

项目预览

gguf-loader 项目界面预览图
图片来源:项目官网

项目数据

分类办公效率
开发团队GGUFloader
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可本地部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai-assistant,chatgpt-oss,code,desktop-app,gpt-oss,gpt-oss-120b,gpt-oss-20b,grok,gui,kiro-dev,qwen3
GitHub 星标★ 74
上线时间2025-07-05 00:00:00
代码更新2026-09-11
仓库体积114.6 MB
本站数据更新2026-11-11
维护状态维护中
收录时间2026-08-09
浏览次数7

项目介绍

gguf-loader 是一个专注于本地离线运行大语言模型的开源工具,旨在简化 GGUF 格式模型的加载与管理。它解决了普通用户在使用 Ollama、llama.cpp 等底层引擎时配置复杂、缺乏图形界面的痛点,通过提供悬浮按钮和 Agentic 模式,让用户能够快速切换和调用 Mistral、Deepseek、Llama、Gemma、Qwen 等主流模型。核心能力包括模型文件管理、一键加载、对话交互以及智能代理功能,支持完全离线运行,保护数据隐私。项目基于 Python 构建,适合桌面端使用,目前处于早期阶段,功能聚焦但扩展性良好。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 74

核心亮点

  • 提供悬浮按钮,快速切换模型,操作便捷
  • 支持多种主流开源模型(Mistral、Deepseek 等),兼容性好
  • 完全离线运行,数据不出本机,隐私安全

不足之处

  • 项目处于早期阶段,功能尚不完善
  • 文档和社区支持待观察

适用场景

  • 在无网络环境下使用本地大模型进行对话
  • 开发者快速测试不同 GGUF 模型的性能
  • 隐私敏感场景下替代云端 AI 服务

替代项目

Ollama、LM Studio、llama.cpp

上一篇:PocketClaw

下一篇:safe-openclaw

同类项目推荐

recodex 开源

自建 Codex 中转站,轻松管理 AI 请求

Codex中转,可自部署的代理服务

★ 68 2026-08-09
vibebin 开源

在自己的服务器上,用容器托管代码并直接运行。

vibebin: code and host inside Incus containers on your own VPS/server.

★ 111 2026-08-09
agent-trace 开源

给 AI 智能体装上监控,看清每一步动作和花费

Local evidence and replay for coding agents: replay what happened, see what the trac···

★ 103 2026-08-09
scylla 开源

自动维护可用代理池,让爬虫抓取更稳

Intelligent proxy pool for Humans™ to extract content from the internet and build y···

★ 4020 2026-11-11
pai 开源

管好 GPU 集群,让 AI 训练快人一步

Resource scheduling and cluster management for AI

★ 2696 2026-08-16
open-relay 开源

关掉终端,AI 任务继续跑,随时回来接管。

oly runs coding agents and long-running commands in persistent, supervised terminal ···

★ 110 2026-08-09
Portable-Local-Studio 开源

一个界面跑齐本地画图、聊天、朗读和听写,免安装随身带

Portable local AI studio for Windows, Linux, and macOS. Zero-setup GUI for Image Gen···

★ 1990 2026-09-23
pdf_oxide 开源

用 Rust 极速处理 PDF,比行业快 5 倍,文本图像转换全搞定

The fastest PDF library for Python and Rust. Text extraction, image extraction, mark···

★ 1184 2026-08-09
cx-cli 开源

在终端直接查 Coralogix 日志与指标

This is the Coralogix CLI

★ 242 2026-11-05