gguf 第 2 页
本站收录 58 个带「gguf」标签的 AI 开源项目（按 GitHub 星标从高到低，第 2 / 2 页）
aarambh-studioaarambh-studio 是一个完全用 Rust 和 Candle 框架从零构建的 decoder-only 大语言模型项目，不依赖 Python 或 Py★ 110
ggufyggufy 是一个用 Zig 编写的命令行与图形界面工具，专门解决 safetensors 与 GGUF 两种模型格式之间的转换问题。在本地部署扩散模型和语言模★ 107
ReadyLLMReadyLLM 是一个面向本地大模型部署与运维的可视化基础设施工具。它把模型下载、量化、推理服务启动、运行监控和参数调优整合到一个图形界面中，底层基于 lla★ 106
LLMinatorLLMinator 是一个基于 Gradio 的对话助手工具，旨在让用户直接从 Hugging Face 运行开源大语言模型。它解决了普通用户配置本地 LLM ★ 99
ajeanajean 是一个用 Go 编写的本地 AI 助手，把模型推理、对话、持久记忆、联网搜索、浏览器控制、MCP 工具调用、静态加密和端到端加密远程访问全部打包进单★ 97
llmedgellmedge 是一个面向 Android 的原生 AI 推理库，旨在将大语言模型、图像生成、图像识别、视频处理、语音识别（STT）和语音合成（TTS）等能力集★ 71
ImpAIImpAI 是一个基于大语言模型和扩散模型的高级角色扮演应用。它旨在解决传统角色扮演对话中缺乏个性化和沉浸感的问题，通过结合 LLM 的对话生成能力和 Stab★ 65
eullmeullm 是一个面向欧盟合规场景的开源 LLM 平台，专注于创建、分发和运行符合欧盟《人工智能法案》（AI Act）要求的大语言模型。它允许用户对任意基础模型★ 60