llama-cpp 第 2 页
本站收录 72 个带「llama-cpp」标签的 AI 开源项目（按 GitHub 星标从高到低，第 2 / 2 页）
RongxinAIRongxinAI 是一款开源桌面 AI 智能体，把大模型能力装进本地桌面环境，让 AI 直接操作电脑完成任务。它解决的核心问题是：多数 AI 助手只能聊天，无★ 159
ComfyUI-MiniCPMComfyUI-MiniCPM 是一个为 ComfyUI 设计的自定义节点，用于集成 MiniCPM 视觉语言模型。它支持 MiniCPM v4、v4.5 以及★ 157
docmind-ai-llmDocMind AI 是一个基于 Streamlit 的开源文档分析应用，核心思路是把 LlamaIndex、LangGraph 与本地大模型串起来，让用户在自★ 156
moe-l2moe-l2 是一个面向低显存消费级 GPU 的 MoE 模型推理优化项目，核心解决 100B+ 参数混合专家模型（如 DeepSeek、Qwen、Mixtra★ 151
HilbertRaumHilbertRaum 是一个完全本地运行的 AI 知识搜索工具，基于 TypeScript 开发，核心是让用户在自己的电脑上离线使用大语言模型和知识库。它整合★ 145
model-serving-minefieldmodel-serving-minefield 是一个社区维护的 LLM 推理服务“踩坑登记册”，专门收集那些会让测量结果看似正常、实则自信地给出错误结论的陷阱★ 140
deepseek-local-guide-ru这是一个俄语版的 DeepSeek 本地部署完整指南，面向希望在个人电脑、Mac 或服务器上离线运行 DeepSeek V4、R1 等模型的用户。项目以 She★ 124
CustomCharCustomChar 是一个基于 C++ 的轻量级 AI 助手框架，旨在让开发者将定制化的语音助手部署到任意硬件上，包括嵌入式设备和低功耗平台。它整合了 lla★ 121
InferrLMInferrLM 是一个面向 iOS 和 Android 的端侧 AI 推理框架，基于 TypeScript 构建，旨在让移动应用无需依赖云端即可运行 AI 模★ 112
ReadyLLMReadyLLM 是一个面向本地大模型部署与运维的可视化基础设施工具。它把模型下载、量化、推理服务启动、运行监控和参数调优整合到一个图形界面中，底层基于 lla★ 106
InsightSolver-ColabInsightSolver-Colab 是一个专注于 AIOps（智能运维）的 Colab 笔记本集合，旨在通过深度学习、机器学习及相关模型，帮助用户探索和解决★ 105
giga-pisargiga-pisar（Гига Писарь）是一款面向 macOS 的本地俄语听写工具，基于 GigaAM v3 语音识别模型，用 Swift 编写。它解决的★ 105
kube-llmopskube-llmops 是一个基于 Kubernetes 的 LLM 运维工具，旨在解决大语言模型应用在 Kubernetes 集群中的部署、管理和运维难题。它★ 103
llmakerllmaker 是一个面向开发者的自托管 LLM 工具链管理工具，旨在让你通过终端一键部署和运行完整的现代大语言模型技术栈。它解决了自托管 LLM 过程中环境配★ 103
volocalvolocal 是一个面向 iOS 的完全本地化语音 AI 工具，基于 Swift 和 SwiftUI 构建，利用 Core ML 和 llama.cpp 在设★ 100
ajeanajean 是一个用 Go 编写的本地 AI 助手，把模型推理、对话、持久记忆、联网搜索、浏览器控制、MCP 工具调用、静态加密和端到端加密远程访问全部打包进单★ 97
Agentic-Among-Us-这是一个用大语言模型驱动《Among Us》游戏内自主智能体的开源模拟项目。它让多个AI角色在游戏地图中自主移动、完成 tasks、进行社交推理，并具备破坏（s★ 72
llmedgellmedge 是一个面向 Android 的原生 AI 推理库，旨在将大语言模型、图像生成、图像识别、视频处理、语音识别（STT）和语音合成（TTS）等能力集★ 71
llama-cpp-dockerllama-cpp-docker 是一个将 llama.cpp 封装进 Docker 容器的开源项目，旨在简化 llama.cpp 的部署和运行，特别是支持 G★ 68
ImpAIImpAI 是一个基于大语言模型和扩散模型的高级角色扮演应用。它旨在解决传统角色扮演对话中缺乏个性化和沉浸感的问题，通过结合 LLM 的对话生成能力和 Stab★ 65
GuideAntsGuideAnts 是一个面向 AI 产品构建与治理的工作台，旨在解决 AI 工作成果难以沉淀和复用的问题。它提供从构建、调优到发布的全流程管理，支持多种主流大★ 64
universal-intelligenceUniversal Intelligence 是一个致力于简化 AI 开发的智能体框架，口号是“让 AI 变得简单”。它主要解决开发者在构建智能体时面临的复杂性★ 63