local-llm 第 3 页
本站收录 144 个带「local-llm」标签的 AI 开源项目（按 GitHub 星标从高到低，第 3 / 3 页）
velliumvellium 是一款本地优先的桌面 AI 工作台，专为角色扮演、多角色对话、长文写作、RAG、MCP 工具、插件以及本地模型等场景设计。它基于 Electro★ 139
open-genaiopen-genai 是一个非官方项目，旨在将日本数字厅的政府 AI 系统“源内（GENAI）”完整地在本地环境中运行。它集成了本地 LLM（通过 Ollama★ 137
sndr_core_engineSNDR Core Engine (Genesis) 是一个针对消费级 NVIDIA GPU（如 RTX 3090、A5000）的 vLLM 运行时补丁覆盖层，★ 133
SAMSAM（Synthetic Autonomic Mind）是一个面向所有人的本地 AI 助手，基于 Swift 开发，专为 Apple 生态（尤其是 Apple★ 132
comfyui-mcp-panelcomfyui-mcp-panel 是一个为 ComfyUI 设计的本地优先侧边栏 AI 助手面板。它利用用户自己的 Claude 或 ChatGPT 订阅（无★ 129
OGADOGAD（Off Grid AI）是一个本地优先的AI网关项目，旨在让用户完全离线运行开源AI模型。它通过一个与OpenAI兼容的API网关，统一管理文本、视觉★ 128
github-copilot-api-vscodegithub-copilot-api-vscode 是一个把 GitHub Copilot 变成本地 API 网关的开源工具。它通过复用 VS Code 中已登★ 128
local-llm-pdf-ocrlocal-llm-pdf-ocr 是一个把扫描版 PDF 转成可搜索文本的本地工具，核心思路是调用视觉大模型 olmOCR 完成 OCR，全程离线运行，不上传★ 128
roampalroampal 是一个基于 Python 的办公效率工具，核心定位是“会学习的记忆系统”。它解决的是传统笔记或知识管理工具中信息检索不智能、无法根据用户行为优化★ 125
deepseek-local-guide-ru这是一个俄语版的 DeepSeek 本地部署完整指南，面向希望在个人电脑、Mac 或服务器上离线运行 DeepSeek V4、R1 等模型的用户。项目以 She★ 124
ObsidianRAGObsidianRAG 是一个面向 Obsidian 笔记库的本地优先 RAG（检索增强生成）工具，旨在让用户通过自然语言提问的方式，从自己的笔记中获得精准答案★ 123
zyron-assistantZyron Assistant 是一个面向 Windows 的本地优先 AI 桌面助手，主打隐私保护和远程控制。它通过 Ollama 运行本地大模型，支持通过 ★ 122
book-translatorbook-translator 是一个完全离线运行的 AI 图书翻译工具，支持 EPUB、PDF、TXT 三种常见电子书格式，适合翻译整本小说或技术书籍。它通过★ 122
houtini-lmhoutini-lm 是一个 MCP 服务器，通过将 Claude Code 中的有界任务委派给本地或云端 LLM 来节省 token 消耗。它支持 LM St★ 121
model-composemodel-compose 是一个受 docker-compose 启发的 AI 服务部署工具，旨在通过一个 YAML 文件快速定义和部署生产级的 AI 服务，★ 120
cardputer-aicardputer-ai 是一个把完整离线大模型塞进 M5Stack Cardputer ADV 掌上设备的开源项目。它基于 ESP32-S3 芯片，运行一个约★ 119
dotty-stackchandotty-stackchan 是一套面向 M5Stack StackChan 桌面机器人的自托管语音助手方案。StackChan 本身是带屏幕和舵机的开源桌面★ 118
Oxide-LabOxide-Lab 是一款完全本地运行的桌面 AI 对话应用，基于 Rust 和 Tauri v2 构建，前端使用 Svelte 5，推理引擎采用 Huggin★ 116
telegram-llm-bottelegram-llm-bot 是一个本地优先的 Telegram AI 机器人，旨在让用户通过 Telegram 界面使用本地大模型（如 Ollama 支持★ 114
InferrLMInferrLM 是一个面向 iOS 和 Android 的端侧 AI 推理框架，基于 TypeScript 构建，旨在让移动应用无需依赖云端即可运行 AI 模★ 112
TwoAITwoAI 是一个极简的实验性项目，核心是让两个本地大语言模型（LLM）通过 Ollama 进行自由对话。它解决的是如何在没有云端 API 的情况下，模拟多智能★ 111
GhostbarGhostbar 是一款专为 macOS 打造的 AI 聊天工具，定位为 Cluely 的免费替代品。它解决了在屏幕共享或录制时，AI 聊天内容可能被他人看到的★ 110
agenticosagenticos 是一个可自托管的开源 AI 智能体平台，定位为企业内部的「AI 同事层」。它解决的核心问题是：企业想用 AI 智能体处理真实业务，但公有云方★ 110
CrawllamaCrawllama 是一个本地运行的 AI 智能体，核心目标是把大模型问答与联网抓取、RAG 检索结合起来。它通过 Ollama 调用本地 LLM，避免依赖云端★ 106
ReadyLLMReadyLLM 是一个面向本地大模型部署与运维的可视化基础设施工具。它把模型下载、量化、推理服务启动、运行监控和参数调优整合到一个图形界面中，底层基于 lla★ 106
jkinco-listen-openjkinco-listen-open 是一个本地优先的智能会议纪要工作台，专为需要数据隐私和离线可用的团队设计。它把会议录音转写、场景识别、纪要生成和文档导出整★ 105
ollama-mcp-bridgeollama-mcp-bridge 是一个用 Python 编写的中间层服务，它在 Ollama 原生 API 之上叠加了 MCP（Model Context ★ 104
llmakerllmaker 是一个面向开发者的自托管 LLM 工具链管理工具，旨在让你通过终端一键部署和运行完整的现代大语言模型技术栈。它解决了自托管 LLM 过程中环境配★ 103
ai-orchestratorai-orchestrator 是一个便携式的多智能体 AI 开发环境，专为 Claude Code 和 Ollama 设计。它通过 Bash 脚本实现基于角色★ 100
libre-webuilibre-webui 是一个本地优先的 AI 工作台，旨在为聊天、私有知识库、工件管理和隔离的模型驱动工作提供统一界面。它解决的核心问题是：在自托管环境中，用★ 96
the-vibe-coding-handbook这是一份面向开发者的 Vibe Coding 完整指南，从零基础到进阶，系统讲解 AI 辅助开发的方方面面。项目内容涵盖本地大模型（Local LLMs）的使用★ 93
Cerno-Agentic-Local-Deep-ResearchCerno 是一个本地优先的深度研究平台，利用智能体 AI 将复杂查询分解为可验证的多步骤工作流。它支持在云端 LLM 和自托管模型之间无缝切换，让用户既能享受★ 91
hermes-for-webhermes-for-web 是为 Hermes Agent 打造的个人化 Web 工作台，旨在解决 Agent 使用门槛高、配置复杂、缺乏可视化界面的问题。它★ 83
FABULA-LLM-5FABULA-LLM-5 是一个面向本地小模型的智能体运行框架，旨在让小型本地模型也能完成复杂任务，并通过引擎而非提示词来强制保证任务完成。它引入门控、回卷、裁★ 82
Your-First-LLM-StudioYour-First-LLM-Studio 是一个面向 Apple Silicon 芯片的本地优先 LLM 开发工作台，基于 MLX 运行时构建。它解决的是开发★ 81
dspy-compounding-engineering这是一个本地优先的AI工程代理，基于DSPy框架，能够从你的代码库中学习并辅助开发工作。它解决的核心问题是：传统AI编程助手缺乏对项目上下文的深度理解，且依赖云★ 75
PalmHill.BlazorChatPalmHill.BlazorChat 是一个基于 Blazor WebAssembly、SignalR 和 WebAPI 构建的聊天应用与 API 项目，旨在★ 72
ZeusHammerZeusHammer 是一个面向开发者的 AI 超级智能体，主打本地大脑、语音交互与三层记忆架构。它解决了云端 AI 助手在数据隐私、响应延迟和上下文记忆方面的★ 67
eullmeullm 是一个面向欧盟合规场景的开源 LLM 平台，专注于创建、分发和运行符合欧盟《人工智能法案》（AI Act）要求的大语言模型。它允许用户对任意基础模型★ 60
Novel-AssistantNovel-Assistant 是一个基于本地或云端大语言模型（LLM）的 RAG（检索增强生成）助手，专注于文档文件夹的智能搜索与问答。它解决的是用户在海量本★ 59
KestrelAIKestrelAI 是一个基于 Python 和 React 构建的长期研究助手，具备自主调度能力。它旨在解决传统 AI 助手只能进行一次性问答、无法持续跟踪和★ 53
dgx-spark-inference-stackdgx-spark-inference-stack 是一个面向 NVIDIA DGX Spark（Grace Blackwell 桌面级 AI 超算）的推理服务★ 52
clone-chatclone-chat 是一个本地优先的对话 Agent，能根据你导入的真实聊天记录，用大语言模型学习特定对象的语气、表情和回复节奏，然后以该人物的身份与你继续对★ 7
awesome-openclawawesome-openclaw 是一个精选资源列表，围绕 OpenClaw 项目整理工具、技能、教程和文章。OpenClaw 前身为 Moltbot/Claw★ 6