local-llm 第 2 页
本站收录 144 个带「local-llm」标签的 AI 开源项目（按 GitHub 星标从高到低，第 2 / 3 页）
taOStaOS 是一个自托管的 AI 智能体操作系统，旨在让用户的记忆、聊天、智能体和文件全部保存在自有硬件上，默认离线运行，也可选择接入云端。它解决了用户对数据主权★ 574
awesome-second-brain这是一个精选资源列表，旨在帮助用户为AI代理构建一个自我进化的“第二大脑”。它解决了AI代理缺乏个人和团队上下文理解的问题，通过整合记忆管理、上下文工程和MCP★ 569
OmniSpaceOmniSpace 是一个本地优先的全栈 AI 创作工作站，把 AI 对话、AI 漫画、漫剧创作、写作台和知识学习五个模块整合到一个应用里。它主要解决创作者在本★ 534
cataicatai 是一个面向 Node.js 开发者的本地 AI 助手运行工具，旨在简化在本地环境中部署和调用大语言模型（LLM）的流程。它基于 llama-cpp ★ 498
ArkhamMirrorArkhamMirror 是一个本地优先的 AI 文档情报平台，专为调查记者设计。它解决了调查报道中大量文档难以快速检索、关联和提取关键信息的问题。核心能力包括★ 495
local-llms-on-android这是一个在 Android 设备上本地运行大语言模型（LLM）的开源项目，支持 Gemma、Qwen、LLaMA 等主流模型，通过 LiteRT 和 ONNX ★ 461
evolving-agentsevolving-agents 是一个用 TypeScript 编写的开源工具包，目标是帮助开发者构建可自主演化、持续学习的智能体生态。它不只是运行单个 Age★ 456
late-clilate-cli 是一个极简、零配置的 AI 编程代理，旨在解决长对话中上下文污染导致模型推理能力下降的问题。它通过强制使用临时子代理（ephemeral su★ 446
strix-halo-guidestrix-halo-guide 是一份针对 AMD Strix Halo（GFX1151，如 Radeon 8060S）平台本地 AI 部署的实测指南与基准测★ 362
home-generative-agent这是一个为 Home Assistant 打造的生成式 AI 智能体，旨在让用户通过自然语言与智能家居交互。它解决了传统自动化配置复杂、摄像头监控被动等问题，核★ 348
react-native-apple-llmreact-native-apple-llm 是一个 React Native 插件，允许开发者通过 Foundation Models 框架在 iOS 应用中★ 346
mindroomMindroom 是一个开源的 AI 智能体聊天应用，目标是让 AI 真正了解你和你的工作内容。它把智能体能力嵌入到任何人都能上手的聊天界面中，支持接入任意大模★ 343
NeuralDeskAppNeuralDeskApp 是一个跨平台的桌面智能助手应用，旨在提供几乎本地化、最终合理的 AI 辅助体验。它基于 TypeScript 构建，集成多种本地大语★ 331
humlahumla 是一款面向 Mac 的开源 AI 会议笔记工具。它无需机器人参会，直接录制麦克风与系统音频，支持在设备本地或通过 OpenAI、Deepgram、G★ 318
VoicEraVoicEra 是一个开源的语音 AI 构建模块，主打电话集成能力，帮助开发者快速搭建可打电话的对话式 AI 智能体。它把实时语音转文字（STT）、文字转语音（★ 318
chatlesschatless 是一款基于 Tauri 2.0 和 Next.js 构建的本地优先 AI 对话客户端，主打简洁、轻量、隐私安全。它解决了用户在使用云端 AI ★ 301
TurboLLMTurboLLM 是一个面向本地大模型推理的基础设施工具，用 TypeScript 编写，目标是让任何人都能在自己的显卡上跑起任意本地 LLM 引擎。它自动检测★ 285
clicky-windowsclicky-windows 是一款面向 Windows 的免费离线 AI 助手，通过读取屏幕内容、聆听用户语音提问，并以语音方式回答，实现本地化的智能交互。它★ 271
OfflineLLMOfflineLLM 是一款面向 Android 的本地化 AI 对话应用，核心思路是把大模型完全跑在手机上，不依赖任何云端服务。它通过 llama.cpp 加★ 269
awesome-hermes-usecases这是一个精选的 Hermes Agent 真实用例集合，由 Nous Research 开发，旨在展示该自改进 AI 智能体的实际应用场景。项目以列表形式整理，★ 267
everything-aieverything-ai 是一个本地运行的 AI 聊天助手项目，旨在提供全面且无需联网的智能对话体验。它解决了用户对隐私保护和离线可用性的需求，无需将数据发送★ 251
bagidea-officebagidea-office 是一个将 AI 智能体办公场景搬到桌面壁纸上的开源项目。它让多个 Claude Code 智能体在壁纸上可视化地行走、工作、委派任★ 250
LLMKubeLLMKube 是一个 Kubernetes Operator，用于在异构 GPU 集群上自托管大模型推理。它解决的核心问题是：家里或公司机房里混着 NVIDI★ 241
dodaridodari 是一个用 AI 翻译整本书的开源工具，主打复用你已有的 AI 能力（如 Claude Code、Codex CLI 或本地 LLM），把整本电子书★ 241
open-dungeonOpen Dungeon 是一款完全本地运行的 AI 角色扮演应用，旨在让用户无需注册、无需 API 密钥、无需云端依赖即可体验 AI 驱动的互动叙事。它通过 ★ 237
portable-hermes-agentportable-hermes-agent 是一个将 Hermes Agent 打包为 Windows 便携式桌面应用的早期项目，旨在让用户无需安装、无需 Do★ 236
llm-wiki-v2llm-wiki-v2 是一个把个人文档自动整理成可阅读 Markdown 知识库的开源工具。它解决的核心问题是：普通 RAG 检索只能返回零散片段，无法形成结★ 236
codehamrcodehamr 是一个极简的、本地优先的终端编码智能体，用 Go 编写。它旨在解决开发者在终端中需要 AI 辅助编码但又不愿依赖云端服务或复杂配置的问题。该工★ 221
openai_tts这是一个为 Home Assistant 打造的自定义文本转语音（TTS）组件，利用 OpenAI 的语音合成引擎或任何兼容的 API 端点，为智能家居系统提供★ 221
LexiconLexicon 是一款免费开源的离线写作助手，定位为本地优先的桌面应用，主打语法检查、句子改写和语气调整。它解决的核心问题是：主流写作工具（如 Grammarl★ 220
Local-Multimodal-AI-ChatLocal-Multimodal-AI-Chat 是一个可自托管的本地多模态 AI 聊天应用，旨在解决数据隐私和云端依赖问题。它通过 Streamlit 构建界★ 208
code-clicode-cli 是一个运行在终端中的超快自进化编码智能体，基于 TypeScript 构建。它旨在解决开发者在编码过程中重复性劳动和上下文切换的问题，通过自主★ 206
afm-Serverafm-Server 是一个运行在 macOS 菜单栏的小工具，它将苹果设备内置的 Foundation Models（如设备端大模型）暴露为兼容 OpenAI★ 194
m-courtyardM-Courtyard 是一款专为 Apple Silicon 芯片打造的本地 AI 模型微调桌面工具。它基于 Tauri、React 和 mlx-lm 构建，★ 179
agentic-signalagentic-signal 是一个基于 TypeScript 的可视化 AI 智能体工作流自动化平台，核心目标是让用户通过拖拽式界面搭建由本地大模型驱动的智能★ 179
captain-clawCaptain Claw 是一个自托管的 AI 智能体编排框架，用于管理多个专业智能体组成的“舰队”，支持集成推理和完整的智能体编码流水线。它解决的是单一智能体★ 174
fullochFulloch 是一个完全本地的家庭语音助手项目，旨在替代云端语音服务，保护用户隐私。它集成于 Home Assistant（HACS），支持本地 LLM 推理★ 161
hybridclawhybridclaw 是一个面向企业的自托管 AI 助手运行时，旨在解决企业内部部署 AI 助手时的安全、合规和可控性问题。它提供沙箱执行环境，确保 AI 生成★ 159
RongxinAIRongxinAI 是一款开源桌面 AI 智能体，把大模型能力装进本地桌面环境，让 AI 直接操作电脑完成任务。它解决的核心问题是：多数 AI 助手只能聊天，无★ 159
prism-coderprism-coder 是一个为 AI 编程助手提供持久会话记忆的开源项目，采用本地优先架构，支持设备端推理、联想回忆和漂移检测。它解决了 AI 编程工具在长会★ 157
docmind-ai-llmDocMind AI 是一个基于 Streamlit 的开源文档分析应用，核心思路是把 LlamaIndex、LangGraph 与本地大模型串起来，让用户在自★ 156
NovelGeneratorNovelGenerator 是一个基于 TypeScript 的开源小说生成工具，利用 LLM 智能体（agents）协同工作，自动创作结构完整的长篇小说。它★ 154
SmarterRouterSmarterRouter 是一个面向本地 AI 实验室的智能 LLM 网关和路由工具，专门服务于 Ollama、llama.cpp 和 OpenAI 等后端。★ 154
gpt4localgpt4local 是一个轻量级的本地大语言模型推理工具，提供 OpenAI 兼容的 API 接口，并支持文档问答。它旨在解决用户在使用本地模型时面临的部署复杂★ 149
omkomk 是一个面向 AI 编程代理的“证据门控”任务运行器，支持 Codex、Claude Code、OpenCode 及本地编码代理。它解决的核心问题是：当多★ 148
HilbertRaumHilbertRaum 是一个完全本地运行的 AI 知识搜索工具，基于 TypeScript 开发，核心是让用户在自己的电脑上离线使用大语言模型和知识库。它整合★ 145
deepseek-harness-linuxdeepseek-harness-linux 是为 DeepSeek Harness 桌面客户端提供一流 Linux 打包支持的开源项目。DeepSeek Ha★ 145
codebuddyCodeBuddy 是一个用 TypeScript 编写的自主 AI 软件工程师，旨在作为开发者的智能编程助手，自动完成从理解需求到编写代码、修复问题等软件开发★ 141
devswarmDevSwarm 是一个面向并行编码的 AI 开发环境（ADE），允许开发者同时接入多个 AI 助手协同工作。它支持自带 LLM（BYO LLM），不绑定特定模★ 140
model-serving-minefieldmodel-serving-minefield 是一个社区维护的 LLM 推理服务“踩坑登记册”，专门收集那些会让测量结果看似正常、实则自信地给出错误结论的陷阱★ 140