local-ai
本站收录 95 个带「local-ai」标签的 AI 开源项目（按 GitHub 星标从高到低，此处展示前 50 个）
anything-llm主打本地优先的全能 AI 助手，集聊天、RAG、文档管理等能力于一身，支持多种模型后端，让你真正「拥有」自己的智能，不再租赁。★ 66,603
meetilyMeetily 是一款基于 Rust 构建的隐私优先 AI 会议助手，专为 macOS 和 Windows 设计。它解决的核心问题是会议记录的低效与隐私泄露风险★ 31,241
llamafilellamafile 是一个将大语言模型（LLM）及其运行环境打包成单个可执行文件的开源工具，旨在解决 AI 模型分发和部署的复杂性问题。它基于 llama.cp★ 26,089
screenpipescreenpipe 是一个本地优先的屏幕录制与 AI 代理连接工具，由 YC 孵化的开源项目。它持续记录屏幕内容（24/7），并通过本地、私密、安全的方式将录★ 21,777
GenieXGenieX 是一个专为高通设备设计的开源推理引擎，旨在让开发者通过几行代码即可在本地运行前沿的大语言模型（LLM）和视觉语言模型（VLM）。它充分利用高通芯片★ 8,406
SoupSoup 是一个用于微调大语言模型（LLM）的开源工具，它通过一个 YAML 配置文件即可完成整个微调流程，极大简化了操作。其核心亮点是采用“层流式训练”（La★ 7,822
ODSODS 是一个开源的本地 AI 服务器解决方案，旨在将个人电脑（PC、Mac 或 Linux）转变为功能全面的 AI 中心。它解决了用户对数据隐私、离线可用性和★ 6,900
turbo-fieldfareturbo-fieldfare 是一个基于 Swift 编写的开源项目，旨在让 Gemma 4 26B-A4B 模型在任意 M 系列 MacBook 上仅用约 ★ 6,842
mlx-vlmMLX-VLM 是一个专为 Mac 用户设计的视觉语言模型（VLM）推理与微调工具包，基于 Apple 的 MLX 框架构建。它解决了在 Mac 上运行大型多模★ 5,549
OlaresOlares 是一个开源的个人云操作系统，专为常驻智能体（Always-On Agents）设计。它解决了个人在本地或边缘环境部署、运行和管理 AI 智能体时面★ 5,294
Text-GrabText-Grab 是一款专为 Windows 平台设计的轻量级 OCR 工具，核心目标是让用户在任何界面中快速抓取屏幕上的文字。它解决了传统 OCR 工具需要★ 5,029
Rapid-MLXRapid-MLX 是一个专为 Apple Silicon 芯片打造的高性能本地 AI 推理引擎，旨在解决 Mac 上运行大模型速度慢、工具调用支持差的问题。它★ 3,864
twinnytwinny 是一款 Visual Studio Code 的 AI 代码补全与对话插件，定位是 GitHub Copilot 的免费替代方案。它支持本地模型和★ 3,653
OGAMOGAM 是一款面向手机和 Mac 的离线 AI 全能工具箱，目标是把原本依赖云端 API 的多种 AI 能力全部搬到本地设备上运行。它基于 GGUF 格式的本★ 3,177
DeepCameraDeepCamera 是一个开源的 AI 摄像头技能平台，定位为智能 NVR 和闭路监控系统。它解决传统监控只能录像、无法理解视频内容的问题，通过本地 VLM（★ 3,079
awesome-local-llmawesome-local-llm 是一个精选资源列表，汇集了在本地运行大型语言模型（LLM）所需的平台、工具、实践和资源。它解决了用户在本地部署 LLM 时信★ 2,910
luceboxlucebox 是一个面向异构硬件与消费级 GPU 的 LLM 投机推理服务器，用 C++ 编写并深度依赖 CUDA 与自定义内核。它要解决的问题是：在非数据中★ 2,885
foundry-localfoundry-local 是一个面向本地设备的高性能 AI 推理基础设施，基于 C++ 构建，核心目标是让大语言模型和语音识别模型在本地硬件上高效运行。它利用★ 2,572
skalesskales 是一款跨平台（Windows、macOS、Linux、Android、iOS）的个人 AI 桌面代理，旨在让用户设定目标后自动完成任务，无需 Do★ 1,928
locally-uncensoredLocally Uncensored 是一个即插即用的本地 AI 工作室，旨在解决云端 AI 的隐私泄露和内容审查问题。它集成了无审查的聊天、图像生成、视频生成★ 1,847
hope-agenthope-agent 是一个用 Rust 编写的跨端桌面 AI 助手，核心特点是具备长期记忆、自主推进目标的能力，并能动态编排多个 Agent 协作完成复杂任务★ 1,685
Atomic-ChatAtomic-Chat 是一款面向本地智能体的 AI 对话应用与推理引擎，旨在让用户完全离线、私密地运行开源大模型。它基于 TypeScript 构建，深度集成★ 1,650
amicalamical 是一款本地优先的开源 AI 听写应用，旨在让用户摆脱键盘，通过语音实现 3 倍速的文字输入。它基于 Electron 和 Next.js 构建，支★ 1,540
PhoneClawPhoneClaw 是一个将手机转变为本地 AI 智能体运行时的开源框架，基于 Swift 开发，支持在 iOS 设备上直接运行 Gemma 等端侧模型，无需云★ 1,265
hollamahollama 是一个极简的 LLM 聊天应用，完全在浏览器中运行，无需后端服务。它主要解决本地大模型（如 Ollama）使用过程中缺乏轻量、直观交互界面的问题★ 1,188
cotabbyCotabby 是一款面向 Mac 的本地 AI 自动补全工具，基于 llama.cpp 和 Swift 构建，完全开源且数据不出设备。它能在系统全局的任意输入★ 1,043
BoxBox 是 Android 平台上目前最先进的全离线客户端 AI 套件，基于 Kotlin 开发。它解决的是移动端 AI 应用过度依赖云端、隐私泄露和网络受限的★ 880
kronkKronk 是一个用 Go 语言编写的高层推理框架，目标是把 llama.cpp、whisper.cpp 和 stable-diffusion.cpp 直接集成★ 824
open-webui-tools专为 Open WebUI 打造的模块化工具集，提供 15 余种专业工具、函数管道与过滤器，可将 Open WebUI 升级为强大的 AI 工作站。支持学术研究★ 819
qvacQVAC 是一个面向本地优先的 AI 应用开发 SDK 和库集合，旨在帮助开发者构建私有、跨平台、点对点的 AI 应用。它支持在 Linux、macOS、Win★ 655
MaestroMaestro 是一个 100% 本地运行的一站式 AI 视频、图像和音乐创作工作室，基于 WanGP 管线构建，通过 Pinokio 一键安装。它解决的是本地★ 640
ChatLLM-WebChatLLM-Web 是一个完全在浏览器中运行的大语言模型对话应用，基于 WebGPU 技术，无需服务器即可与 Vicuna 等模型聊天。它利用 Web LL★ 636
docsagentDocsAgent 是一个本地优先的个人知识库检索工具，通过 MCP 协议为 Claude、Cursor、Cline 等 AI 客户端提供即时、私密的资料访问能★ 623
WitNoteWitNote 是一款本地优先的 AI 写作伴侣，支持 macOS 与 Windows 双平台。数据默认保存在本地，隐私安全有保障；AI 能力无缝融入写作流程，★ 571
gerbilgerbil 是一款基于 Electron 的桌面应用，旨在让用户在本机轻松运行大型语言模型（LLM）和图像生成模型。它解决了本地部署 AI 模型时配置复杂、依★ 472
late-clilate-cli 是一个极简、零配置的 AI 编程代理，旨在解决长对话中上下文污染导致模型推理能力下降的问题。它通过强制使用临时子代理（ephemeral su★ 435
evaeva 是一个用 Python 编写的单文件智能体（agent）项目，旨在提供一个极简、可移植的 AI 自动化工具。它通过一个独立的 Python 文件实现核心★ 424
jarvis-assistant-vocaljarvis-assistant-vocal 是一个用 Python 编写的本地化法语语音助手，目标是把大模型、智能家居和桌面自动化整合成一套可对话的 Jarv★ 404
LocalText2VoiceLocalText2Voice 是一个完全离线的本地文本转语音生产工作流，专为生成干净旁白、结构化学习内容和播客级音频而设计。它解决了在无网络环境下依赖云端 T★ 365
ACE-Step-StudioACE-Step-Studio 是一个便携式 AI 音乐生成工具，旨在让用户完全离线地创作完整歌曲，包括人声、翻唱和音乐视频。它解决了传统 AI 音乐生成依赖云★ 357
my-virtual-officemy-virtual-office 是一个自托管的 2D AI 工作空间，专为 AI 智能体设计。它解决了 AI 智能体缺乏统一可视化操作界面的问题，将多个智能★ 332
devodevo 是一个模型无关的智能体桌面应用与运行时，专为私有化、企业级以及兼容 OpenAI/Anthropic 的模型 API 设计。它解决了企业在使用 AI ★ 322
knowledge-ragknowledge-rag 是一个面向 Claude Code 的本地 RAG（检索增强生成）MCP 服务器，旨在为 AI 编程助手提供私有知识库检索能力。它解★ 288
VoxSherpa-TTSVoxSherpa-TTS 是一个基于 Sherpa-ONNX 的 Android 离线神经文本转语音引擎，利用 Kokoro-82M 模型实现高质量语音合成。★ 246
PhosphenePhosphene 是一个专为 Apple Silicon 设计的本地生成视频面板，它封装了 LTX-2 MLX 模型，支持联合音频与视频生成，并提供一键式 P★ 240
guaardvarkGuardvark 是一个自托管的 AI 工作站，旨在将多种 AI 能力整合到本地硬件上运行。它解决了用户对数据隐私和云端依赖的担忧，提供了一套完整的本地 AI★ 238
portable-hermes-agentportable-hermes-agent 是一个将 Hermes Agent 打包为 Windows 便携式桌面应用的早期项目，旨在让用户无需安装、无需 Do★ 228
streamcore-serverstreamcore-server 是一个用 Go 编写的开源实时语音智能体服务器，专注于构建低延迟的语音对话应用。它通过 WebRTC（WHIP）协议提供实时★ 228
forgeForge 是 Anthropic Agent Skills 标准的开源运行时，用 Go 编写，旨在让开发者编写 SKILL.md 文件后，将其编译为可移植、加★ 222
ai-freeai-free 是一个开源的本地 AI 客户端和编程代理，旨在为用户提供一个免费、本地化的 AI 交互和编码辅助工具。它支持 DeepSeek、Qwen、Cha★ 214