ODS

一键将电脑变成全能 AI 服务器,本地运行 LLM、语音、图像与自动化。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 音频音乐 🍴 复刻 1110 🐛 待处理 779 👀 关注 47
GitHub ↗
GitHub 星标 ★ 7785
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0 许可证,可自行部署,完全免费。

项目预览

ODS 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类音频音乐
开发团队Osmantic
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0 许可证,可自行部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型ai-agents,amd,comfyui,docker,llama-cpp,llm,local-ai,n8n,nvidia,open-webui,rag,self-hosted,speech-to-text,strix-halo,text-to-speech,workflow-automation
GitHub 星标★ 7785
上线时间2026-02-09 00:00:00
代码更新2026-11-07
仓库体积154.7 MB
本站数据更新2026-11-07
维护状态活跃
收录时间2026-08-09
浏览次数8

项目介绍

ODS 是一个开源的本地 AI 服务器解决方案,旨在将个人电脑(PC、Mac 或 Linux)转变为功能全面的 AI 中心。它解决了用户对数据隐私、离线可用性和成本控制的关切,通过 Docker 容器化技术,集成 LLM 推理、聊天界面、语音识别、智能体、工作流自动化、RAG 检索增强生成以及图像生成等核心能力。项目基于 Python 构建,支持 AMD、NVIDIA 等硬件加速,兼容 llama.cpp、ComfyUI、n8n、Open WebUI 等主流工具,提供一站式部署体验,让非专业用户也能轻松搭建私有 AI 环境。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 7785

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 10 分钟 部署方式:Docker 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 一台 PC、Mac 或 Linux 电脑
  • 可用的 Docker 环境(ODS 采用容器化部署)
  • 可选:AMD 或 NVIDIA GPU 以获得硬件加速

安装与启动步骤

  1. 1确认系统与硬件

    确认使用 PC、Mac 或 Linux 设备;如有 AMD/NVIDIA 显卡可启用硬件加速。

  2. 2准备 Docker 环境

    ODS 以 Docker 容器方式安装并串联各服务,请先确保本机 Docker 可正常运行。

  3. 3获取项目代码

    从 GitHub 克隆 ODS 仓库到本地,后续安装操作在该目录内进行。

    git clone https://github.com/Osmantic/ODS
  4. 4按 README 安装启动

    README 节选未给出具体安装命令,请以仓库 README 中的安装步骤为准执行。

如何确认成功

启动后在浏览器打开本地控制面板,确认模型、服务与 GPU 状态可正常显示。

常见问题

Q:必须联网或订阅云服务吗?

A:不需要。ODS 本地运行,提示词与数据默认留在本机;云端或混合 API 模式仅在需要时可选启用。

Q:需要自己手动安装 Ollama、Open WebUI、n8n、ComfyUI 吗?

A:不需要。ODS 自动安装并打通这些服务,包含聊天界面、工作流、图像生成等能力。

Q:支持什么样的硬件?

A:支持 PC、Mac 或 Linux,并兼容 AMD、NVIDIA 等硬件加速。

注意事项

  • README 节选未包含安装命令,实际部署请以仓库 README 与发布说明为准。
  • 默认无需云服务与订阅,数据除非你主动选择否则不出本机。
  • 服务密钥与诊断信息统一保存在本地栈中,注意本机访问安全。

核心亮点

  • 集成 LLM 推理、聊天、语音、RAG、图像生成、工作流等全栈 AI 能力,开箱即用
  • 基于 Docker 容器化部署,支持 AMD/NVIDIA 硬件加速,跨平台兼容 PC/Mac/Linux
  • 整合 llama.cpp、ComfyUI、n8n 等成熟开源组件,生态丰富,扩展性强

不足之处

  • 文档/社区待观察
  • 依赖 Docker 环境,对新手有一定门槛

适用场景

  • 个人开发者搭建私有 AI 开发测试环境
  • 中小企业内部部署 AI 助手,保障数据安全
  • 离线环境下的语音助手、图像生成等 AI 应用

替代项目

LocalAI、Ollama、PrivateGPT

上一篇:AI-Horde

下一篇:Minimalistic-Comfy-Wrapper-WebUI

同类项目推荐

container 开源

给 AI 编程助手套上沙箱,放心让它全权限干活。

Persistent Linux workspaces for agentic development.

★ 385 2026-08-09
higress 开源

用 Envoy 打造 AI 原生网关,统一管理模型流量与成本。

AI Gateway | AI Native API Gateway

★ 9727 2026-08-09
nano-vllm-prefillonly 开源

砍掉解码只留 prefill,判别式大模型推理更快更省

A specialized optimization of nano-vllm for prefill-only inference tasks, designed f···

★ 120 2026-10-05
mlrun 开源

一键编排ML流水线,从开发到上线全自动

MLRun is an open source MLOps platform for quickly building and managing continuous ···

★ 1702 2026-08-09
serverless-workers 开源

一键部署 AI 模型为无服务器端点,省时省力

⚙️ | REPLACED BY https://github.com/runpod-workers | Official set of serverless wo···

★ 63 2026-08-09
evadb 开源

用 SQL 方式调用 AI 模型,快速构建智能数据应用

Database system for AI-powered apps

★ 2674 2026-08-09
cortex 开源

统一管理多模型和智能体工具,一键切换后端AI服务

Open-source AI backend control plane for model routing, agent tools, OpenAI-compatib···

★ 66 2026-08-09
airbyte 开源

600+连接器,把任意数据源同步到仓库或AI应用

Open-source data movement for ELT pipelines and AI agents — from APIs, databases & ···

★ 22331 2026-09-22