qvac

本地跑AI，跨平台私有部署，数据不出设备

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 搜索知识 🍴 复刻 156 🐛 待处理 126 👀 关注 7
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 754
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目，Apache-2.0 许可证，本地部署，完全免费。

项目预览

qvac 项目界面预览图
图片来源：项目官网

项目数据

分类搜索知识
开发团队tetherto
官网地址https://qvac.tether.io
GitHubhttps://github.com/tetherto/qvac
定价模式🏷️完全免费
价格说明开源项目，Apache-2.0 许可证，本地部署，完全免费。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言TypeScript
技术栈/模型ai-sdk,decentralized-ai,llama,llm-inference,local-ai,local-fine-tuning,local-llm,nodejs,on-device-ai,open-source-ai,open-source-llm,open-source-rag,open-source-speech-to-text,openai-compatible,p2p-ai,python,run-llm-locally,stable-diffusion,typescript,whisper
GitHub 星标★ 754
上线时间2026-01-03 00:00:00
代码更新2026-11-09
仓库体积349.0 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数8

项目介绍

QVAC 是一个面向本地优先的 AI 应用开发 SDK 和库集合，旨在帮助开发者构建私有、跨平台、点对点的 AI 应用。它支持在 Linux、macOS、Windows、Android 和 iOS 上本地运行大语言模型、语音转文字、翻译等功能，无需依赖云端服务，从而保障数据隐私。该项目使用 TypeScript 编写，提供统一的 API 接口，简化了本地 AI 能力的集成，解决了传统 AI 应用依赖网络、数据外泄和跨平台适配复杂的问题。核心能力包括本地推理、多平台支持、P2P 通信，适合构建离线或隐私敏感场景下的智能应用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 754

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：进阶 约 25 分钟 部署方式：嵌入应用 4 步

环境要求

  • Node.js 20+ 或 Python 3.10+
  • 本地模型文件

安装与启动步骤

  1. 1建工程

    先建一个 ESM 工程。

    npm init -y && npm pkg set type=module

  2. 2装 SDK

    官方 SDK 走 npm。

    npm i @qvac/sdk

  3. 3写配置

    指定模型与运行参数。

    QVAC_CONFIG_PATH=./qvac.config.json node quickstart.js

  4. 4或走 CLI

    命令行方式更适合先验证。

    npm install -g @qvac/cli

如何确认成功

快速开始脚本能完成一次本地推理并打印结果。

注意事项

  • 它把本地推理封装成 SDK，不依赖云端。
  • 模型文件要自己准备，仓库不带权重。

核心亮点

  • 支持5大平台（Linux/macOS/Windows/Android/iOS），一套代码多端运行
  • 内置语音转文字和翻译功能，开箱即用，减少集成成本
  • 点对点架构设计，适合构建去中心化或离线优先的AI应用

不足之处

  • 项目处于早期阶段（395星），API可能不稳定，文档和社区生态待观察
  • 本地运行大模型对设备性能要求较高，低端设备体验可能受限

适用场景

  • 隐私敏感的企业内部知识库问答助手
  • 离线环境下的语音翻译工具（如旅行翻译机）
  • 跨平台个人AI助理，数据完全本地存储

替代项目

Ollama、llama.cpp、Transformers.js

上一篇：python-sdk

下一篇：NanoLLM

同类项目推荐

comfy-pack 开源

一键锁定打包 ComfyUI 环境，告别部署翻车

A comprehensive toolkit for reliably locking, packing and deploying environments for···

★ 215 2026-08-09
GenieX 开源

一行代码让高通设备跑起前沿大模型，离线AI轻松实现

Run frontier LLMs and VLMs locally on Qualcomm devices across NPU, GPU, and CPU with···

★ 8508 2026-08-09
ncnn 开源

手机端跑深度模型，快、小、零依赖

ncnn is a high-performance neural network inference framework optimized for the mobi···

★ 24030 2026-11-08
edge-ai 开源

开箱即用的边缘 AI 基础设施代码包

Production-ready Infrastructure as Code, applications, pluggable components, and Pla···

★ 107 2026-10-31
langfuse-java 开源

Java 项目快速接入 Langfuse，实现 LLM 调用追踪与观测

Auto-generated Java Client for Langfuse API

★ 74 2026-08-09
server 开源

MySQL 的社区增强版，开箱即用更稳更强

MariaDB server is a community developed fork of MySQL server. Started by core member···

★ 8553 2026-08-29
pyseekdb 开源

用 Python 轻松连接 OceanBase，高效实现向量检索

A unified python SDK supports OceanBase or OceanBase seekdb, more efficient and easy···

★ 62 2026-08-09
database-build 开源

浏览器里玩转 Postgres，AI 帮你写 SQL

In-browser Postgres sandbox with AI assistance (formerly postgres.new)

★ 2950 2026-08-09
tokenu 开源

像 du 一样快速统计 token 用量，优化 AI 上下文管理

a unix-like du command line tool to count token usage per files and directories

★ 67 2026-08-09