项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 234
核心亮点
- 内存占用极低（约1%），对本地资源紧张的用户友好
- 自动识别并脱敏敏感信息，无需手动干预，保护隐私高效
- 支持 Docker 和 CLI 两种部署方式，且兼容主流 LLM API（OpenAI/Anthropic）
不足之处
- 早期项目（183星），文档和社区支持尚不完善，需自行探索
- 依赖 MITM 代理，可能对 HTTPS 流量解密有兼容性风险，需用户信任本地代理
适用场景
- 个人开发者使用 ChatGPT/Claude 处理含客户信息的邮件或文档时，防止数据泄露
- 企业内部工具集成 AI 助手，需对员工对话内容进行合规脱敏
- 隐私敏感场景（如医疗、法律）下，使用 AI 辅助写作但不想暴露真实身份信息
替代项目
PrivateGPT、LocalAI、Ollama
上一篇：llama-cpp-docker
下一篇：openai
同类项目推荐
clearml-fractional-gpu
开源
一块GPU跑多个容器，显存限制+时间切片，利用率翻倍
ClearML Fractional GPU - Run multiple containers on the same GPU with driver level m···
tensorlake
开源
一键部署智能体后台任务，沙箱安全执行代码
Tensorlake is a serverless runtime for sandboxes and deploying background agentic ap···
WorldFoundry
开源
统一跑通世界模型推理与评测，告别碎片化流程。
Unified World Model Inference & Evaluation Infrastructure
sacremoses
开源
Moses 文本预处理工具一键迁移到 Python，让分词大小写规范化不再愁
Python port of Moses tokenizer, truecaser and normalizer
redis-llm
开源
用 Redis 给 LLM 装个长期记忆，轻松访问私有数据
redis-llm integrates LLM with Redis. It can help LLM to access private data, and rem···
VectorRAG.Net
开源
在 .NET 中快速实现语义搜索和 RAG，无需外部向量数据库。
VectorRAG.Net is a .NET-native high-performance vector database library for semantic···
kite
开源
一个界面管多集群，AI 帮你运维 K8s
A lightweight, modern Kubernetes dashboard. All your clusters. One workspace.
gpt4local
开源
本地跑 GPT，文档问答秒回，OpenAI 接口无缝换
Openai-style, fast & lightweight local language model inference w/ documents
TransformerEngine
开源
让 Transformer 在 NVIDIA GPU 上跑得更快更省显存
A library for accelerating Transformer models on NVIDIA GPUs, including using 8-bit ···