项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1532
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- 已安装 Python 与 pip(README 未指定具体版本)
- 可正常访问 PyPI 的网络环境
- 如需服务端部署,需参考官方 Self-hosting 与 docs.rebuff.ai 文档
安装与启动步骤
-
1确认 Python 环境
先确认本机已具备 Python 与 pip,后续安装命令依赖 pip,README 未指定最低版本。
python --version pip --version -
2安装 rebuff
使用 README 给出的官方命令从 PyPI 安装 rebuff 包,建议在虚拟环境中执行以免污染全局环境。
pip install rebuff -
3配置服务端参数
服务端配置项 BILLING_RATE_INT_10K 决定每次请求扣除的额度,按 10k 对应 1 美元换算后设置。
export BILLING_RATE_INT_10K=10000 -
4验证安装结果
尝试导入 rebuff 模块,确认依赖已正确安装且无导入错误。
python -c "import rebuff" -
5查阅进阶文档
README 中的 Getting started / Self-hosting 仅给出入口,具体 API 调用与自托管步骤请查看官方文档。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
BILLING_RATE_INT_10K | 是 | 每次请求扣除的额度,10k 对应 1 美元;设为 1 即每次请求扣 0.1 美分 | 10000 |
如何确认成功
执行 python -c "import rebuff" 无报错,即表示依赖安装成功。
常见问题
Q:Rebuff 能提供 100% 的提示注入防护吗?
A:不能。README 的 Disclaimer 明确说明 Rebuff 仍是原型,无法提供 100% 的保护,建议作为多层防御中的一环使用。
Q:有 Python SDK 吗?
A:README 路线图中 Prompt Injection Detection、Canary Word Leak Detection、Attack Signature Learning、JavaScript/TypeScript SDK 均已完成,Python SDK 仍待完成。
Q:BILLING_RATE_INT_10K 该怎么取值?
A:该值为整数,10000 表示每次请求扣 1 美元,设为 1 表示每次请求扣 0.1 美分,可按业务成本自行调整。
Q:安装命令是什么?
A:README 给出的安装方式只有一条:pip install rebuff,无需其他前置依赖安装步骤。
注意事项
- Rebuff 仍是原型,官方明确声明无法 100% 防御提示注入攻击。
- README 未给出 API Key、端口、服务地址等配置,实际接入前请先阅读 docs.rebuff.ai。
- Rebuff 采用四层防御:启发式规则、基于 LLM 的检测、向量数据库存储历史攻击、Canary Token 泄露检测。
- 官方提供在线 Playground(playground.rebuff.ai)可用于快速体验效果。
核心亮点
- 多层检测机制(正则、语义、诱饵、审核),防护更全面
- 提供可插拔的 SDK,易于集成到现有 LLM 应用
- 支持自定义检测规则,灵活适配不同场景
不足之处
- 依赖外部 API(如 OpenAI)可能增加成本和延迟
- 检测存在误报/漏报风险,需结合业务调优
- 文档/社区待观察
适用场景
- 构建面向公众的聊天机器人或客服系统,防止恶意指令注入
- 在 RAG 或 Agent 应用中,过滤外部知识库中的恶意内容
- 作为安全中间件,为内部 LLM 工具提供统一输入防护
替代项目
Prompt Guard、Llama Guard、NeMo Guardrails
上一篇:FuzzyAI
下一篇:llm-colosseum
同类项目推荐
rizzo-pii
开源
本地脱敏文档,再放心喂给 LLM
Local-first privacy guard: anonymize your documents before sharing with LLMs.
rag-arena
开源
让用户投票,选出最好的 RAG 系统
Open-source RAG evaluation through users' feedback
chinese-llm-benchmark
开源
看中文大模型谁最强,查百万缺陷库避坑
非线智能 NoneLinear - ReLE评测:中文AI大模型能力评测(持续更新):目前已囊括374个大模···
AI-ML-Free-Resources-for-Securit···
开源
照着路线图学,从零入门 AI 渗透与提示注入
AI/ML Pentesting Roadmap for Beginners
deepteam
开源
自动模拟越狱攻击,提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
Awesome-LLM-Reasoning-Failures
开源
一库看懂大模型推理翻车现场与原因
Repo for "Large Language Model Reasoning Failures"
hallucination-index
开源
测出哪个AI最会胡说八道,选模型不再踩坑
Initiative to evaluate and rank the most popular LLMs across common task types based···
PromptMe
开源
10 个动手挑战,亲手打穿 LLM 安全漏洞
PromptMe is an educational project that showcases security vulnerabilities in large ···
ArtifactsBenchmark
开源
一键跑分,量化 AI 生成工件质量
