PoisonedRAG
看穿 RAG 软肋：用知识投毒测试你的大模型防线
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 308
核心亮点
- 首个系统化研究 RAG 知识投毒攻击的学术项目，填补领域空白
- 提供完整攻击代码和实验数据，可复现论文结果
- 攻击场景设计贴近真实应用，如问答、事实验证等
不足之处
- 项目处于早期阶段，文档和社区支持有限
- 主要面向安全研究，对普通开发者使用门槛较高
适用场景
- 安全研究人员评估 RAG 系统的抗攻击能力
- 企业检测内部知识库的潜在投毒风险
- 学术机构进行大模型安全课程教学实验
替代项目
TextAttack、RAGChecker、Retrieval-Augmented Generation (RAG) 安全评估工具集
上一篇：tonic_validate
下一篇：vidore-benchmark
同类项目推荐
jevals
开源
每条 trace 一次请求，几分钱延迟低到能进 Agent 循环
Agent evals and guardrails as Jev decisions: one request per trace, a fraction of a ···
cai
开源
给AI穿上防弹衣，让安全模型扛住攻击
Cybersecurity AI (CAI), the framework for AI Security
AlignBench
开源
测中文大模型对齐能力，多维打分看清模型强弱
大模型多维度中文对齐评测基准 (ACL 2024)
Awesome-LMMs-Mechanistic-Interpr···
开源
一站式读懂多模态模型内部工作原理
A curated collection of resources focused on the Mechanistic Interpretability (MI) o···
Tracekit
开源
给 AI Agent 装行车记录仪，每步可查、篡改可发现
Tamper-evident tracing, policy gates and cross-checks for AI agents: see what the ag···
verifywise
开源
一站式搞定 AI 合规审计，轻松应对欧盟 AI 法案等 20+ 法规。
Complete AI governance and LLM Evals platform with support for EU AI Act, ISO 42001,···
Eval
开源
并行跑 LLM 评测，速度提升最高 17 倍
High-performance LLM evaluation framework with parallel API calls — up to 17× fast···
eval-assist
开源
用网页交互调教 LLM 当裁判，迭代出靠谱评估标准
EvalAssist is an open-source project that simplifies using large language models as ···
baple
开源
用提示学习给医学AI模型植入后门，验证安全漏洞
[MICCAI 2024] Official code repository of paper titled "BAPLe: Backdoor Attacks on M···