看穿 RAG 软肋：用知识投毒测试你的大模型防线
PoisonedRAG 是 USENIX Security 2025 收录的研究项目，专注于揭示检索增强生成（RAG）系统中的知识投毒攻击。它通过向知识库注入恶意文本，使大语言模型在回答问题时被误导，输出错误或有害信息。该项目提供了完整的攻击框架、数据集和评估工具，帮助安全研究人员理解 RAG 系统的脆弱性，并测试防御策略。核心能力包括：构造隐蔽的投毒文本、模拟多种攻击场景（如错误信息植入、目标答案劫持）、量化攻击成功率。它解决了 RAG 系统在可信知识源下的安全问题，为 AI 安全领域提供了实证基础。
TextAttack、RAGChecker、Retrieval-Augmented Generation (RAG) 安全评估工具集
PoisonedRAG 是评测安全领域的开源项目，由 sleeepeer 开发，2024 年首次发布。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 301。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-20。MIT许可证，完全免费，无付费版本。
它主要面向的使用场景是：安全研究人员评估RAG系统的抗攻击能力。同类可对比的替代方案包括 TextAttack、RAGChecker、Retrieval-Augmented Generation (RAG) 安全评估工具集。
上一篇：tonic_validate
下一篇：vidore-benchmark
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
