llm-guard

给 LLM 应用加把安全锁,防注入防泄露

llm-guard 是一个面向大语言模型交互的安全工具包,旨在检测和缓解各类安全威胁,如提示注入、越狱攻击、敏感信息泄露等。它通过输入输出验证、内容过滤、异常检测等机制,为 LLM 应用提供防护层,支持与主流 LLM 框架集成。核心能力包括:输入输出扫描、提示注入检测、PII 脱敏、毒性过滤等。解决开发者在构建 LLM 应用时面临的安全合规问题,帮助企业在生产环境中安全部署 AI 服务。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 3207
维护状态 维护中
是否开源 是
定价模式 free

项目数据

分类对话助手
开发团队protectai
所属国家
定价模式free
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型adversarial-machine-learning,chatgpt,large-language-models,llm,llm-security,llmops,prompt-engineering,prompt-injection,security-tools,transformers
GitHub 星标★ 3207
30天Star增速
HF 下载量
上线时间2023-07-27 00:00:00
最近更新2026-09-22 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2

使用教程

难度:入门 约 5 分钟 部署方式:库/依赖 5 步

环境要求

  • Python 3.9 或更高版本
  • 已安装 pip,且建议升级到最新版本
  • 若需运行 OpenAI 示例,需自备 OpenAI API 密钥

安装与启动步骤

  1. 1确认 Python 版本

    README 要求 Python 3.9 以上,先检查本机版本,低于 3.9 需先升级 Python。

    python --version
  2. 2升级 pip

    README 建议:如果遇到库安装问题,先升级 pip 再安装。

    python -m pip install --upgrade pip
  3. 3安装 LLM Guard

    README 给出的唯一安装方式,直接从 PyPI 下载安装包,基础功能依赖较少。

    pip install llm-guard
  4. 4查看官方示例

    README 指向仓库中的 ChatGPT 示例文件与在线 Playground,可先了解调用方式。

  5. 5部署为 API

    README 提示可将 LLM Guard 以 API 形式部署,具体命令请查阅官方文档 API 章节。

如何确认成功

执行 pip show llm-guard,能输出包名、版本等信息即表示安装成功。

常见问题

Q:这个项目还在维护吗?

A:已归档。README 明确声明项目及其 Hugging Face 模型不再活跃开发与维护,用于生产前需自行评估风险。

Q:安装时提示库冲突或失败怎么办?

A:README 建议先升级 pip:python -m pip install --upgrade pip,再重新执行 pip install llm-guard。

Q:如何快速体验效果?

A:可访问 README 中给出的 Hugging Face Playground 在线试用,或参考仓库 examples/openai_api.py 示例。

Q:如何把 LLM Guard 部署成服务?

A:README 指向官方文档的 API 章节,按该页面说明进行 API 方式部署。

注意事项

  • 项目已归档,模型与代码不再维护,请勿直接用于对稳定性要求高的生产环境。
  • 基础功能只需少量依赖,使用进阶功能时相关库会被自动安装。
  • 本教程只覆盖 README 中出现的安装步骤,示例脚本的运行方式请以仓库 examples 文件为准。

核心亮点

  • 提供输入输出双向扫描,有效拦截提示注入和越狱攻击
  • 内置 PII 检测与脱敏,保护用户隐私数据
  • 模块化设计,可灵活组合安全策略,易于集成到现有 LLM 流程

不足之处

  • 文档/社区待观察
  • 安全检测可能产生误报,影响正常交互

适用场景

  • 企业级 LLM 应用生产环境安全防护
  • 需要处理用户敏感数据的客服或助手系统
  • 多租户 LLM 平台的安全隔离

替代项目

Rebuff、Guardrails AI、NeMo Guardrails

项目介绍

llm-guard 是评测安全领域的开源项目,由 protectai 开发,2023 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(3,207)位列前 30%,在评测安全分类的 466 个项目里位列前 9%。

项目仍在小幅维护中,最近一次代码更新于 2026-09-22。MIT许可证,完全免费,可自行部署使用。

它主要面向的使用场景是:企业级LLM应用生产环境安全防护。同类可对比的替代方案包括 Rebuff、Guardrails AI、NeMo Guardrails。

上一篇:awesome-language-model-analysis

下一篇:geobench

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12