garak

环境要求

• Python 运行环境（garak 通过 pip 安装，官方在 Linux 和 OSX 上开发）
• 可访问 PyPI（或 GitHub，用于安装开发版）的网络
• 已确定要扫描的 LLM 后端；部分生成器需要以环境变量形式提供 API 密钥

安装与启动步骤

1. 1安装 garak

   从 PyPI 安装最新稳定版 garak，这是官方推荐的标准安装方式，装完即得到 garak 命令行工具。

   python -m pip install -U garak

   复制

2. 2安装开发版(可选)

   PyPI 版本更新有周期。若想用 GitHub 上更新的代码，可改用这条命令安装 main 分支开发版。

   python -m pip install -U git+https://github.com/NVIDIA/garak.git@main

   复制

3. 3查看可用探针

   确认安装成功并了解 garak 内置了哪些探针（probes），输出的是可被扫描使用的插件列表。

   garak --list_probes

   复制

4. 4指定目标模型

   用 --target_type 指定模型族/接口，--target_name 指定具体模型。示例加载 Hugging Face Hub 上的模型。

   garak --target_type huggingface --target_name "RWKV/rwkv-4-169m-pile"

   复制

5. 5限定扫描范围

   默认会跑全部探针。用 --spec 只跑指定插件族，例如只使用 PromptInject 的方法，可显著缩短耗时。

   garak --target_type huggingface --target_name "RWKV/rwkv-4-169m-pile" --spec probes.promptinject

   复制

6. 6运行单个插件

   在插件族后加点再接插件名可只跑一个插件，例如只检查模型是否输出侮辱性词汇。

   garak --target_type huggingface --target_name "RWKV/rwkv-4-169m-pile" --spec probes.lmrc.SlurUsage

   复制

关键配置

如何确认成功

执行 garak --list_probes 能正常输出探针列表，即说明 garak 安装成功并可运行。

常见问题

注意事项

• garak 是命令行工具，官方在 Linux 和 OSX 上开发，其他系统的兼容性 README 未说明。
• README 推荐先阅读用户指南 docs.garak.ai 获取完整用法。
• 默认对所有探针全量扫描，耗时可能很长，建议先用 --spec 限定范围验证流程。
• 扫描前请确保已获得对目标模型的测试授权。