项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 6855
技术标签
使用教程
⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。
环境要求
- Node.js 环境(README 给出 TypeScript 用法示例,包名 safety-agent)
- Python 环境(README 给出 Python 用法示例,包名 safety_agent)
- 需自行访问官方文档 https://docs.superagent.sh 获取安装方式
安装与启动步骤
-
1查阅官方文档
README 节选未提供安装命令,先到官网文档确认对应语言 SDK 的安装方式与最新用法。
-
2初始化客户端
TypeScript 从 safety-agent 导入 createClient 并调用;示例中未传入任何参数。
import { createClient } from "safety-agent"; const client = createClient(); -
3调用 guard 检测
把用户输入传给 client.guard,返回结果包含 classification 字段。
const result = await client.guard({ input: userMessage }); -
4处理阻断结果
classification 为 block 表示命中违规,可从 violation_types 读取违规类型。
if (result.classification === "block") { console.log("Blocked:", result.violation_types); } -
5Python 端调用
Python 版本从 safety_agent 导入 create_client,同样 await 调用 guard 并判断结果。
from safety_agent import create_client client = create_client() result = await client.guard(input=user_message) if result.classification == "block": print("Blocked:", result.violation_types)
如何确认成功
运行 guard 后能拿到返回结果即调用成功,classification 为 block 时表示检测并阻断了风险输入。
常见问题
Q:如何安装 superagent SDK?
A:README 节选未给出安装命令,请访问 https://docs.superagent.sh 查看 TypeScript 与 Python 两种版本的安装说明,不要凭猜测安装包名。
Q:支持哪些编程语言?
A:README 给出了 TypeScript(包名 safety-agent)和 Python(包名 safety_agent)两套示例,用法基本一致。
Q:guard 返回什么内容?
A:返回结果含 classification 字段,值为 block 表示输入违规;violation_types 列出具体的违规类型。
Q:createClient 需要传密钥吗?
A:README 示例中 createClient() 未传任何参数,是否需要鉴权参数请以官方文档为准。
注意事项
- README 节选未包含安装命令与配置项,安装和鉴权方式必须以官方文档为准,本教程未虚构包安装命令。
- 示例中的 userMessage 需替换为你自己应用里的真实用户输入。
- README 还提到 Redact(PII/PHI/密钥脱敏)等能力,但节选内容被截断,未给出完整示例。
- 项目官网 https://superagent.sh,文档 https://docs.superagent.sh。
核心亮点
- 提供现成的提示注入检测和过滤规则,开箱即用
- 支持自定义安全策略,灵活适配不同业务场景
- 轻量级 SDK,集成简单,不侵入现有代码
不足之处
- 文档/社区待观察
- 安全检测可能产生误报,需要调优阈值
适用场景
- 聊天机器人防提示注入攻击
- 企业 AI 应用数据泄露防护
- AI 输出内容合规性审查
替代项目
Rebuff、Guardrails AI、Llama Guard
上一篇:guardrails
下一篇:Viper
同类项目推荐
llm-jp-eval
开源
一键跑通日语 LLM 多任务评测,结果可对比
merchantbench
开源
365天订单级仿真,测LLM智能体长期经营是否前后一致
MerchantBench is a 365-day, order-level benchmark for evaluating the long-term coher···
llm-srbench
开源
测测大模型能不能发现科学公式,一测便知
[ICML2025 Oral] LLM-SRBench: A New Benchmark for Scientific Equation Discovery with ···
Awesome-AI-Hacking-Agents
开源
一页清单,快速找到能自动打渗透的 AI 智能体
List of AI Hacking Agents
agentjail
开源
给AI编程助手装上安全锁,每次操作先过检再执行
Policy guardrails for coding agents (Claude Code, Codex, Cursor) — every tool call ···
PoisonedRAG
开源
看穿 RAG 软肋:用知识投毒测试你的大模型防线
[USENIX Security 2025] PoisonedRAG: Knowledge Corruption Attacks to Retrieval-Augmen···
dialog-eval
开源
17个指标一键评估你的对话模型,告别人工打分。
Evaluate your dialog model with 17 metrics! (see paper)
prometheus-eval
开源
用 Prometheus 或 GPT-4 自动给 LLM 回复打分,快速筛选最佳模型。
Evaluate your LLM's response with Prometheus and GPT4
CS-Eval
开源
给网络安全大模型打分,快速找出安全能力短板
CS-Eval is a comprehensive evaluation suite for fundamental cybersecurity models or ···
