项目预览
项目数据
分类评测安全
开发团队NVIDIA-NeMo
所属国家
定价模式unknown
价格说明定价信息待确认
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型agent-evaluation,ai-agents,guardrails,kubernetes,llm,llmops,nemo,nvidia,python,red-teaming
GitHub 星标★ 113
30天Star增速
HF 下载量
上线时间2026-05-14 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-21
浏览次数0
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
正在加载星标数据…
技术标签
使用教程
—
核心亮点
- 把评测、护栏、红队测试整合进同一套 Agent 优化流程,减少多工具拼接成本
- 背靠 NVIDIA NeMo 生态,与 LLM 训练/推理工具链衔接顺畅
- 原生支持 Kubernetes 部署,便于在生产环境做规模化评测与安全策略下发
不足之处
- 项目处于早期,API 与文档可能频繁变动,稳定性待观察
- 强依赖 NVIDIA NeMo 生态,非该技术栈团队迁移成本较高
适用场景
- Agent 上线前的准确率与安全红队评测
- 生产环境 Agent 的实时护栏与风险拦截
- Kubernetes 集群中批量运行 Agent 评测任务
替代项目
promptfoo、Ragas
同类项目推荐
hanshuang-codex
开源
桌面端批量测大模型越狱提示,一键跑实验看边界
针对GPT 6.0,workbuddyV4.1flash的破甲实验项目
akto
开源
给 AI 应用做安全体检,防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾,自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
deepteam
开源
自动模拟越狱攻击,提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
