autoguardrails

用 policy.md 自动搜索最优 LLM 护栏策略

AutoGuardrails 是一个面向 LLM 护栏的 alignment-research 脚手架，采用 autoresearch 风格，在单一的 policy.md 文件界面上进行策略搜索。它旨在解决大语言模型安全对齐中护栏策略难以系统化评估和优化的问题。核心能力包括：将护栏策略以 Markdown 文档形式集中管理，便于版本迭代；通过自动化搜索和评估流程，在策略空间中探索更优的护栏配置；提供基准测试和内容审核评估，支持越狱攻击等安全场景的测试。项目处于早期阶段，适合研究人员和开发者用于实验性安全策略的快速原型验证。

开源 free 评测安全

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 130

维护状态较活跃

是否开源是

定价模式 free

项目数据

分类评测安全

开发团队SantanderAI

所属国家

官网地址https://github.com/SantanderAI

GitHubhttps://github.com/SantanderAI/autoguardrails

定价模式free

价格说明开源项目，Apache-2.0 许可证，完全免费，可自行部署使用。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型ai,ai-safety,alignment,autoresearch,benchmark,content-moderation,evaluation,guardrails,jailbreak,llm,llm-safety,machine-learning,prompt-injection,python,red-teaming,responsible-ai,santander,security

GitHub 星标★ 130

30天Star增速

HF 下载量

上线时间2026-06-15 00:00:00

最近更新2026-09-16 00:00:00

维护状态较活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-10

浏览次数6

使用教程

核心亮点

单一 policy.md 界面，策略管理直观，便于版本控制和协作
采用 autoresearch 风格，自动化搜索策略空间，提升效率
集成评估与基准测试，可量化护栏效果，支持越狱等安全场景

不足之处

早期项目，文档和社区生态待观察
依赖单一文档策略，复杂场景下表达力可能受限

适用场景

LLM 安全研究员实验护栏策略优化
企业快速原型验证内容审核规则
学术研究对比不同护栏策略效果

替代项目

Guardrails AI、NeMo Guardrails、Llama Guard

项目介绍

autoguardrails 是评测安全领域的开源项目，由 SantanderAI 开发，是 2026 年新上线的项目。

它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 130。

项目保持着较活跃的维护节奏，最近一次代码更新于 2026-09-16。Apache-2.0 许可证，完全免费，可自行部署使用。

它主要面向的使用场景是：LLM安全研究员实验护栏策略优化。同类可对比的替代方案包括 Guardrails AI、NeMo Guardrails、Llama Guard。

上一篇：Awesome-LLMSecOps

下一篇：context-bombs