autoguardrails

用 policy.md 自动搜索最优 LLM 护栏策略

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 评测安全 🍴 复刻 36 🐛 待处理 1 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 129
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目，Apache-2.0 许可证，完全免费，可自行部署使用。

项目预览

autoguardrails 项目界面预览图
图片来源：项目官网

项目数据

分类评测安全
开发团队SantanderAI
官网地址https://github.com/SantanderAI
GitHubhttps://github.com/SantanderAI/autoguardrails
定价模式🏷️完全免费
价格说明开源项目，Apache-2.0 许可证，完全免费，可自行部署使用。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型ai,ai-safety,alignment,autoresearch,benchmark,content-moderation,evaluation,guardrails,jailbreak,llm,llm-safety,machine-learning,prompt-injection,python,red-teaming,responsible-ai,santander,security
GitHub 星标★ 129
上线时间2026-06-15 00:00:00
代码更新2026-10-01
仓库体积190 KB
本站数据更新2026-11-10
维护状态维护中
收录时间2026-08-10
浏览次数7

项目介绍

AutoGuardrails 是一个面向 LLM 护栏的 alignment-research 脚手架，采用 autoresearch 风格，在单一的 policy.md 文件界面上进行策略搜索。它旨在解决大语言模型安全对齐中护栏策略难以系统化评估和优化的问题。核心能力包括：将护栏策略以 Markdown 文档形式集中管理，便于版本迭代；通过自动化搜索和评估流程，在策略空间中探索更优的护栏配置；提供基准测试和内容审核评估，支持越狱攻击等安全场景的测试。项目处于早期阶段，适合研究人员和开发者用于实验性安全策略的快速原型验证。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 129

核心亮点

  • 单一 policy.md 界面，策略管理直观，便于版本控制和协作
  • 采用 autoresearch 风格，自动化搜索策略空间，提升效率
  • 集成评估与基准测试，可量化护栏效果，支持越狱等安全场景

不足之处

  • 早期项目，文档和社区生态待观察
  • 依赖单一文档策略，复杂场景下表达力可能受限

适用场景

  • LLM 安全研究员实验护栏策略优化
  • 企业快速原型验证内容审核规则
  • 学术研究对比不同护栏策略效果

替代项目

Guardrails AI、NeMo Guardrails、Llama Guard

上一篇：Awesome-LLMSecOps

下一篇：context-bombs

同类项目推荐

ablation 开源

用 LLM 智能体自动读汇编、追调用链，加速二进制逆向

Ablation is an AI-assisted reverse engineering (AIARE) framework

★ 4 2026-10-27
T2I-CompBench 开源

测出文生图模型到底懂不懂组合逻辑

[Neurips 2023 & TPAMI] T2I-CompBench (++) for Compositional Text-to-image Generation···

★ 348 2026-08-09
langwatch 开源

一站式搞定LLM评估与智能体测试，从开发到上线全程可控

Open-Source Agent Observability & Evals for AI Platform teams. Trace, test, route an···

★ 5019 2026-08-09
eva 开源

给肿瘤AI模型打分，让对比评测不再抓瞎

Evaluation framework for oncology foundation models (FMs)

★ 175 2026-08-09
prompttools 开源

一键对比测试提示词，选对模型和参数不再靠猜

Open-source tools for prompt testing and experimentation, with support for both LLMs···

★ 3061 2026-08-09
Impossible-Videos 开源

用不可能视频，测出多模态模型的物理常识短板

ICML 2025 - Impossible Videos

★ 82 2026-08-09
Rules.txt 开源

用指令集撬开AI黑盒，审计推理与偏见

LLM alignment jailbreak; a set of instructions for auditing their internal reasoning···

★ 110 2026-08-09
faster_coco_eval 开源

替换 pycocotools，COCO 评测提速数倍不丢精度

Continuation of an abandoned project fast-coco-eval

★ 148 2026-09-14
evals 开源

配置驱动的 Agent 评测，批量跑完直接看结果

Fast, robust, configurable agent evals

★ 164 2026-11-05