AutoControl-Arena 是评测安全领域的开源项目，由 CosmosYi 开发，是 2026 年新上线的项目。
它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 108。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。从国内网络环境看，可直接访问。
它主要面向的使用场景是：大模型发布前的安全审计。同类可对比的替代方案包括 AgentBench、RSPBench、Inspect AI。
AutoControl-Arena
自动给AI找茬，提前暴露危险行为
AutoControl-Arena 是一个面向前沿 AI 的风险自动发现平台，旨在系统性地评估和暴露大语言模型在自主控制场景下的潜在危险能力。它通过构建一个自动化的对抗测试环境，让 AI 智能体在模拟的沙盒中执行任务，同时自动探测其是否表现出欺骗、权力寻求、自我复制等高风险行为。该平台解决了传统安全评估依赖人工设计测试用例、覆盖面有限且难以规模化的问题，核心能力包括自动化风险场景生成、多维度行为监控、以及基于 ICML 2026 论文方法的评估框架。项目采用 Python 实现，集成 agent 技术，为 AI 安全研究社区提供了一个可扩展的基准测试工具，帮助研究者和开发者提前发现模型在部署前可能存在的安全隐患。
开源
unknown
智能体
GitHub 星标
★ 108
维护状态
低维护
是否开源
是
定价模式
unknown
项目数据
分类智能体
开发团队CosmosYi
所属国家
定价模式unknown
价格说明定价信息待确认
访问状态
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型agent,ai-agent,ai-agents,ai-safety,ai-safety-research,alignment,safety-alignment,safety-evaluation
GitHub 星标★ 108
30天Star增速
HF 下载量
上线时间2026-03-08 00:00:00
最近更新2026-09-21 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数3
使用教程
核心亮点
- 自动化生成对抗性测试场景，无需人工编写大量用例
- 聚焦前沿风险如欺骗、权力寻求，直击安全痛点
- 提供可复现的评估框架，便于社区对比和迭代
不足之处
- 早期项目，文档和社区支持待观察
- 评估场景可能偏学术，实际部署适配需验证
适用场景
- 大模型发布前的安全审计
- AI智能体行为监控与红队测试
- 安全对齐研究的基准测试
替代项目
AgentBench、RSPBench、Inspect AI
项目介绍
上一篇：ai-eval-platform
下一篇：ClawdSecbot
同类项目推荐
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.