agent-safety
本站收录 10 个带「agent-safety」标签的 AI 开源项目
SponsioSponsio 是一个面向概率性 AI 智能体的确定性安全解决方案框架。它通过为智能体提供可验证的安全护栏、运行时监控和技能沙箱，解决大模型输出不可控、工具调用★ 454
dsh-memorydsh-memory 是一个探索白箱 AGI 架构的开源项目，旨在解决当前 AI 系统黑箱化、缺乏自我认知和持续学习能力的问题。它通过构建元认知循环（自我认知）★ 361
OpenARTOpenART 是一个面向自主 AI 智能体（Agent）的开源安全评测框架，专注在动态、长周期、有状态的环境中检验智能体的安全性与鲁棒性。随着 Agent 能★ 233
agent-control-standardagent-control-standard 是一个面向 AI 智能体运行时的开放标准与配套实现，用 TypeScript 编写。它要解决的问题是：当智能体开始★ 181
XSafeClawXSafeClaw 是复旦大学开源的多智能体安全评测平台，专注于检测和防御针对 LLM 智能体的安全威胁。它解决的核心问题是：随着 Agent 被赋予工具调用和★ 164
ai-driven-development这是一个关于AI驱动软件开发的实践指南与技能集，旨在帮助开发者高效、安全地使用AI编程助手。项目针对Claude Code、Codex、OpenCode、Cur★ 158
Awesome-Embodied-AI-Safety这是一个关于具身AI安全领域的综述性开源项目，汇集了500多篇相关论文，系统梳理了具身AI在感知、认知、规划、交互和智能体系统等层面面临的风险、攻击与防御方法。★ 151
Agent-Execution-PartnershipAgent Execution Partnership (AEP) 是一个开源的 AI 智能体控制平面，专注于解决 AI 代理在执行任务时的安全与治理问题。它确★ 147
gensee-crategensee-crate 是一个用 Rust 编写的 AI 智能体安全运行工具，旨在为 Claude Code、Codex、Copilot 等 AI 编程助手提★ 125
guardian-sdkGuardian SDK 是 Ethicore Engine™ 的开源组件，一个专注于 AI 安全、伦理与合规的防护平台。它通过多层分析流水线，保护 AI 应用★ 122