给AI智能体行为打上隐形水印，防止被盗用
AgentMark 是一个面向智能体（Agent）行为的水印工具，旨在保护基于大语言模型的智能体不被恶意窃取或滥用。随着智能体在工具调用、多步推理等场景中的普及，其行为模式（如决策轨迹、工具使用序列）成为重要的知识产权。AgentMark 通过在不破坏智能体原有功能（即效用保持）的前提下，将特定水印嵌入其行为中，从而实现对智能体行为的溯源和版权认证。该工具基于 Python 实现，提供了行为水印的嵌入、提取和验证流程，支持对智能体行为流的细粒度标记。其核心能力包括：设计可区分的行为特征、确保水印对任务性能影响最小、以及在水印被攻击时仍能可靠检测。该项目发表于 ACL 2026，属于学术前沿研究，适合对智能体安全、模型知识产权保护感兴趣的开发者或研究者使用。
Watermarking for LLM (如KGW)、DeepSign、Adversarial Watermark
AgentMark 是评测安全领域的开源项目，由 Tooooa 开发，是 2026 年新上线的项目。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 96。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-16。MIT许可证，完全免费，无付费版本。
它主要面向的使用场景是：保护商业智能体产品的行为知识产权。同类可对比的替代方案包括 Watermarking for LLM (如KGW)、DeepSign、Adversarial Watermark。
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
Tracely-ai
开源
把生产事故变成回归测试，合并前自动拦截 AI 故障
Trace-native CI/CD for AI agents — production failures become regression tests that···
