ai-governance
本站收录 47 个带「ai-governance」标签的 AI 开源项目
mlflow面向 Agent、LLM 与机器学习模型的开源 AI 工程平台，帮助团队完成调试、评估、监控与优化生产级 AI 应用的全流程管理，同时兼顾成本控制与模型、数据的★ 28,183
iFixAiiFixAi 是一个面向 AI Agent 的独立审计工具，旨在快速回答 AI Agent 经济中最关键的问题：Agent 是否在按预期工作？它支持由人类或 A★ 16,623
semantica以图为核心的 AI 基础设施，致力于为上下文管理与可问责 AI 系统提供支撑。通过知识图谱表达实体关系与上下文，为智能体提供结构化、可追溯的推理依据，在需要透明★ 13,540
open-multi-agentopen-multi-agent 是一个 TypeScript 编写的 AI 智能体编排框架，核心创新在于“描述目标而非流程图”——开发者只需定义任务目标，协调★ 6,968
skillhub讯飞开源的企业级 Agent 技能注册中心，支持私有化部署，用于发布与管理技能包及版本。内置 RBAC 权限控制与审计日志，可通过 Docker 或 Kuber★ 5,187
arc-kitarc-kit 是一个面向企业架构治理的 AI 智能体工具包，旨在利用 AI 编程助手（如 Claude Code、Codex CLI）将战略、架构、交付和合规★ 2,251
ThinkWatchThinkWatch 是一个面向企业的 AI 安全堡垒机，为 AI API 和 MCP（模型上下文协议）访问提供统一代理层。它解决企业在接入多家 AI 服务（如★ 815
trinityTrinity 是一个可自托管的 AI 智能体平台，目标是把 Claude Code、Codex、Gemini 等不同厂商的编码智能体统一到一个运行与治理层中。★ 603
asqav-sdkasqav-sdk 是一个为 AI 智能体行为提供可验证证据的 Python 和 TypeScript SDK。它解决的核心问题是：当 AI 智能体自主执行操作★ 591
agent-safe-pipelineagent-safe-pipeline 是一个为 AI 智能体提供安全执行边界的参考架构，解决智能体“能提议但不能擅自行动”的权限管控问题。其核心流程包括：不可★ 589
AdrianAdrian 是一个开源的 AI 智能体安全运行时工具，专门用于监控和控制 AI 智能体的行为。它解决的是智能体在执行任务时可能出现的恶意工具调用、提示注入攻击★ 577
cordumCordum 是一个面向 AI 智能体的“行动防火墙”，旨在为自主代理执行高风险操作前提供策略强制与人工审批机制。它解决的核心问题是：当 AI 代理被赋予调用工★ 510
awesome-MLSecOpsawesome-MLSecOps 是一个精选的 MLSecOps（机器学习安全运营）工具与资源清单，旨在帮助安全工程师、ML 工程师和 AI 团队系统性地保障机★ 473
ai-platform-engineeringCAIPE（Community AI Platform Engineering）是一个面向AI平台工程领域的开源社区项目，旨在为构建、部署和管理AI智能体（Ag★ 421
martin-loopmartin-loop 是一个面向 AI 编码代理的运行时控制平面，用 TypeScript 编写。它要解决的问题是：当你让 Claude Code、Codex★ 411
ai-sdlcai-sdlc 是一个面向 AI 增强软件开发生命周期的声明式治理框架，用 TypeScript 编写。它要解决的问题是：当团队把 AI 编码代理（如各类 AI★ 381
prismorprismor 是一个自托管的 AI 智能体运行时控制平面，专注于在工具调用执行前提供安全防护。它解决了 AI 代理在自主执行过程中可能引发的安全问题，如秘密泄★ 379
verifywiseVerifyWise 是一个面向 AI 治理与 LLM 评估的开源平台，旨在帮助组织应对日益复杂的 AI 法规和标准。它解决了企业在 AI 系统开发、部署和运营★ 359
agents-universeagents-universe 是一个面向团队协作的智能体框架，定位不是问答机器人，而是能真正执行任务的数字分身。它解决的核心问题是：传统 AI 助手各自为战、★ 359
DashClaw面向 AI Agent 的审批与策略控制层，在危险操作真正执行前进行拦截、阻断或远程审批。它为智能体操作提供了细粒度的安全边界，让用户可以放心授权自动化任务，是★ 308
governGovern 是一个基于 GitHub Actions 的 AI 治理与合规门禁工具，核心是让开发团队在 CI/CD 流程中对关键步骤（如部署、发布、基础设施变★ 264
ContribAIContribAI 是一个用 Rust 编写的自主 AI 智能体，旨在自动为开源项目做贡献。它能自动发现 GitHub 上的仓库，分析代码库，识别问题（如 bu★ 244
ksorKSoR（Knowledge System of Record）是一个用 TypeScript 编写的开源 SDK，目标是帮团队搭建「受治理的权威知识系统」，同★ 220
WritWrit 是一个 Claude Code 插件，旨在为 AI 编码代理引入人工审批机制，防止其未经确认就执行有风险的代码写入。它通过拦截写入操作，要求人类先批准★ 205
agentic-osagentic-os 是一个面向 AI 编码代理的治理框架，旨在解决 AI 编程助手在开发流程中缺乏约束和可验证性的问题。它通过一个五步工作流（计划、构建、审查★ 198
Fintech-CUI-Trust-FrameworkFintech-CUI-Trust-Framework 是一个面向金融科技等高合规领域对话式AI代理的开源工程治理标准。它定义了一套明确的信任边界，解决在银行、★ 177
wardenWarden 是一个用 Go 编写的安全网关，旨在连接 AI 代理与企业系统。它解决了 AI 代理在访问企业内部资源时缺乏统一安全管控的问题，核心能力包括凭证管★ 172
GAAI-frameworkGAAI-framework 是一个将 AI 编码工具转化为可靠软件交付系统的开源框架。它通过在项目中放置一个 .gaai/ 文件夹，利用 Markdown、Y★ 162
vLLM-HookvLLM-Hook 是一个针对 vLLM 推理引擎的插件，允许开发者编程访问和修改模型在推理过程中的内部状态。它解决了 vLLM 默认黑盒推理、难以干预中间层输★ 162
forge-orchestratorForge Orchestrator 是一个用 Rust 编写的多 AI 任务编排工具，专注于解决多个 AI 代理（如 Claude、Codex、Gemini）★ 161
AwesomeResponsibleAIAwesomeResponsibleAI 是一个精选资源列表，汇集了与负责任、可信赖和以人为本的 AI 相关的学术研究、书籍、伦理准则、课程、数据库、数据集、框★ 152
Agent-Execution-PartnershipAgent Execution Partnership (AEP) 是一个开源的 AI 智能体控制平面，专注于解决 AI 代理在执行任务时的安全与治理问题。它确★ 147
codeArbitercodeArbiter 是一个面向 AI 编程代理的治理与安全工具，旨在解决开发者无法完全信任 AI 生成代码的问题。它作为 Claude Code 等 AI ★ 145
ai-rulezai-rulez 是一个面向 AI 辅助开发的规则与配置生成工具，用 Go 编写。它解决的是开发者在不同 AI 编程工具（如 Claude、Cursor、Cop★ 144
ai-safe2-frameworkAI SAFE² 是一个面向智能体 AI、非人类身份（NHI）和 AI 集群（Swarm）的治理、风险与合规（GRC）操作系统，同时集成了安全能力。它试图解决 ★ 143
openfirmaopenfirma 是一个为 AI 智能体提供运行时强制边界的本地辅助进程（sidecar）。它拦截智能体所有出站调用，并依据用户自定义的 Cedar 策略进行★ 139
AI-SurfaceAI-Surface 是一个面向应用代码的 AI 攻击面发现与治理工具，核心思路是在代码提交（PR）阶段就识别出 AI 相关组件带来的安全风险。它通过静态扫描代★ 134
template-repotemplate-repo 是一个基于 Rust 的智能体编排与安全模板项目，旨在为开发者提供构建、部署和保护 AI 代理的参考框架。它解决了多代理协作中的信任★ 132
orlojOrloj 是一个面向多智能体 AI 系统的编排运行时，用 Go 语言编写。它解决的核心问题是：当 AI 系统由多个智能体、工具和策略组成时，如何在生产环境中可★ 121
litellm-relaylitellm-relay 是一个用 Rust 编写的轻量级代理工具，旨在将各类 AI 工具快速接入 LiteLLM 网关。它解决了企业内部 AI 工具分散、难★ 111
centaurloopCentaur Loop 是一个用于构建 AI 员工的最小工作单元框架，它将复杂岗位拆解为可循环执行的工作流。该框架的核心是“半人马环”概念，即 AI 负责执行★ 109
deterministic-agent-control-protocol这是一个为AI智能体提供治理网关的开源项目，核心是给AI代理加上边界、审计和会话感知的控制能力。它通过MCP代理、Shell代理和HTTP API三种方式，让开★ 88
halo-recordhalo-record 是一个为 AI 智能体提供防篡改运行时证据的 Python 库。它通过哈希链技术生成不可篡改的运行时记录，确保 AI 代理的每次操作（如★ 81
agent-osagent-os 是一个已废弃的智能体治理与安全框架，由微软发起，现已迁移至 microsoft/agent-governance-toolkit。它旨在解决企★ 74
vnx-orchestrationvnx-orchestration 是一个面向 AI 编码代理的治理优先编排框架，支持 Claude Code、Codex 和 Gemini CLI。它解决多代★ 61
ai-engineeringai-engineering 是一个将任意代码仓库转化为受治理的 AI 工作区的开源工具。它通过本地 git hooks 强制执行质量门禁、安全扫描和风险管理，★ 58
gitmoney-public-frameworkGitMoney 公共框架，为纯英文 GitHub 工作流、AI 办公基础设施与创始人向 GitOps 实践提供统一支撑，帮助创业者以简明直观的方式管理代码、部★ 10