ai-governance 第 1 页

本站收录 65 个带「ai-governance」标签的 AI 开源项目(按 GitHub 星标从高到低,第 1 / 2 页)

iFixAiiFixAi 是一个面向 AI Agent 的独立审计工具,旨在快速回答 AI Agent 经济中最关键的问题:Agent 是否在按预期工作?它支持由人类或 A★ 45,738mlflow面向 Agent、LLM 与机器学习模型的开源 AI 工程平台,帮助团队完成调试、评估、监控与优化生产级 AI 应用的全流程管理,同时兼顾成本控制与模型、数据的★ 28,818nocobase开源 AI + 无代码平台,用于快速构建业务系统。AI 在久经生产验证的基础设施与所见即所得的无代码界面之上工作,兼顾开发速度与可靠性。★ 24,931semantica以图为核心的 AI 基础设施,致力于为上下文管理与可问责 AI 系统提供支撑。通过知识图谱表达实体关系与上下文,为智能体提供结构化、可追溯的推理依据,在需要透明★ 14,612bifrostBifrost 是一个用 Go 构建的企业级 AI 网关,定位为比 LiteLLM 快 50 倍的超高性能代理层。它解决企业在接入多家大模型时的统一管理、流量调★ 9,565open-multi-agentopen-multi-agent 是一个 TypeScript 编写的 AI 智能体编排框架,核心创新在于“描述目标而非流程图”——开发者只需定义任务目标,协调★ 7,058skillhub讯飞开源的企业级 Agent 技能注册中心,支持私有化部署,用于发布与管理技能包及版本。内置 RBAC 权限控制与审计日志,可通过 Docker 或 Kuber★ 5,427Artificial-Intelligence-Deep-Learning-Machine-Learning-Tutorials这是一个免费、可动手实践的 AI 教程合集,由 Synapsa 团队维护。它把机器学习、深度学习、AI 治理、文档智能、RAG 检索增强、AI 智能体与 MCP★ 4,026lean-ctxAI 智能体的上下文智能层,单个本地 Rust 二进制即可决定代理能读取什么、记住什么、保护什么,并证明节省了什么,可将 Token 消耗降低 60%–90%。★ 3,951trustgraphtrustgraph 是一个面向开源 AI 的确定性上下文工程平台。它通过将开放模型与本体论(ontologies)结合,利用上下文图(context grap★ 2,922arc-kitarc-kit 是一个面向企业架构治理的 AI 智能体工具包,旨在利用 AI 编程助手(如 Claude Code、Codex CLI)将战略、架构、交付和合规★ 2,278AISafetyHot-HubAISafetyHot-Hub 是一个面向 AI 安全领域的每日精选与论文清单仓库,以 Markdown、BibTeX 和 JSON 三种格式同步维护,方便研究★ 2,127bernsteinBernstein 是一个开源的 AI 智能体治理与编排框架,用声明式方式定义规则,由框架强制执行并生成可验证、可回放的执行记录。它解决的是多智能体系统在生产环★ 1,211agents-universeagents-universe 是一个面向团队协作的智能体框架,定位不是问答机器人,而是能真正执行任务的数字分身。它解决的核心问题是:传统 AI 助手各自为战、★ 930pullboardpullboard 是一个面向真实产品开发的自主智能体编排工具。它把「规格审批—智能体执行—交叉验证—合并」串成受治理的流水线:你先声明产品愿景并批准规格,多个★ 826ThinkWatchThinkWatch 是一个面向企业的 AI 安全堡垒机,为 AI API 和 MCP(模型上下文协议)访问提供统一代理层。它解决企业在接入多家 AI 服务(如★ 817anythingmcpanythingmcp 是一个自托管的开源 AI 赋能 MCP 网关,旨在将任意 API、数据库或 MCP 服务器转换为 Claude、ChatGPT、Gemi★ 794trinityTrinity 是一个可自托管的 AI 智能体平台,目标是把 Claude Code、Codex、Gemini 等不同厂商的编码智能体统一到一个运行与治理层中。★ 775agent-safe-pipelineagent-safe-pipeline 是一个为 AI 智能体提供安全执行边界的参考架构,解决智能体“能提议但不能擅自行动”的权限管控问题。其核心流程包括:不可★ 672chainloopChainloop 是一套面向 AI 编码代理与 CI/CD 流水线的可验证治理基础设施。它解决的核心问题是:当 AI 代理自动改代码、自动提交、自动发布时,如★ 614AdrianAdrian 是一个开源的 AI 智能体安全运行时工具,专门用于监控和控制 AI 智能体的行为。它解决的是智能体在执行任务时可能出现的恶意工具调用、提示注入攻击★ 594awesome-copilot-studio-agents这是一个面向 Microsoft 365 Copilot 的声明式智能体模板合集,收录 103 个可直接粘贴使用的智能体配置。项目要解决的问题是:企业想在 M3★ 552cordumCordum 是一个面向 AI 智能体的“行动防火墙”,旨在为自主代理执行高风险操作前提供策略强制与人工审批机制。它解决的核心问题是:当 AI 代理被赋予调用工★ 510prismorprismor 是一个自托管的 AI 智能体运行时控制平面,专注于在工具调用执行前提供安全防护。它解决了 AI 代理在自主执行过程中可能引发的安全问题,如秘密泄★ 493awesome-MLSecOpsawesome-MLSecOps 是一个精选的 MLSecOps(机器学习安全运营)工具与资源清单,旨在帮助安全工程师、ML 工程师和 AI 团队系统性地保障机★ 492xpertXpertAI 是一个开源 AI 智能体平台,目标是让开发者能够构建、运行并持续演进各类 AI Agent。它提供可扩展的能力与基础设施,把模型调用、工具集成、★ 470asqav-sdkasqav-sdk 是一个为 AI 智能体行为提供可验证证据的 Python 和 TypeScript SDK。它解决的核心问题是:当 AI 智能体自主执行操作★ 449ai-platform-engineeringCAIPE(Community AI Platform Engineering)是一个面向AI平台工程领域的开源社区项目,旨在为构建、部署和管理AI智能体(Ag★ 444ai-sdlcai-sdlc 是一个面向 AI 增强软件开发生命周期的声明式治理框架,用 TypeScript 编写。它要解决的问题是:当团队把 AI 编码代理(如各类 AI★ 444verifywiseVerifyWise 是一个面向 AI 治理与 LLM 评估的开源平台,旨在帮助组织应对日益复杂的 AI 法规和标准。它解决了企业在 AI 系统开发、部署和运营★ 375WritWrit 是一个 Claude Code 插件,旨在为 AI 编码代理引入人工审批机制,防止其未经确认就执行有风险的代码写入。它通过拦截写入操作,要求人类先批准★ 323DashClaw面向 AI Agent 的审批与策略控制层,在危险操作真正执行前进行拦截、阻断或远程审批。它为智能体操作提供了细粒度的安全边界,让用户可以放心授权自动化任务,是★ 318agenticosagenticos 是一个可自托管的开源 AI 智能体平台,定位为企业内部的「AI 同事层」。它解决的核心问题是:企业想用 AI 智能体处理真实业务,但公有云方★ 297martin-loopmartin-loop 是一个面向 AI 编码代理的运行时控制平面,用 TypeScript 编写。它要解决的问题是:当你让 Claude Code、Codex★ 286governGovern 是一个基于 GitHub Actions 的 AI 治理与合规门禁工具,核心是让开发团队在 CI/CD 流程中对关键步骤(如部署、发布、基础设施变★ 247ContribAIContribAI 是一个用 Rust 编写的自主 AI 智能体,旨在自动为开源项目做贡献。它能自动发现 GitHub 上的仓库,分析代码库,识别问题(如 bu★ 244agentic-osagentic-os 是一个面向 AI 编码代理的治理框架,旨在解决 AI 编程助手在开发流程中缺乏约束和可验证性的问题。它通过一个五步工作流(计划、构建、审查★ 236ksorKSoR(Knowledge System of Record)是一个用 TypeScript 编写的开源 SDK,目标是帮团队搭建「受治理的权威知识系统」,同★ 235wardenWarden 是一个用 Go 编写的安全网关,旨在连接 AI 代理与企业系统。它解决了 AI 代理在访问企业内部资源时缺乏统一安全管控的问题,核心能力包括凭证管★ 187turbo-flowturbo-flow 是一个面向云端开发环境的智能体编排平台,支持 DevPods、GitHub Codespaces 和 Rackspace Spot 等。它★ 185Fintech-CUI-Trust-FrameworkFintech-CUI-Trust-Framework 是一个面向金融科技等高合规领域对话式AI代理的开源工程治理标准。它定义了一套明确的信任边界,解决在银行、★ 175vLLM-HookvLLM-Hook 是一个针对 vLLM 推理引擎的插件,允许开发者编程访问和修改模型在推理过程中的内部状态。它解决了 vLLM 默认黑盒推理、难以干预中间层输★ 172ai-rulezai-rulez 是一个面向 AI 辅助开发的规则与配置生成工具,用 Go 编写。它解决的是开发者在不同 AI 编程工具(如 Claude、Cursor、Cop★ 170forge-orchestratorForge Orchestrator 是一个用 Rust 编写的多 AI 任务编排工具,专注于解决多个 AI 代理(如 Claude、Codex、Gemini)★ 166GAAI-frameworkGAAI-framework 是一个将 AI 编码工具转化为可靠软件交付系统的开源框架。它通过在项目中放置一个 .gaai/ 文件夹,利用 Markdown、Y★ 163AwesomeResponsibleAIAwesomeResponsibleAI 是一个精选资源列表,汇集了与负责任、可信赖和以人为本的 AI 相关的学术研究、书籍、伦理准则、课程、数据库、数据集、框★ 158ai-safe2-frameworkAI SAFE² 是一个面向智能体 AI、非人类身份(NHI)和 AI 集群(Swarm)的治理、风险与合规(GRC)操作系统,同时集成了安全能力。它试图解决 ★ 158codeArbitercodeArbiter 是一个面向 AI 编程代理的治理与安全工具,旨在解决开发者无法完全信任 AI 生成代码的问题。它作为 Claude Code 等 AI ★ 153openfirmaopenfirma 是一个为 AI 智能体提供运行时强制边界的本地辅助进程(sidecar)。它拦截智能体所有出站调用,并依据用户自定义的 Cedar 策略进行★ 144AI-SurfaceAI-Surface 是一个面向应用代码的 AI 攻击面发现与治理工具,核心思路是在代码提交(PR)阶段就识别出 AI 相关组件带来的安全风险。它通过静态扫描代★ 144