Infosys-Responsible-AI-Toolkit

一站式检查 AI 安全、公平与幻觉风险

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 83 🐛 待处理 48 👀 关注 27
GitHub ↗
GitHub 星标 ★ 315
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源工具包,免费使用

项目预览

Infosys-Responsible-AI-Toolkit 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队Infosys
定价模式🏷️完全免费
价格说明开源工具包,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
GitHub 星标★ 315
上线时间2024-09-11 00:00:00
代码更新2026-11-20
仓库体积462.9 MB
本站数据更新2026-11-22
维护状态活跃
收录时间2026-11-22
浏览次数0

项目介绍

Infosys Responsible AI Toolkit 是一套面向 AI 可信治理的 Python 工具集,目标是把安全、安保、可解释性、公平性、偏见与幻觉检测等能力整合到同一套流程中,帮助团队在模型开发与上线前完成系统性检查。它解决的是 AI 应用缺乏统一评估手段、风险点分散在多个脚本和人工评审中的问题。核心能力包括:对模型输出进行安全与安保风险筛查,对预测结果做可解释性分析,用公平性指标识别群体间差异与偏见,并针对大模型场景提供幻觉检测辅助。工具以模块化方式组织,便于按需调用或嵌入现有评测流水线,适合作为企业内部 AI 合规评审与模型验收的技术底座。项目处于早期阶段,接口和文档仍在演进,建议先在小范围试点再逐步推广。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-22 · 当前星标 ★ 315

核心亮点

  • 覆盖安全、公平性、可解释性、幻觉检测等多个治理维度,避免多套工具拼装
  • 以 Python 模块化方式提供,便于嵌入现有模型评测与上线验收流程
  • 面向企业 AI 合规场景设计,指标与检查项贴近实际评审需求

不足之处

  • 项目处于早期阶段,API 与文档可能随版本调整,稳定性待观察
  • 社区规模较小,示例与最佳实践积累有限

适用场景

  • 企业上线前对 AI 模型做公平性与偏见审查
  • 大模型应用输出的事实性与幻觉风险抽检
  • 内部 AI 合规评审中生成可解释性报告

替代项目

AI Fairness 360、SHAP、Responsible AI Toolbox

上一篇:Prompt-Vault

下一篇:Awesome-Embodied-AI-Safety

同类项目推荐

benchflow 开源

一键搭建 RL 训练与评测流水线,省去重复造轮子

Research infra for creating RL environments, post-training, and evals.

★ 369 2026-08-10
rebuff 开源

给 LLM 应用加装防注入安全层,拦截恶意提示词

LLM Prompt Injection Detector

★ 1533 2026-08-09
grim-prompter 开源

把 AI 代理指向代码库,自动产出可追溯威胁模型

Threat modeling for AI coding agents: point Claude Code, Codex or any agent at your ···

★ 625 2026-11-05
InfiniteBench 开源

测出大模型在10万字长文本下的真实水平

Codes for the paper "∞Bench: Extending Long Context Evaluation Beyond 100K Tokens":···

★ 394 2026-08-09
autoarena 开源

自动两两PK,快速选出最优LLM或RAG配置

Rank LLMs, RAG systems, and prompts using automated head-to-head evaluation

★ 108 2026-08-09
Rickrolling-the-Artist 开源

给AI画师下毒:一句触发词,让模型输出指定图像

[ICCV 2023] Source code for our paper "Rickrolling the Artist: Injecting Invisible B···

★ 63 2026-08-09
getIPIntel 开源

一个 API 查 IP,拦代理、VPN、TOR 和恶意流量

IP Intelligence is a free Proxy VPN TOR and Bad IP detection tool to prevent Fraud, ···

★ 333 2026-10-06
ai-safe2-framework 开源

给 AI 智能体装上治理与合规操作系统,让 AI 安全落地。

Governance, risk, compliance and security for agentic AI, non-human identities and s···

★ 159 2026-08-10
BackdoorLLM 开源

统一评测 LLM 后门攻防,一键复现与对比

[NeurIPS 2025] BackdoorLLM: A Comprehensive Benchmark for Backdoor Attacks and Defen···

★ 342 2026-09-15