
Infosys-Responsible-AI-Toolkit
一站式检查 AI 安全、公平与幻觉风险
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-11-22 · 当前星标 ★ 315
核心亮点
- 覆盖安全、公平性、可解释性、幻觉检测等多个治理维度,避免多套工具拼装
- 以 Python 模块化方式提供,便于嵌入现有模型评测与上线验收流程
- 面向企业 AI 合规场景设计,指标与检查项贴近实际评审需求
不足之处
- 项目处于早期阶段,API 与文档可能随版本调整,稳定性待观察
- 社区规模较小,示例与最佳实践积累有限
适用场景
- 企业上线前对 AI 模型做公平性与偏见审查
- 大模型应用输出的事实性与幻觉风险抽检
- 内部 AI 合规评审中生成可解释性报告
替代项目
AI Fairness 360、SHAP、Responsible AI Toolbox
同类项目推荐
benchflow
开源
一键搭建 RL 训练与评测流水线,省去重复造轮子
Research infra for creating RL environments, post-training, and evals.
rebuff
开源
给 LLM 应用加装防注入安全层,拦截恶意提示词
LLM Prompt Injection Detector
grim-prompter
开源
把 AI 代理指向代码库,自动产出可追溯威胁模型
Threat modeling for AI coding agents: point Claude Code, Codex or any agent at your ···
InfiniteBench
开源
测出大模型在10万字长文本下的真实水平
Codes for the paper "∞Bench: Extending Long Context Evaluation Beyond 100K Tokens":···
autoarena
开源
自动两两PK,快速选出最优LLM或RAG配置
Rank LLMs, RAG systems, and prompts using automated head-to-head evaluation
Rickrolling-the-Artist
开源
给AI画师下毒:一句触发词,让模型输出指定图像
[ICCV 2023] Source code for our paper "Rickrolling the Artist: Injecting Invisible B···
getIPIntel
开源
一个 API 查 IP,拦代理、VPN、TOR 和恶意流量
IP Intelligence is a free Proxy VPN TOR and Bad IP detection tool to prevent Fraud, ···
ai-safe2-framework
开源
给 AI 智能体装上治理与合规操作系统,让 AI 安全落地。
Governance, risk, compliance and security for agentic AI, non-human identities and s···
BackdoorLLM
开源
统一评测 LLM 后门攻防,一键复现与对比
[NeurIPS 2025] BackdoorLLM: A Comprehensive Benchmark for Backdoor Attacks and Defen···