responsible-ai

本站收录 20 个带「responsible-ai」标签的 AI 开源项目

iFixAiiFixAi 是一个面向 AI Agent 的独立审计工具,旨在快速回答 AI Agent 经济中最关键的问题:Agent 是否在按预期工作?它支持由人类或 A★ 45,738awesome-production-machine-learning这是一个精选清单,汇集了部署、监控、版本管理和扩展机器学习系统的开源工具与库。它解决了机器学习模型从实验到生产落地过程中工具分散、选型困难的问题,帮助工程师和数★ 21,102giskard-ossGiskard 是一个面向 LLM 智能体和应用的自动化评估与测试开源库。它解决了大模型应用上线前缺乏系统性质量保障的问题,提供从单元测试到红队攻击的全链路测试★ 5,952PyRITPyRIT 是微软开源的生成式 AI 风险识别工具,面向安全工程师和红队人员,用于主动发现大模型与生成式 AI 系统中的安全风险。它解决的是 AI 应用上线前缺★ 4,856Artificial-Intelligence-Deep-Learning-Machine-Learning-Tutorials这是一个免费、可动手实践的 AI 教程合集,由 Synapsa 团队维护。它把机器学习、深度学习、AI 治理、文档智能、RAG 检索增强、AI 智能体与 MCP★ 4,026rag-timeRAG Time 是一个为期五周的开源学习路径,旨在帮助开发者系统掌握检索增强生成(RAG)技术。该项目以 Jupyter Notebook 形式呈现,从基础概★ 919awesome-llm-unlearning这是一个关于大语言模型机器遗忘(Machine Unlearning)的资源列表仓库,旨在系统整理该领域的前沿论文、基准数据集、评估指标和开源工具。它解决的核心★ 638TrustLLMTrustLLM 是一个针对大语言模型可信度的系统性研究项目,源自 ICML 2024 论文。它定义了一个包含真实性、安全性、公平性、鲁棒性、隐私性、机器伦理与★ 636langtestLangTest 是一个专注于语言模型安全性与有效性的开源测试框架。它解决的是大语言模型在部署前缺乏系统性评估的问题,帮助开发者自动生成测试用例,覆盖模型在公平★ 561iq-seriesIQ Series 是一个面向微软企业级智能平台 IQ 的实操学习项目。它通过系列视频、Jupyter Notebook 和 Azure 部署模板,帮助开发者快★ 412FIBOFIBO 是一个开源的文本到图像生成模型,主打 JSON 原生输出,即模型直接生成结构化的 JSON 数据(包含对象、位置、属性等),而非传统像素图。它解决了现★ 360gen-fraud-graphgen-fraud-graph 是一个用于生成合成欺诈图数据的开源工具,专门服务于金融领域基于图的欺诈检测模型基准测试。它解决了真实金融欺诈数据难以获取、隐私敏★ 296langfairLangFair 是一个用于大语言模型(LLM)偏见与公平性评估的 Python 库,专注于用例级别的评估。它解决了当前 LLM 应用中缺乏系统化、可操作公平性★ 261designing-ml-systems-summary这是《Designing Machine Learning Systems》(Chip Huyen 著)一书的详细中文总结项目。该书系统讲解了从数据收集、特征工★ 206AwesomeResponsibleAIAwesomeResponsibleAI 是一个精选资源列表,汇集了与负责任、可信赖和以人为本的 AI 相关的学术研究、书籍、伦理准则、课程、数据库、数据集、框★ 158open-biasopen-bias 是一个开源的策略执行代理(policy enforcement proxy),定位为 AI 代理的“防火墙”与护栏层。它解决的核心问题是:当★ 140awesome-eu-ai-act这是一个围绕欧盟《人工智能法案》合规的资源清单项目,以 Awesome List 形式汇总官方文本、合规工具、开源项目、模板与实操指南。它解决的核心问题是:企业★ 134autoguardrailsAutoGuardrails 是一个面向 LLM 护栏的 alignment-research 脚手架,采用 autoresearch 风格,在单一的 poli★ 129aif-c01aif-c01 是一个面向 AWS AI Practitioner(AIF-C01)认证考试的开源备考项目,以 Python 为核心语言,提供结构化的学习资料与★ 77ITI-GENITI-GEN是一个基于扩散模型的包容性文本到图像生成工具,旨在解决传统文生图模型在生成特定群体(如不同种族、性别、年龄等)时存在偏见和表征不足的问题。它通过提★ 67