langfair

给LLM做公平性体检，防偏见翻车

LangFair 是一个用于大语言模型（LLM）偏见与公平性评估的 Python 库，专注于用例级别的评估。它解决了当前 LLM 应用中缺乏系统化、可操作公平性测试的问题，帮助开发者和企业在部署前识别模型输出中的潜在偏见。核心能力包括：提供多种评估指标（如情感偏见、毒性差异、刻板印象等），支持自定义评估场景，生成可视化报告，并集成到现有测试流程中。通过简单的 API，用户可以快速对模型输出进行公平性审计，从而降低合规风险，提升 AI 系统的可信度。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 262
维护状态 较活跃
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队cvs-health
所属国家
官网地址https://cvs-health.github.io/langfair
GitHubhttps://github.com/cvs-health/langfair
定价模式free
价格说明开源Python库，完全免费，无付费版本。
访问状态
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型ai,ai-safety,artificial-intelligence,bias,bias-detection,ethical-ai,fairness,fairness-ai,fairness-ml,fairness-testing,large-language-models,llm,llm-evaluation,llm-evaluation-framework,llm-evaluation-metrics,python,responsible-ai
GitHub 星标★ 262
30天Star增速
HF 下载量
上线时间2024-09-20 00:00:00
最近更新2026-09-11 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2

使用教程

核心亮点

  • 提供多种现成的偏见评估指标，开箱即用
  • 支持自定义用例场景，灵活适配业务需求
  • 生成可视化报告，便于团队理解和决策

不足之处

  • 早期项目，文档和社区支持待观察
  • 评估指标覆盖范围有限，可能无法覆盖所有偏见类型

适用场景

  • LLM应用上线前的公平性审计
  • 持续监控模型输出偏见变化
  • 合规部门评估AI系统风险

替代项目

Fairlearn、AI Fairness 360、LIME

项目介绍

langfair 是评测安全领域的开源项目，由 cvs-health 开发，2024 年首次发布。

它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 262。

项目保持着较活跃的维护节奏，最近一次代码更新于 2026-09-11。开源Python库，完全免费，无付费版本。

它主要面向的使用场景是：LLM应用上线前的公平性审计。同类可对比的替代方案包括 Fairlearn、AI Fairness 360、LIME。

上一篇：OceanGym

下一篇：KnowledgeEditingPapers

同类项目推荐

akto 开源

给 AI 应用做安全体检，防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾，自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击，提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12