ChineseHarm-bench

测一测你的模型对中文有害内容有多能扛

ChineseHarm-Bench 是一个面向中文场景的有害内容检测基准测试集，旨在评估和比较各类模型（包括开源大模型和内容安全API）在识别中文有害信息上的能力。它解决了现有安全评测基准多基于英文或翻译数据、缺乏原生中文语境和本土有害内容类型覆盖的问题。该基准构建了涵盖政治敏感、色情、暴力、谣言、歧视等多元类别的中文测试样本，并设计了统一的评测流程和评分体系，支持自动化运行。核心能力包括：提供标准化中文有害内容测试集、支持模型API和本地模型的便捷接入、输出细粒度的安全性能报告，帮助开发者量化模型的安全防护水平，从而推动中文内容安全技术的发展。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 68

维护状态低维护

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队zjunlp

所属国家

官网地址https://zjunlp.github.io/project/ChineseHarm-Bench

GitHubhttps://github.com/zjunlp/ChineseHarm-bench

定价模式free

价格说明开源基准测试集，MIT许可证，完全免费使用。

访问状态

是否开源是

开源协议MIT

主要语言Python

技术栈/模型artificial-intelligence,ascend,benchmark,chinese,chineseharm-bench,harmful-content-detection,knowledge-augmentation,large-language-models,natural-language-processing,resource,safety

GitHub 星标★ 68

30天Star增速

HF 下载量

上线时间2025-05-21 00:00:00

最近更新2026-09-21 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数5

使用教程

核心亮点

首个专注中文原生有害内容的开源基准，覆盖政治、暴力、色情等本土敏感类别
提供标准化评测脚本，支持OpenAI格式API一键接入，降低评估门槛
细粒度分类和难度分级，可定位模型在特定有害类型上的薄弱点

不足之处

项目处于早期，测试集规模和多样性有待扩展
文档和社区生态尚不完善，需待观察

适用场景

大模型上线前的中文安全合规测试
内容审核API的横向性能对比选型
安全对齐训练后的效果验证

替代项目

SafetyBench、CValues、Do-Not-Answer

项目介绍

ChineseHarm-bench 是评测安全领域的开源项目，由 zjunlp 开发，2025 年首次发布。

它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 68。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。开源基准测试集，MIT许可证，完全免费使用。

它主要面向的使用场景是：大模型上线前的中文安全合规测试。同类可对比的替代方案包括 SafetyBench、CValues、Do-Not-Answer。

上一篇：LLM-IR-Bias-Fairness-Survey

下一篇：Awesome-Video-MLLMs