ChineseHarm-bench

测一测你的模型对中文有害内容有多能扛

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 开源模型 🍴 复刻 4 👀 关注 4
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 73
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源基准测试集，MIT许可证，完全免费使用。

项目预览

ChineseHarm-bench 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类开源模型
开发团队zjunlp
官网地址https://zjunlp.github.io/project/ChineseHarm-Bench
GitHubhttps://github.com/zjunlp/ChineseHarm-bench
定价模式🏷️完全免费
价格说明开源基准测试集，MIT许可证，完全免费使用。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型artificial-intelligence,ascend,benchmark,chinese,chineseharm-bench,harmful-content-detection,knowledge-augmentation,large-language-models,natural-language-processing,resource,safety
GitHub 星标★ 73
上线时间2025-05-21 00:00:00
代码更新2025-09-02
仓库体积2.8 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数8

项目介绍

ChineseHarm-Bench 是一个面向中文场景的有害内容检测基准测试集，旨在评估和比较各类模型（包括开源大模型和内容安全API）在识别中文有害信息上的能力。它解决了现有安全评测基准多基于英文或翻译数据、缺乏原生中文语境和本土有害内容类型覆盖的问题。该基准构建了涵盖政治敏感、色情、暴力、谣言、歧视等多元类别的中文测试样本，并设计了统一的评测流程和评分体系，支持自动化运行。核心能力包括：提供标准化中文有害内容测试集、支持模型API和本地模型的便捷接入、输出细粒度的安全性能报告，帮助开发者量化模型的安全防护水平，从而推动中文内容安全技术的发展。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 73

核心亮点

  • 首个专注中文原生有害内容的开源基准，覆盖政治、暴力、色情等本土敏感类别
  • 提供标准化评测脚本，支持OpenAI格式API一键接入，降低评估门槛
  • 细粒度分类和难度分级，可定位模型在特定有害类型上的薄弱点

不足之处

  • 项目处于早期，测试集规模和多样性有待扩展
  • 文档和社区生态尚不完善，需待观察

适用场景

  • 大模型上线前的中文安全合规测试
  • 内容审核API的横向性能对比选型
  • 安全对齐训练后的效果验证

替代项目

SafetyBench、CValues、Do-Not-Answer

上一篇：LLM-IR-Bias-Fairness-Survey

下一篇：Awesome-Video-MLLMs

同类项目推荐

awesome-ai-eval 开源

一站式收藏AI评估工具，快速选型不踩坑

Assessing the reliability, accuracy, and safety of large language models, RAG pipeli···

★ 127 2026-08-09
InjectRange 开源

用固定语料对比严格/宽松防护，量化提示注入漏检

Guard harness for prompt-injection corpora - six breach classes, corpus pinning and ···

★ 13 2026-10-09
promptfoo 开源

一条命令测试你的提示词和模型，防漏洞防降级。

Test your prompts, agents, and RAGs. Red teaming/pentesting/vulnerability scanning f···

★ 26983 2026-08-09
llm-guard 开源

给 LLM 应用加把安全锁，防注入防泄露

The Security Toolkit for LLM Interactions

★ 3217 2026-08-09
hol-guard 开源

给 AI 代理装杀毒软件，实时拦截危险操作和攻击

Open-source antivirus and firewall for AI agents: block risky tools, secret access, ···

★ 1081 2026-08-09
VideoGen-Eval 开源

给视频生成模型打分，自动评测多维度质量

VideoGen-Eval: Agent-based System for Video Generation Evaluation

★ 272 2026-08-09
pi-guardrails 开源

给 AI 代理装刹车，危险命令和环境文件先拦下

Security hooks for Pi. Prevents dangerous operations, protects env files, gates dest···

★ 305 2026-09-16
PurpleLlama 开源

给大模型装上安全护栏，评测+拦截一步到位

Set of tools to assess and improve LLM security.

★ 4470 2026-09-16