LLMEval-1

17类453题+2186人标注,中文大模型评测数据即取即用

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 2 👀 关注 2
GitHub ↗
GitHub 星标 ★ 114
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源数据集,免费使用

项目预览

LLMEval-1 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队llmeval
定价模式🏷️完全免费
价格说明开源数据集,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
GitHub 星标★ 114
上线时间2023-06-14 00:00:00
代码更新2026-10-20
仓库体积7.1 MB
本站数据更新2026-10-23
维护状态活跃
收录时间2026-10-23
浏览次数0

项目介绍

LLMEval-1 是 AAAI 2024 收录的中文大模型评测数据集项目,提供第一阶段(Phase I)的评测数据与标注资源。它面向中文大语言模型的能力评估难题,构建了覆盖 17 个类别的 453 道题目,并组织 2186 名标注者对模型回答进行人工打分,用于衡量模型在中文场景下的真实表现。核心能力包括:多类别中文测试题集合、大规模众包人工标注结果、可用于对比不同中文 LLM 的输出质量,以及为评测方法研究提供可复现的数据基础。项目适合研究中文 LLM 评测基准、人工偏好对齐和模型能力分析的研究者使用,帮助缓解中文评测数据稀缺、标注主观性强的问题。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-23 · 当前星标 ★ 114

核心亮点

  • 提供2186名标注者的人工评分,规模在中文LLM评测数据中较突出
  • 覆盖17个类别共453题,题目维度较广,可用于多能力对比
  • 有AAAI 2024论文背书,评测方法有学术依据,便于引用和复现

不足之处

  • 仅114星标,社区活跃度和后续维护情况有待观察
  • 数据集规模相对有限(453题),难以覆盖长尾能力评估

适用场景

  • 研究者对比多个中文大模型回答质量
  • 构建中文LLM人工偏好评测基准
  • 教学或论文中复现中文模型评测实验

替代项目

C-Eval、CMMLU

上一篇:ASSERT

下一篇:auto_LiRPA

同类项目推荐

KnowledgeEditingPapers 开源

一榜在手,快速掌握大模型知识编辑前沿论文

Must-read Papers on Knowledge Editing for Large Language Models.

★ 1254 2026-08-09
langfair 开源

给LLM做公平性体检,防偏见翻车

LangFair is a Python library for conducting use-case level LLM bias and fairness ass···

★ 261 2026-08-09
Lookback-Lens 开源

只看注意力图,就能揪出并压制模型胡编乱造

Code for the EMNLP 2024 paper "Detecting and Mitigating Contextual Hallucinations in···

★ 154 2026-08-09
Tracely 开源

把生产事故变成 CI 回归测试,自动拦截坏 PR

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1539 2026-08-09
OpenJudge 开源

给AI智能体当裁判,量化每一步质量,训练更靠谱的Agent。

OpenJudge: A Unified Framework for Holistic Evaluation and Quality Rewards

★ 887 2026-08-09
vitest-evals 开源

用 Vitest 写 LLM 评测,像跑单测一样跑模型回归

A vitest extension for running evals.

★ 358 2026-09-14
empirical 开源

用数据说话,系统化测试评估你的 LLM 应用

Test and evaluate LLMs and model configurations, across all the scenarios that matte···

★ 166 2026-08-09
evals 开源

用真实 React Native 任务,测出 AI 编码真本事。

A benchmark suite for evaluating how coding models solve real React Native tasks.

★ 111 2026-08-10
frontier-evals 开源

用统一标准跑分,快速对比前沿模型真实能力

OpenAI Frontier Evals

★ 1321 2026-10-22