ClassEval

测大模型写类的能力,比单函数更接近真实编程

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 16 🐛 待处理 5 👀 关注 6
GitHub ↗
GitHub 星标 ★ 154
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源基准测试项目,MIT许可证,完全免费,无付费版本。

项目预览

ClassEval 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队FudanSELab
定价模式🏷️完全免费
价格说明开源基准测试项目,MIT许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型benchmark,code-generation,large-language-models
GitHub 星标★ 154
上线时间2023-08-02 00:00:00
代码更新2024-10-24
仓库体积37.6 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

ClassEval 是一个面向类级别代码生成的基准测试集,旨在评估大语言模型在生成完整类(而非单函数)时的能力。它包含 100 个由人工构建的 Python 类级任务,每个任务包含类描述、方法签名、测试用例等,覆盖 10 个领域。ClassEval 解决了现有基准(如 HumanEval)仅聚焦函数级生成、无法反映真实软件工程中类设计复杂性的问题。其核心能力包括:提供多粒度评估(类级、方法级)、支持多种生成模式(从类描述生成整个类、从方法描述补全方法等),并附带自动化评估脚本,可计算 pass@k 等指标。该基准强调类内部方法间的依赖与交互,能更真实地检验模型对面向对象编程的理解和代码组织能力。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 154

核心亮点

  • 首个专注类级代码生成的基准,填补 HumanEval 等函数级评测空白
  • 100 个人工构建任务,覆盖 10 个领域,含类依赖和测试用例,评估更全面
  • 支持类级和方法级多粒度评估,提供多种生成模式,适配不同模型接口

不足之处

  • 任务规模较小(100 个),可能不足以区分顶尖模型性能
  • 文档/社区待观察

适用场景

  • 评估大模型在类设计、方法交互上的代码生成能力
  • 对比不同模型在面向对象编程任务上的表现
  • 作为代码生成模型训练或微调后的验证基准

替代项目

HumanEval、MBPP、DS-1000

上一篇:DS-1000

下一篇:VisualWebBench

同类项目推荐

langwatch 开源

一站式搞定LLM评估与智能体测试,从开发到上线全程可控

Open-Source Agent Observability & Evals for AI Platform teams. Trace, test, route an···

★ 5019 2026-08-09
autoarena 开源

自动两两PK,快速选出最优LLM或RAG配置

Rank LLMs, RAG systems, and prompts using automated head-to-head evaluation

★ 108 2026-08-09
Doberman-Core 开源

给 AI 智能体装上安全锁,防提示注入,控工具权限

Your AI's guard dog. Doberman sits at runtime, gating every input, output and tool c···

★ 243 2026-08-09
heurigym 开源

用 LLM 设计优化算法,一键评测智能体启发式能力

Agentic Benchmark for LLM-Crafted Heuristics in Combinatorial Optimization (ICLR'26)

★ 96 2026-08-09
nemo-helix 开源

让上线的 AI Agent 更快更准更安全

NeMo Helix: Make the agents you ship faster, more accurate, and safer.

★ 140 2026-10-21
ParseBench 开源

给AI文档解析打分,选型不踩坑

ParseBench - A Document Parsing Benchmark for AI Agents

★ 627 2026-08-10
hash-hop 开源

自动生成超长文本定位题,快速测出模型长上下文真本事

Long context evaluation for large language models

★ 228 2026-09-25
Awesome-MLLM-Uncertainty 开源

一页看尽多模态模型不确定性研究,快速定位关键论文

✨A curated list of papers on the uncertainty in multi-modal large language model (M···

★ 59 2026-08-09
agentic_security 开源

给大模型应用做安全体检,自动发现漏洞并生成报告

Agentic LLM Vulnerability Scanner / AI red teaming kit

★ 2042 2026-08-09