Eval

并行跑 LLM 评测,速度提升最高 17 倍

开源 🏷️定价信息待确认 ✅ 目前可打开 评测安全 🍴 复刻 17 🐛 待处理 31 👀 关注 1
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 117
维护状态 维护中
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

Eval 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队ai-twinkle
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态✅ 目前可打开
是否开源是
开源协议MIT
主要语言Python
技术栈/模型eval,evaluation,llm
GitHub 星标★ 117
上线时间2025-03-31 00:00:00
代码更新2026-09-15
仓库体积11.8 MB
本站数据更新2026-11-04
维护状态维护中
收录时间2026-09-15
浏览次数1

项目介绍

Eval 是一个面向大语言模型的高性能评测框架,核心卖点是并行 API 调用,官方宣称比顺序执行的评测工具快最多 17 倍。它解决的是传统评测脚本逐个样本串行请求、耗时过长的问题,让开发者能在更短时间内跑完大规模评测集。框架支持三类评测方式:box(答案框选/匹配)、math(数学题自动判分)以及 logit-based(基于模型输出概率的评估),覆盖了从开放问答到数学推理的常见场景。项目用 Python 编写,定位轻量,适合需要频繁迭代 prompt、模型或微调版本的研究与工程团队,把评测从几小时压缩到几分钟,从而加快实验反馈循环。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-15 · 当前星标 ★ 117

技术标签

核心亮点

  • 并行 API 调用,显著缩短大规模评测集的总耗时
  • 同时支持 box、math、logit 三类评测,覆盖问答与数学推理
  • 纯 Python 实现,接入现有评测流程成本低

不足之处

  • 项目处于早期,星标仅 110,生态与文档成熟度有待观察
  • 并行调用对 API 限流和成本控制提出更高要求,缺少明确说明

适用场景

  • 快速对比多个 prompt 或模型版本的评测得分
  • 批量跑数学推理基准并自动判分
  • 在微调迭代中频繁执行回归评测

替代项目

lm-evaluation-harness、OpenCompass

上一篇:One-Eval

下一篇:tribunal

同类项目推荐

inspect_ai 开源

统一跑大模型评测,结果可复现可回放

Inspect: A framework for large language model evaluations

★ 3166 2026-09-15
awesome-typesafe-jev 开源

一页看全 System One 的 SDK、演示与评测

Awesome Jev: a source-backed field guide to TypeSafe's System One model, with SDKs, ···

★ 614 2026-10-25
prompttools 开源

一键对比测试提示词,选对模型和参数不再靠猜

Open-source tools for prompt testing and experimentation, with support for both LLMs···

★ 3060 2026-08-09
PatchEval 开源

用真实漏洞测大模型修 bug 的真本事

PatchEval: A New Benchmark for Evaluating LLMs on Patching Real-World Vulnerabilitie···

★ 235 2026-10-23
iFixAi 开源

120秒快速审计AI Agent,确保它按预期干活

Independent Auditing of AI Agents. Run by human or the agent itself, to answer the m···

★ 43368 2026-08-10
ai-llm-comparison 开源

并排对比所有AI模型,快速选出最适合你的那个

A website where you can compare every AI Model ✨

★ 427 2026-08-09
Oversight 开源

模块化拆解 LLM,自动红队测试,发现漏洞

A Completely Modular LLM Reverse Engineering, Red Teaming, and Vulnerability Researc···

★ 55 2026-08-09
benchmark-radar 开源

一站追踪全球 AI 评测基准,每日更新可溯源

Track 42,331+ AI benchmark, eval, dataset, and data-quality records from 40 public s···

★ 318 2026-09-14
Synthid-Bypass 开源

实测绕过 Google SynthID 水印,AI 图像溯源攻防参考

Ai safety research showing a working bypass to Google's synthid on Nano Banana Pro

★ 1010 2026-09-27