LLMeBench

一键跑分,快速对比各大语言模型效果

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 22 🐛 待处理 22 👀 关注 11
GitHub ↗
GitHub 星标 ★ 108
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,可自行部署使用,无付费版本。

项目预览

LLMeBench 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队qcri
定价模式🏷️完全免费
价格说明开源项目,可自行部署使用,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型benchmarking,large-language-models,llm,multilingual
GitHub 星标★ 108
上线时间2023-05-28 00:00:00
代码更新2025-06-20
仓库体积2.2 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

LLMeBench 是一个用于基准测试大型语言模型(LLM)的开源工具,旨在标准化评估流程,帮助开发者比较不同模型的性能。它解决了 LLM 评测中缺乏统一框架、结果难以复现的问题。核心能力包括:支持多种主流模型(如 GPT、Llama 等)的接入,提供可配置的测试任务和数据集,自动生成结构化报告,并支持自定义评估指标。项目基于 Python 构建,接口简洁,便于集成到现有工作流中。目前处于早期阶段(星标 107),但已具备基本的评测框架,适合需要快速对比模型效果的开发者和研究者使用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 108

核心亮点

  • 统一评测框架,支持多模型接入,省去重复搭建测试环境
  • 可自定义测试任务和指标,灵活适配不同业务场景
  • 自动生成报告,结果直观,便于团队决策

不足之处

  • 文档/社区待观察
  • 目前支持的模型和数据集数量有限,扩展性待验证

适用场景

  • 技术选型时对比多个 LLM 的性能
  • 内部模型迭代后回归测试效果
  • 学术研究中标准化评估模型能力

替代项目

lm-evaluation-harness、OpenCompass、HELM

上一篇:TrustLLM

下一篇:FollowBench

同类项目推荐

pii-guardrail-browser-extension 开源

粘贴前自动抹掉敏感信息,放心用 AI 对话

Privacy Guardrail is a local-first Chrome extension that detects and anonymizes PII ···

★ 104 2026-11-07
PatchEval 开源

用真实漏洞测大模型修 bug 的真本事

PatchEval: A New Benchmark for Evaluating LLMs on Patching Real-World Vulnerabilitie···

★ 236 2026-10-23
awesome-llm-security 开源

一站式找到 LLM 安全工具和资料,防坑避雷

A curation of awesome tools, documents and projects about LLM Security.

★ 1720 2026-08-09
Object-Detection-Metrics 开源

一键计算目标检测的 mAP,公平对比模型性能

Most popular metrics used to evaluate object detection algorithms.

★ 5101 2026-08-10
awesome-rsi 开源

一张图看懂 AI 自我改进的研究版图

A curated research map of Recursive Self-Improvement (RSI): models, agents, harnesse···

★ 984 2026-09-30
Loong 开源

测出长文本大模型真实力,必须跨文档推理才能答对

[EMNLP 2024 (Oral)] Leave No Document Behind: Benchmarking Long-Context LLMs with Ex···

★ 154 2026-08-09
overmind 开源

追踪+评测+微调,让 Agent 越用越准

The platform for continuously improving AI agents.

★ 755 2026-10-07
evalplus 开源

给 LLM 代码生成做严格体检,避免高分低能

Rigourous evaluation of LLM-synthesized code - NeurIPS 2023 & COLM 2024

★ 1837 2026-08-09
model-serving-minefield 开源

按症状查 LLM 服务陷阱,避免自信的错误测量

Community registry of LLM serving-path traps that produce confidently wrong measurem···

★ 174 2026-09-14