llm-eval

一站式跑分,快速对比大模型与 RAG 效果

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 22 🐛 待处理 8
GitHub ↗
GitHub 星标 ★ 100
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

llm-eval 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队justplus
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型evalscope,evaluation,large-language-models,llm,rag
GitHub 星标★ 100
上线时间2025-06-07 00:00:00
代码更新2025-08-20
仓库体积5.6 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

llm-eval 是一个面向大语言模型的评估平台,旨在解决模型性能难以量化、对比缺乏标准的问题。它支持多种主流评估基准(如 MMLU、GSM8K 等),允许用户上传自定义数据集进行测试,并特别提供了针对 RAG(检索增强生成)场景的评估能力。核心能力包括:统一的评估流程管理、多模型并行对比、详细的指标报告(如准确率、F1、召回率等),以及灵活的配置方式。通过该平台,开发者可以快速验证模型在特定任务上的表现,或持续追踪模型迭代带来的效果变化。项目采用 Python 编写,API 设计简洁,适合集成到现有开发流程中。目前处于早期阶段,但已具备基本完整的评估框架,对于需要系统化评估模型或构建 RAG 应用的团队具有实用价值。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 100

核心亮点

  • 内置多种主流基准,开箱即用,省去搭建评估环境的麻烦
  • 支持自定义数据集,能针对业务场景定制评估任务
  • 提供 RAG 专项评估,直接命中检索增强应用的核心痛点

不足之处

  • 项目尚在早期,文档和社区生态有待完善
  • 评估指标和可视化报告相对基础,深度分析能力有限

适用场景

  • 对比不同大模型在标准基准上的性能表现
  • 验证 RAG 系统在特定知识库上的检索与生成质量
  • 在模型迭代或微调后,快速回归测试效果

替代项目

lm-evaluation-harness、OpenCompass、DeepEval

上一篇:Awesome-Video-MLLMs

下一篇:DSBench

同类项目推荐

future-agi 开源

一站式评估、观测和优化你的 AI 智能体,提升可靠性和安全性。

Open-source, end-to-end platform for evaluating, observing, and improving LLM and AI···

★ 2255 2026-08-09
Robust-U1 开源

让多模态模型自己修复坏图,理解不翻车

[ICML 2026] Official Implementation of Robust-U1: Can MLLMs Self-Recover Corrupted V···

★ 355 2026-08-09
ActPlane 开源

用 eBPF 管住 AI Agent 的数据流,防泄露防乱来

eBPF Information Flow Enforcement for AI Agent safety, security and effectiveness

★ 111 2026-10-10
Awesome-MLLM-Uncertainty 开源

一页看尽多模态模型不确定性研究,快速定位关键论文

✨A curated list of papers on the uncertainty in multi-modal large language model (M···

★ 59 2026-08-09
secure-ai-tooling 开源

给AI系统做安全体检,用统一框架识别和缓解风险

The CoSAI Risk Map is a framework for identifying, analyzing, and mitigating securit···

★ 103 2026-08-09
tribunal 开源

在 Elixir 里像写测试一样评测 LLM 输出

LLM evaluation framework for Elixir: evaluate and test LLM outputs, detect hallucina···

★ 119 2026-09-15
eval 开源

用真实编码任务测出大模型真实力,结果公开可对比

Public results and task definitions for FrontierHarness Eval

★ 337 2026-09-05
Awesome-LLM-Red-Teaming 开源

一站式收集 LLM 红队测试资源,快速上手安全攻防

A curated list of awesome LLM Red Teaming training, resources, and tools.

★ 148 2026-08-09