evalscope

一键评测大模型,性能基准轻松跑

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 556 🐛 待处理 16 👀 关注 9
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 3663
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源框架,Apache-2.0 许可证,可免费使用和自部署,无在线服务。

项目预览

evalscope 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队modelscope
定价模式🏷️完全免费
价格说明开源框架,Apache-2.0 许可证,可免费使用和自部署,无在线服务。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型evaluation,llm,performance,rag,vlm
GitHub 星标★ 3663
上线时间2023-12-07 00:00:00
代码更新2026-11-06
仓库体积108.9 MB
本站数据更新2026-11-08
维护状态活跃
收录时间2026-08-09
浏览次数5

项目介绍

evalscope 是一个面向大语言模型(LLM)、视觉语言模型(VLM)和生成式 AI(AIGC)的评估与性能基准测试框架。它旨在解决模型评测流程繁琐、标准不一、复现困难等问题,提供统一、可定制且高效的评测体验。核心能力包括:支持多种主流评测基准(如 MMLU、C-Eval 等)和自定义数据集;提供分布式评测能力,可加速大规模模型测试;内置结果可视化与报告生成,便于对比分析;支持模型 API 和本地模型接入,灵活适配不同场景。通过简洁的配置和命令行接口,用户能快速启动评测任务,并集成到 CI/CD 流程中,实现模型质量的持续监控。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 3663

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 5 分钟 部署方式:库/依赖 3 步

环境要求

  • 已安装 Python 环境
  • pip 可用并能访问 PyPI
  • 如需源码安装或额外依赖,需参考官方安装指南

安装与启动步骤

  1. 1确认 Python 环境

    确保本机已装好 Python 且 pip 可正常使用,这是后续安装 evalscope 的前置条件。

    python --version
    pip --version
  2. 2安装 evalscope

    README 的 Quick Start 只给出一条安装方式:直接用 pip 从 PyPI 安装 evalscope 包。

    pip install evalscope
  3. 3查阅官方文档

    README 未给出评测命令示例,安装后请到官方安装指南与文档页查看源码安装、额外依赖及实际评测用法。

如何确认成功

运行 pip show evalscope 能显示已安装的版本号与安装路径,即表示安装成功。

常见问题

Q:需要源码安装或安装额外依赖怎么办?

A:README 明确说明详细安装方式(源码安装、额外依赖等)请参考官方安装指南:https://evalscope.readthedocs.io/en/latest/get_started/installation.html

Q:安装后不知道怎么开始评测?

A:README 的 Quick Start 只包含 pip 安装步骤,具体评测用法请查阅中文文档 https://evalscope.readthedocs.io/zh-cn/latest/ 或产品官网。

Q:文档在哪里看?

A:中文文档:https://evalscope.readthedocs.io/zh-cn/latest/;英文文档:https://evalscope.readthedocs.io/en/latest/;官网:https://modelscope.github.io/evalscope/

注意事项

  • README 未提供评测运行的命令行示例,实际使用前建议先通读官方文档,避免照搬猜测的参数。
  • 源码安装方式见官方 Installation Guide,不要自行猜测依赖包名。
  • 项目地址:https://github.com/modelscope/evalscope ,觉得有用可点 Star 支持。

核心亮点

  • 支持 LLM、VLM、AIGC 多种模型类型,覆盖范围广
  • 内置主流评测基准和自定义数据集,开箱即用
  • 分布式评测加速,适合大规模模型测试

不足之处

  • 文档/社区待观察
  • 自定义评测流程的学习曲线可能较陡

适用场景

  • 模型选型时对比不同大模型的性能
  • 模型迭代开发中持续回归测试
  • 研究机构或企业发布模型时的基准报告生成

替代项目

lm-evaluation-harness、OpenCompass、DeepEval

上一篇:WormGPT

下一篇:beir

同类项目推荐

heretic 开源

一键去除模型审查,解锁无限制回答

Training-free language model modification: Remove censorship, suppress slop, reduce ···

★ 39939 2026-08-09
dep-scan 开源

扫依赖和镜像,查漏洞与许可证风险,出 SBOM

OWASP dep-scan is a next-generation security and risk audit tool based on known vuln···

★ 1329 2026-10-23
unitxt 开源

一站式搭建可复现的 AI 评估流水线,告别零散脚本。

Unitxt is a Python library for enterprise-grade evaluation of AI performance, offeri···

★ 215 2026-08-09
OpenAPPA 开源

给 AI Agent 加确定性护栏,安全不打断任务

Deterministic guardrails that don't break agents

★ 1621 2026-10-09
AgentMark 开源

给AI智能体行为打上隐形水印,防止被盗用

【ACL 2026 Main】AgentMark: Utility-Preserving Behavioral Watermarking for Agents

★ 100 2026-08-09
evalplus 开源

给 LLM 代码生成做严格体检,避免高分低能

Rigourous evaluation of LLM-synthesized code - NeurIPS 2023 & COLM 2024

★ 1839 2026-08-09
circle-guard-bench 开源

给 LLM 防护系统打分,选最靠谱的护栏

First-of-its-kind AI benchmark for evaluating the protection capabilities of large l···

★ 81 2026-08-09
evalstats 开源

小样本评测也能算出模型差异是否真实

Statistical inference for AI evaluations, from model comparisons to corrections for ···

★ 131 2026-09-14