项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 3663
技术标签
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- 已安装 Python 环境
- pip 可用并能访问 PyPI
- 如需源码安装或额外依赖,需参考官方安装指南
安装与启动步骤
-
1确认 Python 环境
确保本机已装好 Python 且 pip 可正常使用,这是后续安装 evalscope 的前置条件。
python --version pip --version -
2安装 evalscope
README 的 Quick Start 只给出一条安装方式:直接用 pip 从 PyPI 安装 evalscope 包。
pip install evalscope -
3查阅官方文档
README 未给出评测命令示例,安装后请到官方安装指南与文档页查看源码安装、额外依赖及实际评测用法。
如何确认成功
运行 pip show evalscope 能显示已安装的版本号与安装路径,即表示安装成功。
常见问题
Q:需要源码安装或安装额外依赖怎么办?
A:README 明确说明详细安装方式(源码安装、额外依赖等)请参考官方安装指南:https://evalscope.readthedocs.io/en/latest/get_started/installation.html
Q:安装后不知道怎么开始评测?
A:README 的 Quick Start 只包含 pip 安装步骤,具体评测用法请查阅中文文档 https://evalscope.readthedocs.io/zh-cn/latest/ 或产品官网。
Q:文档在哪里看?
A:中文文档:https://evalscope.readthedocs.io/zh-cn/latest/;英文文档:https://evalscope.readthedocs.io/en/latest/;官网:https://modelscope.github.io/evalscope/
注意事项
- README 未提供评测运行的命令行示例,实际使用前建议先通读官方文档,避免照搬猜测的参数。
- 源码安装方式见官方 Installation Guide,不要自行猜测依赖包名。
- 项目地址:https://github.com/modelscope/evalscope ,觉得有用可点 Star 支持。
核心亮点
- 支持 LLM、VLM、AIGC 多种模型类型,覆盖范围广
- 内置主流评测基准和自定义数据集,开箱即用
- 分布式评测加速,适合大规模模型测试
不足之处
- 文档/社区待观察
- 自定义评测流程的学习曲线可能较陡
适用场景
- 模型选型时对比不同大模型的性能
- 模型迭代开发中持续回归测试
- 研究机构或企业发布模型时的基准报告生成
替代项目
lm-evaluation-harness、OpenCompass、DeepEval
同类项目推荐
heretic
开源
一键去除模型审查,解锁无限制回答
Training-free language model modification: Remove censorship, suppress slop, reduce ···
dep-scan
开源
扫依赖和镜像,查漏洞与许可证风险,出 SBOM
OWASP dep-scan is a next-generation security and risk audit tool based on known vuln···
unitxt
开源
一站式搭建可复现的 AI 评估流水线,告别零散脚本。
Unitxt is a Python library for enterprise-grade evaluation of AI performance, offeri···
OpenAPPA
开源
给 AI Agent 加确定性护栏,安全不打断任务
Deterministic guardrails that don't break agents
Awesome-Process-Reward-Models
开源
一站式索引过程奖励模型论文与代码,快速上手推理监督
A comprehensive collection of process reward models.
AgentMark
开源
给AI智能体行为打上隐形水印,防止被盗用
【ACL 2026 Main】AgentMark: Utility-Preserving Behavioral Watermarking for Agents
evalplus
开源
给 LLM 代码生成做严格体检,避免高分低能
Rigourous evaluation of LLM-synthesized code - NeurIPS 2023 & COLM 2024
circle-guard-bench
开源
给 LLM 防护系统打分,选最靠谱的护栏
First-of-its-kind AI benchmark for evaluating the protection capabilities of large l···
evalstats
开源
小样本评测也能算出模型差异是否真实
Statistical inference for AI evaluations, from model comparisons to corrections for ···
