benchmark

一套脚本横向对比多个大模型的质量

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 42 🐛 待处理 32 👀 关注 6
GitHub ↗
GitHub 星标 ★ 120
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,无独立定价

项目预览

benchmark 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队fw-ai-external
定价模式🏷️完全免费
价格说明开源免费,无独立定价
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
GitHub 星标★ 120
上线时间2023-11-03 00:00:00
代码更新2026-11-06
仓库体积5.7 MB
本站数据更新2026-11-07
维护状态活跃
收录时间2026-11-07
浏览次数0

项目介绍

Fireworks.ai 开源的 LLM 基准评测套件,用统一脚本对多种大模型做可复现的质量对比。项目提供标准化的评测流程与数据集接入方式,覆盖常见推理、知识与生成类任务,输出结构化指标便于横向比较不同模型或同一模型不同版本的表现。核心能力包括:批量调用模型 API 或本地推理端点、按任务组织测试用例、汇总准确率等分数并生成对比结果,适合在选型、微调后回归验证和上线前质量把关时使用。代码以 Python 编写,结构轻量,便于按需增删评测任务或替换数据集,也方便团队在内部流水线中集成。作为早期项目,星标数不高,功能边界以官方脚本为准,使用前建议先阅读仓库说明确认支持的模型接口与任务范围。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-07 · 当前星标 ★ 120

核心亮点

  • 提供统一评测流程,同一套脚本可对比多个模型,减少自建评测的成本
  • 以 Python 实现、结构轻量,便于按团队需求增删任务或替换数据集
  • 输出结构化指标,适合用于模型选型与微调后的回归验证

不足之处

  • 早期项目,星标与社区规模较小,文档和示例覆盖有限
  • 评测任务与数据集范围以仓库现状为准,扩展性依赖自行改造

适用场景

  • 模型选型阶段横向对比多个候选模型的效果
  • 微调或版本迭代后做质量回归验证
  • 团队内部搭建可复现的模型评测流水线

替代项目

lm-evaluation-harness、OpenCompass

上一篇:lm_understand-logs

下一篇:没有了!

同类项目推荐

VideoGen-Eval 开源

给视频生成模型打分,自动评测多维度质量

VideoGen-Eval: Agent-based System for Video Generation Evaluation

★ 272 2026-08-09
guidellm 开源

给 LLM 推理服务做真实压测,选型调优有数可依

Evaluate and Enhance Your LLM Deployments for Real-World Inference Needs

★ 1757 2026-10-14
VLMEvalKit 开源

一键评测 220+ 多模态模型,秒出对比报告

Open-source evaluation toolkit of large multi-modality models (LMMs), support 220+ L···

★ 4475 2026-08-09
WorfBench 开源

给AI工作流生成能力打分,让模型编排更靠谱

[ICLR 2025] Benchmarking Agentic Workflow Generation

★ 159 2026-08-09
Object-Detection-Metrics 开源

一键计算目标检测的 mAP,公平对比模型性能

Most popular metrics used to evaluate object detection algorithms.

★ 5101 2026-08-10
Awesome-LLM-Red-Teaming 开源

一站式收集 LLM 红队测试资源,快速上手安全攻防

A curated list of awesome LLM Red Teaming training, resources, and tools.

★ 148 2026-08-09
UltraText_Bench 开源

给文生图模型做中英文写字能力体检

[Preprint] UltraText Bench: A Comprehensive Bilingual Benchmark for Evaluating Visua···

★ 114 2026-10-23
Awesome-LLMs-Pruning 开源

大模型剪枝论文一网打尽,调研选型不迷路

Awesome LLM pruning papers all-in-one repository with integrating all useful resourc···

★ 182 2026-10-24
model-serving-minefield 开源

按症状查 LLM 服务陷阱,避免自信的错误测量

Community registry of LLM serving-path traps that produce confidently wrong measurem···

★ 174 2026-09-14