LLMEvaluation

选对 LLM 评测方法,少走弯路

开源 🏷️完全免费 ✅ 目前可打开 评测安全 🍴 复刻 32 👀 关注 6
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 207
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费指南,无付费内容

项目预览

LLMEvaluation 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队alopatenko
定价模式🏷️完全免费
价格说明开源免费指南,无付费内容
访问状态✅ 目前可打开
是否开源是
主要语言HTML
技术栈/模型evaluation,generative-ai-benchmarking,llm,llm-benchmarking,llm-evaluation
GitHub 星标★ 207
上线时间2024-04-02 00:00:00
代码更新2026-10-27
仓库体积4.3 MB
本站数据更新2026-11-03
维护状态较活跃
收录时间2026-09-15
浏览次数1

项目介绍

LLMEvaluation 是一份面向大语言模型评测方法的系统性指南,以 HTML 文档形式组织,目标是帮助开发者、产品团队和研究者根据自身用例挑选最合适的评测方案。它梳理了当前主流的 LLM 评估范式,包括自动指标、模型打分、人工评估、基准测试集等,并对每种方法的适用边界与有效性做批判性讨论。项目解决的核心问题是:LLM 评测领域方法碎片化、指标口径混乱,团队常常不知道该用 BLEU、ROUGE、LLM-as-Judge 还是人工标注,也难以判断某个评测结论是否可信。它把分散的实践整理成可查阅的知识库,并强调最佳实践的推广,适合在搭建评测流水线前做方案选型参考。项目以文档为主,不含可直接运行的评测框架,更偏向方法论索引与决策辅助。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-15 · 当前星标 ★ 207

核心亮点

  • 按用例梳理多种评测范式,覆盖自动指标、模型打分、人工评估等主流路线
  • 对评测方法本身做批判性评估,而非只罗列指标,帮助判断结论可信度
  • 以文档形式组织,查阅成本低,适合团队做评测方案选型前的快速调研

不足之处

  • 纯文档项目,不提供可运行的评测代码或工具链
  • 星标数较少,社区规模与更新活跃度有待观察

适用场景

  • 团队搭建 LLM 评测流水线前做方法选型调研
  • 研究者撰写 LLM 评估相关论文时查阅方法分类
  • 产品经理判断某个模型评测报告是否可信时做参考

替代项目

EleutherAI/lm-evaluation-harness、openai/evals

上一篇:tribunal

下一篇:Awesome-Process-Reward-Models

同类项目推荐

mt-rag-benchmark 开源

多轮对话下测 RAG,暴露单轮评测看不到的短板

Multi-Turn RAG Benchmark

★ 158 2026-10-02
Guardrails 开源

给大模型对话装上可编程的安全护栏,防止跑偏和有害输出。

NeMo Guardrails is an open-source toolkit for easily adding programmable guardrails ···

★ 7419 2026-08-10
Doberman-Core 开源

运行时拦截 AI 的每个动作,防止危险操作执行

Your AI's guard dog. Doberman sits at runtime, gating every input, output and tool c···

★ 277 2026-08-26
rizzo-pii 开源

本地脱敏文档,再放心喂给 LLM

Local-first privacy guard: anonymize your documents before sharing with LLMs.

★ 1240 2026-09-28
RAGElo 开源

用 Elo 对战排名,快速选出最强 RAG 智能体

RAGElo is a set of tools that helps you selecting the best RAG-based LLM agents by u···

★ 133 2026-10-02
genai-bench 开源

token 级压测 LLM 服务,选型调优有据可依

Genai-bench is a powerful benchmark tool designed for comprehensive token-level perf···

★ 333 2026-10-23
llm-eval 开源

一站式跑分,快速对比大模型与 RAG 效果

大语言模型评估平台,支持多种评估基准、自定义数据集和性能测试。支持基于自定义数据集的···

★ 100 2026-08-09
DeepSec 开源

AI 写码,DeepSec 把关,实时防漏洞,自动测安全。

DeepSec — AI Security Offense & Defense Platform. Shield audits AI-generated code f···

★ 504 2026-08-09