evals

像写单测一样评测大模型,改提示词不再靠感觉

开源 🏷️基础免费,高级付费 ✅ 目前可打开 评测安全 🍴 复刻 21 🐛 待处理 55 👀 关注 4
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 150
维护状态 活跃
是否开源 开源
定价模式 🏷️基础免费,高级付费 支持限时试用 · 开源免费,Supabase 云服务有免费额度及付费套餐

项目预览

evals 项目界面预览图
图片来源:项目官网

项目数据

分类评测安全
开发团队supabase
定价模式🏷️基础免费,高级付费
价格说明开源免费,Supabase 云服务有免费额度及付费套餐
访问状态✅ 目前可打开
是否开源是
开源协议Apache-2.0
主要语言TypeScript
GitHub 星标★ 150
上线时间2026-04-30 00:00:00
代码更新2026-11-04
仓库体积76.0 MB
本站数据更新2026-11-04
维护状态活跃
收录时间2026-09-14
浏览次数1

项目介绍

evals 是一个用 TypeScript 编写的开源评测框架,目标是让开发者像写单元测试一样编写和运行大模型(LLM)的评测。它解决的核心问题是:大模型输出具有随机性,传统断言难以直接套用,团队缺少统一、可复现的方式来衡量提示词、模型或参数改动的效果。项目提供评测用例定义、批量运行、结果对比与打分等能力,支持把评测接入日常开发流程,在改动提示词或切换模型时快速发现质量回退。由于是早期项目,星标数不高,但方向明确,适合需要为 AI 应用建立回归测试与质量基线的团队参考或二次开发。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-14 · 当前星标 ★ 150

核心亮点

  • 用 TypeScript 定义评测用例,前端/Node 团队上手成本低
  • 把评测流程工程化,可在提示词或模型变更时做回归对比
  • 开源可自托管,便于接入现有 CI 与内部数据

不足之处

  • 项目处于早期,API 与功能可能不稳定
  • 生态与文档相对薄弱,缺少大规模社区验证

适用场景

  • 提示词迭代后跑回归评测,确认没有质量下降
  • 对比不同模型或参数在同一批用例上的表现
  • 把 LLM 评测接入 CI,作为发布前的质量门禁

替代项目

promptfoo、OpenAI Evals

上一篇:evals

下一篇:inspect_evals

同类项目推荐

llm_chess 开源

让大模型下棋,测出推理和守规则的真实水平

LLM Chess - evaluating Large Language Models' reasoning and instruction-following ab···

★ 137 2026-09-15
evaluation-guidebook 开源

学透 LLM 评估,避开 benchmark 陷阱,科学选模型。

Sharing both practical insights and theoretical knowledge about LLM evaluation that ···

★ 2162 2026-08-09
awesome-gpt-6-astra 开源

一份清单,带你安全玩转GPT-6 Astra的实战用例与提示词。

Evidence-backed use cases, prompts, integrations, evaluations, and safety notes for ···

★ 13 2026-09-07
Awesome-LLM-Compression 开源

大模型压缩论文与工具一站索引,快速选型落地

Awesome LLM compression research papers and tools.

★ 1890 2026-09-16
open-bias 开源

给 AI Agent 加一道策略防火墙,违规请求当场拦截

Open Source policy enforcement proxy: Make your agents follow rules.

★ 139 2026-10-09
Robust-U1 开源

让多模态模型自己修复坏图,理解不翻车

[ICML 2026] Official Implementation of Robust-U1: Can MLLMs Self-Recover Corrupted V···

★ 355 2026-08-09
napolab 开源

一站式对比葡萄牙语AI模型,掌握最新性能排名

The Natural Portuguese Language Benchmark (Napolab). Stay up to date with the latest···

★ 71 2026-08-09
MIND 开源

测测你的视频生成模型,记忆和动作控制靠不靠谱

The first open-domain closed-loop revisited benchmark for evaluating memory consiste···

★ 81 2026-08-09
context-bombs 开源

用现成的攻击字符串,测出你的 AI 系统抗不抗揍。

Context bomb strings

★ 162 2026-08-10