eval-assist

用网页交互调教 LLM 当裁判,迭代出靠谱评估标准

开源 🏷️完全免费 ✅ 目前可打开 评测安全 🍴 复刻 9 🐛 待处理 16 👀 关注 4 ⚠️ 作者已归档(停止维护)
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 103
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源免费,提供网页版评估体验

项目预览

eval-assist 项目界面预览图
图片来源:项目官网

项目数据

分类评测安全
开发团队IBM
定价模式🏷️完全免费
价格说明开源免费,提供网页版评估体验
访问状态✅ 目前可打开
是否开源是
开源协议Apache-2.0
主要语言TypeScript
GitHub 星标★ 103
上线时间2025-05-05 00:00:00
代码更新2026-10-05
仓库体积35.8 MB
本站数据更新2026-11-07
维护状态维护中
收录时间2026-09-25
浏览次数2

项目介绍

EvalAssist 是一个开源工具,旨在简化使用大语言模型作为评估者(LLM-as-a-Judge)来评判其他大语言模型输出的过程。它解决的核心问题是:直接让 LLM 打分往往标准模糊、结果不稳定,而手动设计评估标准又很繁琐。EvalAssist 提供基于 Web 的交互界面,让用户能迭代式地定义、修改和细化评估标准,并即时查看 LLM 评估结果,从而逐步对齐评估意图。核心能力包括:支持自定义评估维度与评分规则、实时反馈与调整、以及将评估流程标准化。项目采用 TypeScript 开发,适合需要自动化评测 LLM 输出质量的研究者、产品团队和开发者,尤其适用于模型对比、提示词优化和内容安全审核等场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-25 · 当前星标 ★ 103

核心亮点

  • 提供可视化 Web 界面,降低 LLM-as-a-Judge 的使用门槛
  • 支持迭代式细化评估标准,能逐步对齐人类意图
  • 基于 TypeScript 开发,前后端技术栈统一,便于二次开发

不足之处

  • 项目尚处早期,星标仅 103,社区生态和文档完善度有限
  • 依赖 LLM 作为评估者,评估结果仍受模型自身偏见和稳定性影响

适用场景

  • 模型输出质量对比:快速定义标准并批量评估不同模型的回答
  • 提示词工程优化:迭代评估标准以筛选最佳提示词
  • 内容安全审核:自定义安全维度,让 LLM 自动筛查违规内容

替代项目

promptfoo、DeepEval

同类项目推荐

crust 开源

给 AI Agent 装上行为拦截闸,危险操作发生前就挡住

Open Source AI Agent Security Infrastructure — intercepts and blocks dangerous agen···

★ 439 2026-10-31
LLMRouterBench 开源

把各家大模型路由方法拉到同一张考卷上比高低

[Findings@ACL'26] LLMRouterBench: A Massive Benchmark and Unified Framework for LLM ···

★ 131 2026-10-26
system_prompts_leaks 开源

扒开各家 AI 的底牌,看清它怎么想、怎么答

Leaked system prompts of ChatGPT, Claude, Gemini and more. The hidden system prompt ···

★ 71072 2026-08-09
auto_eval 开源

让机器人策略评估全自动,省时省力又客观

AutoEval: Autonomous Evaluation of Generalist Robot Manipulation Policies in the Rea···

★ 108 2026-08-09
pII-guard 开源

用 LLM 智能识别日志中的隐私信息,轻松满足 GDPR 合规。

️ PII Guard is an LLM-powered tool that detects and manages Personally Identifiable···

★ 115 2026-08-09
Awesome-Machine-Generated-Text 开源

一站式找全大模型生成文本的检测与分析资源

Continuously updated list of related resources for generative LLMs like GPT and thei···

★ 231 2026-08-09
raga-llm-hub 开源

一站式搞定 LLM 评估、防护与安全,让上线更放心

Framework for LLM evaluation, guardrails and security

★ 115 2026-08-09
vistorybench 开源

给AI故事配图能力打分,让模型叙事更连贯

[CVPR 2026] ViStoryBench: AI Story Visualization Benchmark

★ 173 2026-08-09
M3Exam 开源

全球大模型谁更聪明?多语言考卷测出真实力

Data and code for paper "M3Exam: A Multilingual, Multimodal, Multilevel Benchmark fo···

★ 105 2026-08-09