dialog-eval

17个指标一键评估你的对话模型,告别人工打分。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 20 🐛 待处理 6 👀 关注 1
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 97
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

dialog-eval 项目界面预览图
图片来源:项目官网

项目数据

分类对话助手
开发团队ricsinaruto
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型chatbot,conversation,dialog,embeddings,entropy,evaluation,metrics
GitHub 星标★ 97
上线时间2019-05-30 00:00:00
代码更新2020-08-07
仓库体积298 KB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

dialog-eval 是一个用于评估对话模型的 Python 库,提供 17 种自动化评估指标,覆盖流畅性、相关性、信息量、多样性等维度。它旨在解决对话系统开发中人工评估成本高、标准不统一的问题,让研究者能快速、可复现地衡量模型性能。核心能力包括:基于嵌入相似度的语义相关性评估、基于熵和 n-gram 的多样性度量、以及结合语言模型打分等。项目由论文驱动,指标设计有理论依据,适合学术研究与模型迭代对比。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 97

核心亮点

  • 覆盖17种指标,从语义相关性到信息熵,评估维度全面,避免单一指标偏差。
  • 基于嵌入的相似度计算,能捕捉语义层面的相关性,比纯词面匹配更智能。
  • 提供可复现的评估流程,适合论文实验和模型版本对比。

不足之处

  • 项目处于早期,文档和社区支持待观察,可能缺少详细使用示例。
  • 指标计算可能依赖外部模型(如嵌入模型),增加运行成本和配置复杂度。

适用场景

  • 学术研究中对比不同对话模型的性能。
  • 开发对话机器人时,快速筛选候选模型或调参。
  • 在缺乏人工标注的情况下,自动评估模型迭代效果。

替代项目

ConvEval、DialogueEval、ChatEval

同类项目推荐

empirica 开源

给 AI 装上可靠性仪表盘,让每次输出可测量、可拦截、可信赖。

Make AI agents and AI workflows measurably reliable. Epistemic measurement, Noetic R···

★ 255 2026-08-09
Zero-Breach-Toolkit 开源

离线自查设备是否留有已知间谍软件痕迹

Free, open-source check for traces of mercenary spyware (Pegasus, Predator, Graphite···

★ 4565 2026-10-29
Modality-Integration-Rate 开源

量化视觉-语言模型跨模态对齐,诊断融合短板

[ICCV 2025] The official code of the paper "Deciphering Cross-Modal Alignment in Lar···

★ 114 2026-08-09
Rules.txt 开源

用指令集撬开AI黑盒,审计推理与偏见

LLM alignment jailbreak; a set of instructions for auditing their internal reasoning···

★ 110 2026-08-09
awesome-language-model-analysis 开源

一份论文清单,帮你快速摸清大模型分析的研究脉络。

This paper list focuses on the theoretical and empirical analysis of language models···

★ 103 2026-08-09
PatchEval 开源

用真实漏洞测大模型修 bug 的真本事

PatchEval: A New Benchmark for Evaluating LLMs on Patching Real-World Vulnerabilitie···

★ 235 2026-10-23
optimum-benchmark 开源

一键横评多后端推理性能,选型不靠猜

️ A unified multi-backend utility for benchmarking Transformers, Timm, PEFT, Diffus···

★ 341 2026-09-18