项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 764
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Python 3.9+
- 模型 Key(部分指标)
安装与启动步骤
-
1装包
面向大模型与 RAG 的自动化评测工具。
pip install dingo-python -
2按需装扩展
多模态或检索评测是分开的 extra。
pip install "dingo-python[hhem]" pip install "dingo-python[retrieval]" -
3准备待评数据
输入是模型输出或检索结果。
dingo eval --input results.jsonl -
4看报告
输出分维度的评分与问题清单。
dingo report --format html
如何确认成功
能对一份模型输出生成含各维度分数的报告。
注意事项
- 评测指标有的是规则、有的是模型判,注意区分可信度。
- 自定义指标要写清楚判定标准,否则不可复现。
- 全量 extra 装得多,按需选。
核心亮点
- 内置多种数据质量规则与指标,开箱即可对语料批量打分
- 引入 agent-as-a-judge,用智能体辅助评测,减少纯人工标注
- 支持生成数据质量报告,便于团队复盘与决策
不足之处
- 项目星标约756,属于早期阶段,生态与案例积累有限
- 评测规则和指标的覆盖面可能仍需按业务自行扩展
适用场景
- 大模型训练前对爬取语料做质量筛查与打分
- 模型上线前对输出效果做多维度自动评测
- 数据团队定期生成数据质量报告,跟踪数据健康度
替代项目
DeepEval、Ragas
上一篇:ClawProBench
下一篇:ps-fuzz
同类项目推荐
vestige
开源
给AI智能体装黑匣子,每步操作可查可证
Think before doing, prove before saving. Vestige is the local-first cognitive operat···
humanbound
开源
给 AI 智能体找茬,自动发现安全漏洞和逻辑缺陷。
Open-source adversarial testing engine, SDK, and CLI for AI agents. Runs locally or ···
Awesome-Machine-Generated-Text
开源
一站式找全大模型生成文本的检测与分析资源
Continuously updated list of related resources for generative LLMs like GPT and thei···
ChronoMagic-Bench
开源
测文生视频的时间演化能力,让模型从动起来到变起来
[NeurIPS 2024 D&B Spotlight] ChronoMagic-Bench: A Benchmark for Metamorphic Evaluati···
ErrorAnalysis_Prompt
开源
用 ChatGPT 快速定位翻译错误,输出结构化评估报告
:gift:[ChatGPT4MTevaluation] ErrorAnalysis Prompt for MT Evaluation in ChatGPT
synbad
开源
同一模型多家推理服务商,跑一轮评测看谁更靠谱
LLM evals to test open-source inference providers
OpenRT
开源
一键对多模态大模型发起42+攻击,快速暴露安全漏洞
Open-source red teaming framework for MLLMs with 42+ attack methods
AgentMark
开源
给AI智能体行为打上隐形水印,防止被盗用
【ACL 2026 Main】AgentMark: Utility-Preserving Behavioral Watermarking for Agents
gpt6-Astra
开源
一个工作台集中测试各大模型的越狱与安全边界
gpt6 Astra-claude-grok4.7-deepseekv4.1flash-glm5.3-gemini破甲越狱 · 冷咖啡 BREAK//O···
