deepeval

像写单元测试一样评测你的 LLM 应用,快速发现质量回归。

开源 🏷️基础免费,高级付费 ✅ 目前可打开 评测安全 🍴 复刻 2177 🐛 待处理 816 👀 关注 64
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 19371
维护状态 活跃
是否开源 开源
定价模式 🏷️基础免费,高级付费 开源框架免费,提供在线平台,基础功能免费,高级功能需付费,具体价格未明确。

项目预览

deepeval 项目界面预览图
图片来源:项目官网

项目数据

分类评测安全
开发团队confident-ai
定价模式🏷️基础免费,高级付费
价格说明开源框架免费,提供在线平台,基础功能免费,高级功能需付费,具体价格未明确。
访问状态✅ 目前可打开
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型evaluation-framework,evaluation-metrics,llm-evaluation,llm-evaluation-framework,llm-evaluation-metrics,python
GitHub 星标★ 19371
上线时间2023-08-10 00:00:00
代码更新2026-11-07
仓库体积210.0 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-10
浏览次数7

项目介绍

DeepEval 是一个开源的 LLM(大语言模型)评测框架,旨在帮助开发者系统化地测试和评估基于 LLM 的应用。它解决了 LLM 应用质量难以量化、回归测试困难的问题,提供了一套类似 Pytest 的测试范式,让开发者可以像编写单元测试一样编写 LLM 评测用例。核心能力包括:支持 14 种以上的评测指标(如答案相关性、忠实度、上下文相关性等),内置合成数据生成器,支持 Pytest 集成,提供全面的 CI/CD 集成能力,以及一个可选的托管评估平台(Confident AI)用于集中管理和分析测试结果。DeepEval 强调易用性,通过简单的 Python 装饰器即可快速构建评测流程,并支持自定义指标和多种 LLM 提供商。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 19371

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 10 分钟 部署方式:库/依赖 5 步

环境要求

  • Python 3.9 或更高版本(README 明确要求 Python>=3.9+)
  • 已安装 pip 包管理工具
  • 一个可调用的 LLM 应用或 Agent(如 RAG 客服机器人、LangChain/LangGraph 应用)
  • 可选:Confident AI 托管评估平台账号,用于集中管理测试结果

安装与启动步骤

  1. 1确认 Python 版本

    DeepEval 要求 Python 3.9 及以上,先确认本地版本,低于 3.9 需先升级再安装。

    python --version
  2. 2安装 DeepEval

    通过 pip 安装并升级到最新版 DeepEval,这是 README 给出的唯一安装方式。

    pip install -U deepeval
  3. 3接入你的 LLM 应用

    在现有应用循环中挂上评测指标,示例为 LangChain 集成,其他框架参考 README 的 Integrations 折叠块。

    from deepeval.integrations.langchain import CallbackHandler
    from deepeval.metrics import TaskCompletionMetric
    
    for golden in dataset.evals_iterator():
        llm.invoke(
            golden.input,
            config={"callbacks": [CallbackHandler(metrics=[TaskCompletionMetric()])]},
        )
  4. 4运行评测

    用 deepeval 命令行执行评测套件,观察各指标的通过或失败情况。

    deepeval test run
  5. 5迭代修复失败指标

    针对未通过的指标调整提示词或流程后重跑评测,README 的 vibe-coder 指南即为此流程。

如何确认成功

运行 deepeval test run 无报错,并能看到各条评测指标的通过/失败结果。

常见问题

Q:需要什么 Python 版本?

A:README 明确说明 DeepEval 支持 Python>=3.9+,建议使用 3.9 及以上版本安装。

Q:支持哪些 LLM 框架集成?

A:README 列出了 OpenAI、OpenAI Agents、Anthropic、LangChain、LangGraph、Pydantic AI、CrewAI、LlamaIndex、Google ADK、Strands、AWS AgentCore,以及 TypeScript 的 AI SDK 和 Mastra。

Q:能让编码 Agent 自动写评测吗?

A:可以,README 提到安装 DeepEval skill 后让 Agent 生成数据集、编写评测套件、运行 deepeval test run 并迭代失败指标,另有 5 分钟 vibe-coder 指南。

Q:评测结果能集中管理吗?

A:可以,项目提供可选的托管评估平台 Confident AI 用于集中管理和分析测试结果,README 中只给出了官网链接。

注意事项

  • DeepEval 以 Python 库形式分发,README 未提供 Docker 或独立服务端部署方式。
  • README 节选中未列出评测所需 API Key 的环境变量名,使用前请以官方文档为准。
  • 部分示例代码中的 dataset、llm、agent 等对象需由你自己的项目和数据集提供。
  • Confident AI 平台为可选项,不接入也可本地运行评测。

核心亮点

  • 提供类似 Pytest 的测试体验,学习成本低,易于集成到现有测试流程。
  • 内置 14+ 种常用评测指标,覆盖答案相关性、忠实度、上下文相关性等关键维度。
  • 支持合成数据生成,可自动创建测试用例,减少手动标注成本。

不足之处

  • 评测结果依赖所选 LLM 的判断,可能引入主观性和不稳定性。
  • 文档和社区生态相对较新,部分高级功能需使用商业平台。

适用场景

  • 在 CI/CD 流水线中自动运行 LLM 回归测试,防止应用质量下降。
  • 开发阶段快速验证 prompt 或模型调整对输出质量的影响。
  • 对比不同 LLM 或 prompt 策略,选择最优方案。

替代项目

Ragas、Promptfoo、LangSmith

上一篇:evals

下一篇:garak

同类项目推荐

OceanGym 开源

打造水下机器人的“健身房”,让智能体在仿真洋流中练就真本事。

[EMNLP 2026] OceanGym: A Benchmark Environment for Underwater Embodied Agents

★ 155 2026-08-09
memorybench 开源

一套基准跑遍对话记忆与 RAG,选型不再靠拍脑袋

Unified benchmark for evaluating conversational memory and RAG across multiple datas···

★ 334 2026-09-21
S-Eval 开源

一键自动化评估大模型安全,覆盖多风险场景

S-Eval: Towards Automated and Comprehensive Safety Evaluation for Large Language Mod···

★ 123 2026-08-09
BEAM 开源

百万级上下文下,科学评测并增强大模型长期记忆

[ICLR 2026] Beyond a Million Tokens: Benchmarking and Enhancing Long-Term Memory in ···

★ 173 2026-08-09
ParseBench 开源

给AI文档解析打分,选型不踩坑

ParseBench - A Document Parsing Benchmark for AI Agents

★ 626 2026-08-10
Video-MME-v2 开源

评测视频大模型,从看懂片段到理解长视频全场景。

Video-MME-v2: Towards the Next Stage in Benchmarks for Comprehensive Video Understan···

★ 368 2026-08-09
InferenceX 开源

多模型多硬件推理压测,一键跑出可比性能数据

Open Source AI Accelerator Research Platform Standard / 开源推理研究平台

★ 2004 2026-09-14
AlignLLMHumanSurvey 开源

一张图看懂大模型如何对齐人类偏好

Aligning Large Language Models with Human: A Survey

★ 739 2026-09-15
Jailbreak-Foundry 开源

把越狱论文变成可跑的攻击测试,实时更新基准

A system that turns jailbreak papers into runnable attacks and benchmarks — live, a···

★ 174 2026-08-10