项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 19371
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Python 3.9 或更高版本(README 明确要求 Python>=3.9+)
- 已安装 pip 包管理工具
- 一个可调用的 LLM 应用或 Agent(如 RAG 客服机器人、LangChain/LangGraph 应用)
- 可选:Confident AI 托管评估平台账号,用于集中管理测试结果
安装与启动步骤
-
1确认 Python 版本
DeepEval 要求 Python 3.9 及以上,先确认本地版本,低于 3.9 需先升级再安装。
python --version -
2安装 DeepEval
通过 pip 安装并升级到最新版 DeepEval,这是 README 给出的唯一安装方式。
pip install -U deepeval -
3接入你的 LLM 应用
在现有应用循环中挂上评测指标,示例为 LangChain 集成,其他框架参考 README 的 Integrations 折叠块。
from deepeval.integrations.langchain import CallbackHandler from deepeval.metrics import TaskCompletionMetric for golden in dataset.evals_iterator(): llm.invoke( golden.input, config={"callbacks": [CallbackHandler(metrics=[TaskCompletionMetric()])]}, ) -
4运行评测
用 deepeval 命令行执行评测套件,观察各指标的通过或失败情况。
deepeval test run -
5迭代修复失败指标
针对未通过的指标调整提示词或流程后重跑评测,README 的 vibe-coder 指南即为此流程。
如何确认成功
运行 deepeval test run 无报错,并能看到各条评测指标的通过/失败结果。
常见问题
Q:需要什么 Python 版本?
A:README 明确说明 DeepEval 支持 Python>=3.9+,建议使用 3.9 及以上版本安装。
Q:支持哪些 LLM 框架集成?
A:README 列出了 OpenAI、OpenAI Agents、Anthropic、LangChain、LangGraph、Pydantic AI、CrewAI、LlamaIndex、Google ADK、Strands、AWS AgentCore,以及 TypeScript 的 AI SDK 和 Mastra。
Q:能让编码 Agent 自动写评测吗?
A:可以,README 提到安装 DeepEval skill 后让 Agent 生成数据集、编写评测套件、运行 deepeval test run 并迭代失败指标,另有 5 分钟 vibe-coder 指南。
Q:评测结果能集中管理吗?
A:可以,项目提供可选的托管评估平台 Confident AI 用于集中管理和分析测试结果,README 中只给出了官网链接。
注意事项
- DeepEval 以 Python 库形式分发,README 未提供 Docker 或独立服务端部署方式。
- README 节选中未列出评测所需 API Key 的环境变量名,使用前请以官方文档为准。
- 部分示例代码中的 dataset、llm、agent 等对象需由你自己的项目和数据集提供。
- Confident AI 平台为可选项,不接入也可本地运行评测。
核心亮点
- 提供类似 Pytest 的测试体验,学习成本低,易于集成到现有测试流程。
- 内置 14+ 种常用评测指标,覆盖答案相关性、忠实度、上下文相关性等关键维度。
- 支持合成数据生成,可自动创建测试用例,减少手动标注成本。
不足之处
- 评测结果依赖所选 LLM 的判断,可能引入主观性和不稳定性。
- 文档和社区生态相对较新,部分高级功能需使用商业平台。
适用场景
- 在 CI/CD 流水线中自动运行 LLM 回归测试,防止应用质量下降。
- 开发阶段快速验证 prompt 或模型调整对输出质量的影响。
- 对比不同 LLM 或 prompt 策略,选择最优方案。
替代项目
Ragas、Promptfoo、LangSmith
同类项目推荐
OceanGym
开源
打造水下机器人的“健身房”,让智能体在仿真洋流中练就真本事。
[EMNLP 2026] OceanGym: A Benchmark Environment for Underwater Embodied Agents
memorybench
开源
一套基准跑遍对话记忆与 RAG,选型不再靠拍脑袋
Unified benchmark for evaluating conversational memory and RAG across multiple datas···
S-Eval
开源
一键自动化评估大模型安全,覆盖多风险场景
S-Eval: Towards Automated and Comprehensive Safety Evaluation for Large Language Mod···
BEAM
开源
百万级上下文下,科学评测并增强大模型长期记忆
[ICLR 2026] Beyond a Million Tokens: Benchmarking and Enhancing Long-Term Memory in ···
ParseBench
开源
给AI文档解析打分,选型不踩坑
ParseBench - A Document Parsing Benchmark for AI Agents
Video-MME-v2
开源
评测视频大模型,从看懂片段到理解长视频全场景。
Video-MME-v2: Towards the Next Stage in Benchmarks for Comprehensive Video Understan···
InferenceX
开源
多模型多硬件推理压测,一键跑出可比性能数据
Open Source AI Accelerator Research Platform Standard / 开源推理研究平台
AlignLLMHumanSurvey
开源
一张图看懂大模型如何对齐人类偏好
Aligning Large Language Models with Human: A Survey
Jailbreak-Foundry
开源
把越狱论文变成可跑的攻击测试,实时更新基准
A system that turns jailbreak papers into runnable attacks and benchmarks — live, a···
