contextcheck

用 YAML 配置测试用例,把 LLM 测试塞进 CI 流水线,自动跑完收工。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 13 🐛 待处理 2 👀 关注 2
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 98
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 MIT 许可证,完全免费开源,可自行部署使用。

项目预览

contextcheck 项目界面预览图
图片来源:项目官网

项目数据

分类开源模型
开发团队Addepto
定价模式🏷️完全免费
价格说明MIT 许可证,完全免费开源,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai-chat,ai-testing,ai-testing-tool,chatbot-framework,chatbot-testing,ci,generative-ai-testing,large-language-models,llm,llm-evaluation,llm-evaluation-framework,llm-testing,open-source,prompt-test,rag,rag-testing,summarization-testing,testing-framework,testing-tools
GitHub 星标★ 98
上线时间2024-10-30 00:00:00
代码更新2024-12-11
仓库体积475 KB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

contextcheck 是一个基于 MIT 许可的开源框架,用于测试大型语言模型(LLM)、检索增强生成(RAG)系统以及聊天机器人。它通过 YAML 文件进行灵活配置,能够定义测试用例、预期行为以及评估指标,并支持集成到 CI 流水线中,实现自动化测试。该框架旨在帮助开发者在部署前验证模型输出的准确性、安全性和一致性,解决 LLM 应用测试难、评估标准不统一的问题。其核心能力包括:结构化测试用例管理、可定制的评估逻辑、与现有开发流程的无缝对接,以及清晰的测试报告输出。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 98

核心亮点

  • YAML 配置测试用例,无需写代码即可定义复杂测试场景,上手门槛低。
  • 专为 CI 设计,可无缝集成到 GitHub Actions 等流水线,实现每次提交自动回归测试。
  • 支持 LLM、RAG、聊天机器人多种类型,覆盖主流 AI 应用测试需求。

不足之处

  • 项目处于早期阶段,文档和社区生态尚待完善。
  • 测试评估的准确性和可靠性依赖底层模型,可能受模型波动影响。

适用场景

  • 在 CI 流水线中自动检测 LLM 回答的准确性和安全性,防止回归。
  • 针对 RAG 系统,验证检索内容与生成答案的一致性,确保引用正确。
  • 对聊天机器人进行多轮对话测试,检查上下文理解和响应质量。

替代项目

Promptfoo、DeepEval、Ragas

上一篇:AttackVLM

下一篇:LLM-for-misinformation-research

同类项目推荐

LLMEvaluation 开源

选对 LLM 评测方法,少走弯路

A comprehensive guide to LLM evaluation methods designed to assist in identifying th···

★ 207 2026-09-15
Tracely 开源

把生产事故变成 CI 回归测试,自动拦截坏 PR

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1311 2026-08-09
LettuceDetect 开源

定位 RAG 回答里哪句话没依据,span 级揪出幻觉

Span-level grounding verification for RAG, code, and tool-grounded AI outputs.

★ 620 2026-10-02
Video-MME 开源

测一测你的多模态模型,视频理解能力到底行不行

✨✨[CVPR 2025] Video-MME: The First-Ever Comprehensive Evaluation Benchmark of Mult···

★ 802 2026-08-09
inspect_evals 开源

一行命令跑齐大模型能力与安全评测

Collection of evals for Inspect AI

★ 735 2026-09-14
rageval 开源

给RAG系统打分,快速找出效果短板

Evaluation tools for Retrieval-augmented Generation (RAG) methods.

★ 172 2026-08-09
CRUD_RAG 开源

测一测你的RAG系统,中文场景下到底行不行

CRUD-RAG: A Comprehensive Chinese Benchmark for Retrieval-Augmented Generation of La···

★ 419 2026-08-09
dodoguard 开源

给 AI Agent 加一道全流程安全护栏,防注入防越权

DodoGuard: Take AI Agents to Production. Test, validate, and operate AI Agents befor···

★ 276 2026-09-15