litmus

拖拽式搭建 LLM 测试,快速看清模型表现

Litmus 是一个面向生成式 AI 应用开发的 LLM 测试与评估平台。它通过友好的用户界面,帮助开发者系统化地构建和评估基于大语言模型的应用性能。项目解决了 LLM 应用开发中测试流程分散、评估标准不统一的问题,提供了从测试用例管理、批量运行到结果分析的一体化工具链。其核心能力包括可视化测试编排、多维度指标评估、结果对比与回归检测,旨在让团队能更高效地迭代和上线可靠的 AI 功能。当前项目处于早期阶段,界面和功能聚焦于简化测试流程,降低评估门槛。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 52
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类基础设施
开发团队google
所属国家
定价模式free
价格说明开源项目,Apache-2.0 许可证,可自行部署使用,完全免费。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Vue
技术栈/模型api,apitesting,cicd,devops,llm,llm-evaluation,llm-security,llm-training,llmops,testing,testing-tools
GitHub 星标★ 52
30天Star增速
HF 下载量
上线时间2024-06-13 00:00:00
最近更新2026-08-31 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

核心亮点

  • 提供可视化 UI,降低测试工具使用门槛
  • 聚焦 LLM 应用评估,功能定位清晰
  • 支持测试结果对比,便于追踪模型迭代效果

不足之处

  • 项目处于早期,社区和文档积累有限
  • 功能覆盖面较窄,可能缺少高级自定义能力

适用场景

  • 团队在开发 LLM 应用时需要系统化回归测试
  • 对比不同提示词或模型版本的效果
  • 非技术成员参与评估模型输出质量

替代项目

Promptfoo、DeepEval、LangSmith

项目介绍

litmus 是评测安全领域的开源项目,由 google 开发,2024 年首次发布。

它收录于评测安全分类,该分类目前共有 458 个项目,GitHub 星标数为 52。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-08-31。Apache-2.0 许可证,可自行部署使用,完全免费。

它主要面向的使用场景是:团队在开发LLM应用时需要系统化回归测试。同类可对比的替代方案包括 Promptfoo、DeepEval、LangSmith。

上一篇:rhesis

下一篇:RagaAI-Catalyst

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12
Tracely-ai 开源

把生产事故变成回归测试,合并前自动拦截 AI 故障

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1362 2026-08-24