leva

用线上真实数据回放评测,让 Rails 的 LLM 改动不再靠拍脑袋

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 9 🐛 待处理 6 👀 关注 2
GitHub ↗
GitHub 星标 ★ 148
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源免费,无在线服务

项目预览

leva 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队kieranklaassen
定价模式🏷️完全免费
价格说明开源免费,无在线服务
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Ruby
技术栈/模型llm,llm-evaluation,ruby-on-rails
GitHub 星标★ 148
上线时间2024-08-13 00:00:00
代码更新2026-09-13
仓库体积840 KB
本站数据更新2026-11-09
维护状态维护中
收录时间2026-09-25
浏览次数2

项目介绍

leva 是一个面向 Ruby on Rails 应用的 LLM 评测框架,主打用生产数据做评测。它解决的核心问题是:Rails 项目接入大模型后,很难系统化地衡量提示词、模型或参数变更带来的效果变化。leva 让开发者把线上真实请求与响应沉淀为评测数据集,在本地或 CI 中回放这些样本,对比不同版本的表现,从而在发布前发现质量回退。核心能力包括:与 Rails 应用自然集成、基于生产数据构建评测集、对 LLM 输出做批量对比与打分、支持在开发流程中持续回归。相比通用评测工具,它更贴近 Rails 技术栈,减少胶水代码,适合已有线上流量、希望用真实场景而非合成数据来验证 LLM 功能的小型团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-25 · 当前星标 ★ 148

技术标签

核心亮点

  • 专为 Rails 设计,能直接复用应用内的模型、服务和业务逻辑做评测,集成成本低
  • 以生产数据为核心,评测样本来自真实用户请求,比人工构造的测试集更贴近实际分布
  • 支持在开发或 CI 流程中回放对比,便于在提示词或模型变更时快速发现效果回退

不足之处

  • 项目处于早期,星标约 147,生态与文档成熟度有限
  • 仅面向 Ruby on Rails,非 Rails 技术栈无法直接使用

适用场景

  • 上线前用线上真实对话样本回归测试新提示词,避免效果变差
  • 在 CI 中对不同模型或参数配置做批量对比,量化选择更优方案
  • 把用户反馈差的生产请求沉淀为评测集,持续跟踪修复效果

替代项目

promptfoo、DeepEval

上一篇:compute-eval

下一篇:awesome-ai-testing

同类项目推荐

skill-scanner 开源

给 Agent 技能做安全体检,上线前扫出提示注入和越权风险

Security Scanner for Agent Skills

★ 2708 2026-10-11
llm-coding-benchmark 开源

自动跑编码题,横向比出哪个大模型写代码更强

Simple benchmark to test the most popular open source and commercial LLMs with autom···

★ 372 2026-09-16
lm_understand-logs 开源

把神经网络权重当文本,让大模型读懂并生成

Complete logs of the experiments in the blog post 'LLMs can understand and write neu···

★ 1158 2026-11-07
hallucination-index 开源

测出哪个AI最会胡说八道,选模型不再踩坑

Initiative to evaluate and rank the most popular LLMs across common task types based···

★ 115 2026-08-09
VLABench 开源

一站式公平评测VLA与具身智能模型,让模型实力一目了然

A large-scale benchmark for evaluating vision-language-action models, embodied agent···

★ 482 2026-08-09
pii-guardrail-browser-extension 开源

粘贴前自动抹掉敏感信息,放心用 AI 对话

Privacy Guardrail is a local-first Chrome extension that detects and anonymizes PII ···

★ 104 2026-11-07
dingo 开源

一键评测AI数据与模型质量,自动出报告

Dingo: A Comprehensive AI Data, Model and Application Quality Evaluation Tool

★ 767 2026-09-16
Veritensor 开源

扫描 AI 模型与数据,防投毒、防注入、防泄露

The Anti-Virus for AI Artifacts & RAG Firewall. A static analysis tool scanning Mode···

★ 88 2026-08-09
Awesome-LLM-Red-Teaming 开源

一站式收集 LLM 红队测试资源,快速上手安全攻防

A curated list of awesome LLM Red Teaming training, resources, and tools.

★ 148 2026-08-09