uptrain

给 LLM 应用打分找茬,快速定位并修复质量问题。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 206 🐛 待处理 66 👀 关注 18
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 2367
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,可免费使用和部署。

项目预览

uptrain 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队uptrain-ai
官网地址https://uptrain.ai
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型autoevaluation,evaluation,experimentation,hallucination-detection,jailbreak-detection,llm-eval,llm-prompting,llm-test,llmops,machine-learning,monitoring,openai-evals,prompt-engineering,root-cause-analysis
GitHub 星标★ 2367
上线时间2022-11-07 00:00:00
代码更新2024-08-18
仓库体积37.8 MB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数8

项目介绍

UpTrain 是一个开源的统一平台,用于评估和改进生成式 AI 应用。它提供 20 多种预配置检查项,覆盖语言、代码、嵌入等场景,可为 LLM 输出打分,并对失败案例进行根因分析,给出改进建议。该工具旨在解决 LLM 应用质量评估难、调试难的问题,帮助开发者系统性地测试和优化提示词、模型和检索流程。其核心能力包括自动化检查、根因分析和可操作的洞察,能有效提升应用的可靠性、安全性和性能。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2367

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 10 分钟 部署方式:本地安装 6 步

环境要求

  • Python 环境(用于 pip 安装 uptrain 包)
  • OpenAI API Key(开源版本评估需要)
  • 能访问互联网以调用 OpenAI 接口

安装与启动步骤

  1. 1安装 uptrain 包

    使用 pip 从 PyPI 安装 uptrain,建议在虚拟环境中执行以避免依赖冲突。

    pip install uptrain
  2. 2配置 OpenAI 密钥

    在代码中填入你的 OpenAI API Key,开源版本通过它来执行各项评估检查。

    OPENAI_API_KEY = "sk-***************"
  3. 3编写评估数据

    准备待评估样本列表,每条包含 question、context、response 三个字段。

    data = [{'question': 'Which is the most popular global sport?', 'context': '...', 'response': 'Football is the most popular sport with around 4 billion followers worldwide'}]
  4. 4初始化 EvalLLM

    导入 EvalLLM 与 Evals,并用 API Key 实例化评估对象。

    from uptrain import EvalLLM, Evals
    eval_llm = EvalLLM(openai_api_key=OPENAI_API_KEY)
  5. 5执行评估检查

    调用 evaluate 方法,传入数据与所需检查项,例如上下文相关性、事实准确性、回答完整性。

    results = eval_llm.evaluate(
        data=data,
        checks=[Evals.CONTEXT_RELEVANCE, Evals.FACTUAL_ACCURACY, Evals.RESPONSE_COMPLETENESS]
    )
    print(json.dumps(results, indent=3))
  6. 6运行 Dashboard

    README 提供 run_uptrain.sh 脚本启动 UpTrain Dashboard,当前为 Beta 版本。

    bash run_uptrain.sh

关键配置

配置项必填说明示例
openai_api_key是OpenAI 密钥,开源版本评估所必需sk-xxxxxxxx

如何确认成功

运行评估脚本后能打印出各检查项的评分结果 JSON,即表示调用成功。

常见问题

Q:不填 OpenAI API Key 能用吗?

A:README 说明开源版本需提供 OpenAI API Key 才能运行评估,未提供则无法执行检查。

Q:Dashboard 是稳定版吗?

A:README 明确标注 UpTrain Dashboard 当前为 Beta 版本,欢迎反馈以改进。

Q:可以使用哪些评估项?

A:示例中使用了 CONTEXT_RELEVANCE、FACTUAL_ACCURACY、RESPONSE_COMPLETENESS,官方称提供 20+ 预配置评估项。

注意事项

  • README 未给出系统依赖或 Python 版本要求,建议使用较新的 Python 3 环境。
  • 评估会调用 OpenAI 接口,注意密钥安全与调用费用。
  • Dashboard 处于 Beta,功能可能变动。

核心亮点

  • 内置 20+ 预配置检查,覆盖多种 LLM 场景,开箱即用
  • 提供根因分析,能定位到具体失败原因,而非简单报错
  • 支持自定义检查,灵活适配不同业务需求

不足之处

  • 文档/社区待观察
  • 项目仍在成长中,功能稳定性可能需进一步验证

适用场景

  • LLM 应用上线前质量评估
  • RAG 系统检索与生成效果优化
  • 提示词迭代和回归测试

替代项目

LangSmith、PromptLayer、W&B Weave

上一篇:empirical

下一篇:benchmarks

同类项目推荐

Ai-jailbreak 开源

拿来即用的越狱提示库,快速测模型安全底线

A collection of jailbreak prompts and exploit techniques for local and frontier AI m···

★ 580 2026-10-10
LLMEvaluation 开源

选对 LLM 评测方法,少走弯路

A comprehensive guide to LLM evaluation methods designed to assist in identifying th···

★ 207 2026-09-15
baple 开源

用提示学习给医学AI模型植入后门,验证安全漏洞

[MICCAI 2024] Official code repository of paper titled "BAPLe: Backdoor Attacks on M···

★ 57 2026-08-09
LLM-KG-Bench 开源

一键评测大模型在知识图谱任务上的表现

LLM-KG-Bench is a Framework and task collection for automated benchmarking of Large ···

★ 60 2026-08-09
S-Eval 开源

一键自动化评估大模型安全,覆盖多风险场景

S-Eval: Towards Automated and Comprehensive Safety Evaluation for Large Language Mod···

★ 123 2026-08-09
chinese-llm-benchmark 开源

看中文大模型谁最强,查百万缺陷库避坑

非线智能 NoneLinear - ReLE评测:中文AI大模型能力评测(持续更新):目前已囊括374个大模···

★ 6507 2026-08-10
heretic 开源

一键去除模型审查,解锁无限制回答

Training-free language model modification: Remove censorship, suppress slop, reduce ···

★ 40052 2026-08-09
nyt-connections 开源

用759道文字分组谜题,测出大模型的语义推理短板

Benchmark that evaluates LLMs using 759 NYT Connections puzzles extended with extra ···

★ 250 2026-11-06