项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2367
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Python 环境(用于 pip 安装 uptrain 包)
- OpenAI API Key(开源版本评估需要)
- 能访问互联网以调用 OpenAI 接口
安装与启动步骤
-
1安装 uptrain 包
使用 pip 从 PyPI 安装 uptrain,建议在虚拟环境中执行以避免依赖冲突。
pip install uptrain -
2配置 OpenAI 密钥
在代码中填入你的 OpenAI API Key,开源版本通过它来执行各项评估检查。
OPENAI_API_KEY = "sk-***************" -
3编写评估数据
准备待评估样本列表,每条包含 question、context、response 三个字段。
data = [{'question': 'Which is the most popular global sport?', 'context': '...', 'response': 'Football is the most popular sport with around 4 billion followers worldwide'}] -
4初始化 EvalLLM
导入 EvalLLM 与 Evals,并用 API Key 实例化评估对象。
from uptrain import EvalLLM, Evals eval_llm = EvalLLM(openai_api_key=OPENAI_API_KEY) -
5执行评估检查
调用 evaluate 方法,传入数据与所需检查项,例如上下文相关性、事实准确性、回答完整性。
results = eval_llm.evaluate( data=data, checks=[Evals.CONTEXT_RELEVANCE, Evals.FACTUAL_ACCURACY, Evals.RESPONSE_COMPLETENESS] ) print(json.dumps(results, indent=3)) -
6运行 Dashboard
README 提供 run_uptrain.sh 脚本启动 UpTrain Dashboard,当前为 Beta 版本。
bash run_uptrain.sh
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
openai_api_key | 是 | OpenAI 密钥,开源版本评估所必需 | sk-xxxxxxxx |
如何确认成功
运行评估脚本后能打印出各检查项的评分结果 JSON,即表示调用成功。
常见问题
Q:不填 OpenAI API Key 能用吗?
A:README 说明开源版本需提供 OpenAI API Key 才能运行评估,未提供则无法执行检查。
Q:Dashboard 是稳定版吗?
A:README 明确标注 UpTrain Dashboard 当前为 Beta 版本,欢迎反馈以改进。
Q:可以使用哪些评估项?
A:示例中使用了 CONTEXT_RELEVANCE、FACTUAL_ACCURACY、RESPONSE_COMPLETENESS,官方称提供 20+ 预配置评估项。
注意事项
- README 未给出系统依赖或 Python 版本要求,建议使用较新的 Python 3 环境。
- 评估会调用 OpenAI 接口,注意密钥安全与调用费用。
- Dashboard 处于 Beta,功能可能变动。
核心亮点
- 内置 20+ 预配置检查,覆盖多种 LLM 场景,开箱即用
- 提供根因分析,能定位到具体失败原因,而非简单报错
- 支持自定义检查,灵活适配不同业务需求
不足之处
- 文档/社区待观察
- 项目仍在成长中,功能稳定性可能需进一步验证
适用场景
- LLM 应用上线前质量评估
- RAG 系统检索与生成效果优化
- 提示词迭代和回归测试
替代项目
LangSmith、PromptLayer、W&B Weave
上一篇:empirical
下一篇:benchmarks
同类项目推荐
Ai-jailbreak
开源
拿来即用的越狱提示库,快速测模型安全底线
A collection of jailbreak prompts and exploit techniques for local and frontier AI m···
LLMEvaluation
开源
选对 LLM 评测方法,少走弯路
A comprehensive guide to LLM evaluation methods designed to assist in identifying th···
baple
开源
用提示学习给医学AI模型植入后门,验证安全漏洞
[MICCAI 2024] Official code repository of paper titled "BAPLe: Backdoor Attacks on M···
LLM-KG-Bench
开源
一键评测大模型在知识图谱任务上的表现
LLM-KG-Bench is a Framework and task collection for automated benchmarking of Large ···
S-Eval
开源
一键自动化评估大模型安全,覆盖多风险场景
S-Eval: Towards Automated and Comprehensive Safety Evaluation for Large Language Mod···
chinese-llm-benchmark
开源
看中文大模型谁最强,查百万缺陷库避坑
非线智能 NoneLinear - ReLE评测:中文AI大模型能力评测(持续更新):目前已囊括374个大模···
Awesome-Process-Reward-Models
开源
一站式索引过程奖励模型论文与代码,快速上手推理监督
A comprehensive collection of process reward models.
heretic
开源
一键去除模型审查,解锁无限制回答
Training-free language model modification: Remove censorship, suppress slop, reduce ···
nyt-connections
开源
用759道文字分组谜题,测出大模型的语义推理短板
Benchmark that evaluates LLMs using 759 NYT Connections puzzles extended with extra ···
