prometheus-eval

用 Prometheus 或 GPT-4 自动给 LLM 回复打分，快速筛选最佳模型。

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署基础设施 🍴 复刻 68 🐛 待处理 13 👀 关注 2

GitHub ↗

GitHub 星标 ★ 1121

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0 许可证，可自由使用和部署，无收费计划。

项目预览

prometheus-eval 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类基础设施

开发团队prometheus-eval

GitHubhttps://github.com/prometheus-eval/prometheus-eval

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0 许可证，可自由使用和部署，无收费计划。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型evaluation,gpt4,litellm,llm,llm-as-a-judge,llm-as-evaluator,llmops,python,vllm

GitHub 星标★ 1121

上线时间2024-04-18 00:00:00

代码更新2025-04-25

仓库体积15.4 MB

本站数据更新2026-11-08

维护状态低维护

收录时间2026-08-09

浏览次数5

项目介绍

Prometheus-Eval 是一个用于评估大语言模型（LLM）回复质量的工具，基于 Prometheus 模型和 GPT-4 作为评判标准。它解决了 LLM 评估中依赖人工标注成本高、自动化评估不准确的问题，提供了一套可复现、可扩展的评估框架。核心能力包括：支持使用 Prometheus 开源评估模型或 GPT-4 对模型输出进行打分和排序，提供细粒度的评估维度（如相关性、事实性、逻辑性等），并支持自定义评估标准。项目采用 Python 实现，易于集成到现有 LLM 开发流程中，帮助开发者快速筛选最优模型或提示词。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1121

技术标签

evaluation gpt4 litellm llm llmops

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：入门约 10 分钟部署方式：库/依赖 4 步

环境要求

可用的 Python 环境与 pip
如需本地推理，需自行准备 vllm 运行环境
如需 API 推理，需具备通过 litellm 调用的模型 API（如 GPT-4）

安装与启动步骤

1安装 prometheus-eval

README 的 Installation 章节给出的唯一安装方式是 pip 安装，库目前处于 beta 阶段。
```
pip install prometheus-eval
```
2选择推理后端

README 说明支持 vllm 本地推理，也支持通过 litellm 调用 LLM API，按需选择其一。
3准备评估数据

README 指出可对任意 instruction 与 response 组合进行评估，需先准备好待评估的指令与回复对。
4编写评估脚本

在 Python 中调用 prometheus-eval 完成打分或排序，具体代码参见仓库 README 与示例。