OpenJudge

给AI智能体当裁判,量化每一步质量,训练更靠谱的Agent。

开源 🏷️定价信息待确认 ✅ 目前可打开 智能体 🍴 复刻 103 🐛 待处理 16 👀 关注 4
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 1081
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

OpenJudge 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类智能体
开发团队agentscope-ai
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态✅ 目前可打开
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型agent,agent-skills,ai-agent,alignment,evaluation,grader,llm,reward,reward-model,rlhf,skill-md,skills
GitHub 星标★ 1081
上线时间2025-07-08 00:00:00
代码更新2026-11-09
仓库体积25.0 MB
本站数据更新2026-11-10
维护状态活跃
收录时间2026-08-09
浏览次数7

项目介绍

OpenJudge 是一个用于智能体全面评估与质量奖励的统一框架。它解决的核心问题是:当前大模型智能体评估往往只关注最终结果,而忽略过程质量,且评估标准碎片化。OpenJudge 提供了一套标准化的评估流程和奖励机制,能够对智能体的行为进行细粒度、多维度的评分,包括任务完成度、步骤合理性、技能使用正确性等。其核心能力包括:支持多种评估场景(如技能调用、多轮对话、工具使用)、可自定义评估规则、输出结构化质量报告,并可与强化学习(RLHF)流程集成,为智能体训练提供质量奖励信号。项目基于 Python,采用模块化设计,便于扩展。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1081

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 10 分钟 部署方式:库/依赖 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已安装 Python 与 pip(README 未限定具体版本)
  • 可访问 PyPI 以完成 pip 安装
  • 可选:现代浏览器,用于免安装的在线试用(openjudge.me/app)

安装与启动步骤

  1. 1确认 Python 环境

    先确认本机已有可用的 Python 与 pip,后续安装依赖它们;README 未限定 Python 版本。

    python --version
    pip --version
  2. 2安装 OpenJudge

    README 给出的唯一安装命令,从 PyPI 安装 py-openjudge 包;建议在虚拟环境中执行以免污染全局环境。

    pip install py-openjudge
  3. 3确认安装结果

    通过 pip 查询包信息,能看到名称与版本号说明安装完成。

    pip show py-openjudge
  4. 4免安装在线试用

    不想本地安装时,可直接在浏览器打开官方在线应用体验内置 grader,无需任何配置。

  5. 5阅读官方快速上手

    具体调用代码与评分流程以官方 Quickstart 文档为准,按其示例编写评估脚本。

如何确认成功

执行 pip show py-openjudge 能输出该包的名称、版本与安装路径,即表示安装成功。

常见问题

Q:pip 安装速度很慢或超时怎么办?

A:可指定国内镜像源重试,例如 pip install -i https://pypi.tuna.tsinghua.edu.cn/simple py-openjudge,或检查本地网络与代理设置。

Q:必须本地安装才能使用吗?

A:不必。README 提供在线应用 openjudge.me/app,可在浏览器中直接使用内置 grader 与自定义评分规则。

Q:安装后如何写第一个评估脚本?

A:README 仅给出安装命令,完整调用方式请参考官方 Quickstart 文档中的示例代码。

Q:需要配置模型 API Key 吗?

A:README 节选中未涉及密钥配置,若评估过程需调用大模型,请以官方文档中的配置说明为准。

注意事项

  • 本教程只依据 README 中实际出现的安装命令,未包含的调用参数与端口均未列出。
  • README 提到更多安装方式见官方 Quickstart 指南,可前往查阅。
  • 建议在虚拟环境(venv/conda)中安装,便于隔离依赖。

核心亮点

  • 提供统一的评估框架,覆盖结果与过程质量,避免单一指标偏差
  • 支持细粒度技能级评估,可针对特定Agent技能定制奖励规则
  • 与RLHF流程集成,可直接用于智能体强化学习训练的质量信号

不足之处

  • 项目处于早期阶段(775星),文档和社区生态尚不成熟
  • 评估规则定义可能依赖人工配置,自动化程度待提升

适用场景

  • 智能体开发者在训练前评估模型能力短板
  • RLHF训练中自动生成过程质量奖励信号
  • 对比不同Agent框架或技能方案的质量差异

替代项目

OpenAI Evals、LangChain Benchmarks、AgentBench

上一篇:WindowsAgentArena

下一篇:awesome-ai-leaderboard

同类项目推荐

encord-active 开源

用主动学习挑出最有价值的标注数据,让模型迭代更快更省

The toolkit to test, validate, and evaluate your models and surface, curate, and pri···

★ 461 2026-08-09
AutomationBench 开源

测测你的AI智能体,能不能搞定真实业务流程

A benchmark for evaluating AI agents on realistic business workflows

★ 384 2026-08-10
Awesome-MCoT 开源

一张图看懂多模态推理研究脉络与代表工作

Multimodal Chain-of-Thought Reasoning: A Comprehensive Survey

★ 1029 2026-11-01
AttackVLM 开源

给视觉语言模型找茬,一键测出安全漏洞

[NeurIPS, 500+ Citations!] Alignment & Safety for multimodal foundation models

★ 233 2026-08-09
Awesome-LVLM-Attack 开源

一页看全 LVLM 攻击论文与工具,快速入门安全评测

up-to-date & curated list of awesome Attacks on Large-Vision-Language-Models papers,···

★ 584 2026-10-14
factualNLG 开源

用新基准测出LLM事实性推理真实水平

Code for the arXiv paper: "LLMs as Factual Reasoners: Insights from Existing Benchma···

★ 60 2026-08-09
uncheatable_eval 开源

用最新网络数据动态出题,防止模型背答案刷分

Evaluating LLMs with Dynamic Data

★ 130 2026-10-23
DreamLayer-Eval 开源

一键自动化评测扩散模型,告别手动调参和结果不可复现。

DreamLayer Eval: open-source benchmarking for image and video diffusion models. Auto···

★ 412 2026-08-09
evaluation-guidebook 开源

学透 LLM 评估,避开 benchmark 陷阱,科学选模型。

Sharing both practical insights and theoretical knowledge about LLM evaluation that ···

★ 2167 2026-08-09