项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 1315
使用教程
环境要求
- Python 3.13.14 及以上版本(x86_64 或 ARM64)
- 操作系统:Linux、macOS,Windows 需通过 WSL2
- 已安装 uv 包管理器
- 无需 GPU;示例使用 OpenAI,需要对应的 API Key
安装与启动步骤
-
1克隆仓库
从 GitHub 拉取 NeMo Gym 源码并进入项目目录。README 给出的是 SSH 地址,需已配置 GitHub SSH 密钥。
git clone git@github.com:NVIDIA-NeMo/Gym.git cd Gym -
2创建虚拟环境
用 uv 创建 Python 3.13.14 的虚拟环境并激活。后续所有命令都要在此环境下执行。
uv venv --python 3.13.14 && source .venv/bin/activate -
3同步依赖
在项目根目录下用 uv sync 安装项目依赖,完成后即可使用 gym 命令。
uv sync -
4创建模型配置文件
在项目根目录新建 env.yaml,填入模型服务的 base URL、API Key 和模型名。示例使用 OpenAI。
-
5启动本地服务
启动资源服务、智能体和模型三类本地服务。需保持该终端运行,不要关闭。
gym env start \ --resources-server mcqa \ --model-type openai_model -
6运行评测
新开一个终端并激活虚拟环境,用 --no-serve 复用已启动的服务,先跑 5 条任务验证流程。
source .venv/bin/activate gym eval run --no-serve \ --agent mcqa_simple_agent \ --input resources_servers/mcqa/data/example.jsonl \ --output results/mcqa_rollouts.jsonl \ --limit 5 \ --num-repeats 1
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
policy_base_url | 是 | 模型服务的基础地址,示例为 OpenAI 官方接口 | https://api.openai.com/v1 |
policy_api_key | 是 | 调用模型服务的 API 密钥 | sk-xxxxxxxx |
policy_model_name | 是 | 评测使用的模型名称 | gpt-4.1-2025-04-14 |
如何确认成功
启动服务后终端会列出 mcqa、mcqa_simple_agent、policy_model 三个实例;评测结束会打印 mean/reward、accuracy 等聚合指标。
常见问题
Q:运行 Gym 需要 GPU 吗?
A:不需要。README 明确说明 No GPU required,普通 CPU 环境即可完成安装和示例评测。
Q:只能用 OpenAI 的模型吗?
A:不是。快速开始示例用 OpenAI,README 同时说明支持本地与托管推理,包括 vLLM、Fireworks、OpenRouter 等,详见 Configure Model 文档。
Q:可以在 Windows 上直接运行吗?
A:README 要求 Windows 通过 WSL2 运行,不支持原生 Windows 环境,同时必须是 x86_64 或 ARM64 架构。
Q:为什么跑评测时要加 --no-serve?
A:因为模型、智能体和资源服务已经由 gym env start 单独启动,评测命令加 --no-serve 表示复用这些已运行的服务,而不是重新拉起一套。
注意事项
- 必须先启动 servers,再在新终端执行评测命令,两个终端不要混用。
- 评测前记得执行 source .venv/bin/activate 激活虚拟环境。
- env.yaml 需放在项目根目录,API Key 属于敏感信息,不要提交到代码仓库。
- 仓库克隆地址为 SSH 形式,未配置 SSH 密钥时需自行改用 HTTPS 地址。
核心亮点
- 提供统一的环境接口,模型、智能体和评测逻辑解耦,方便替换和复用
- 同时覆盖评测与强化学习训练场景,不只是打分,还能用反馈持续优化策略
- Python 实现且标签覆盖 agents、benchmarks、RL 等方向,便于研究者快速接入自定义任务
不足之处
- 项目仍处于成长阶段,星标约 1.2k,生态和第三方环境数量有限
- 文档与社区成熟度待观察,复杂自定义环境的接入成本可能较高
适用场景
- 研究团队搭建多轮决策任务,对比不同 LLM 智能体的表现
- 开发者用环境反馈做强化学习微调,提升智能体在特定任务上的成功率
- 工程团队把评测流程标准化,接入 CI 持续监控模型能力变化
替代项目
OpenAI Gym、PettingZoo
上一篇:guardrail
同类项目推荐
VEFX-Bench
开源
给视频编辑和特效模型打分,选型不再靠感觉
VEFX-Bench: A Holistic Benchmark for Generic Video Editing and Visual Effects
LLM-for-misinformation-research
开源
一键速览大模型打假研究全景,找论文不迷路
Paper list of misinformation research using (multi-modal) large language models, i.e···
MarkLLM
开源
给AI文本打上隐形烙印,一键识别机器生成内容
[EMNLP 2024 Demo] MarkLLM: An Open-Source Toolkit for LLM Watermarking
gbrain-evals
开源
给 AI Agent 建可复现的自动评分,改提示词不怕退化
LLM-Agent-Paper-List
开源
一键掌握LLM智能体领域核心论文,快速入门不迷路
The paper list of the 86-page SCIS cover paper "The Rise and Potential of Large Lang···
ClawProBench
开源
在真实 OpenClaw 里反复跑 Agent,用确定性打分比出谁更稳
ClawProBench is a live-first benchmark harness for evaluating LLM agents in the Op···
jevals
开源
每条 trace 一次请求,几分钱延迟低到能进 Agent 循环
Agent evals and guardrails as Jev decisions: one request per trace, a fraction of a ···
botium-core
开源
像用 Selenium 测网页一样,自动化测试你的聊天机器人
The Selenium for Chatbots - Bots Testing Bots
agent-skills-eval
开源
跑一遍测试,就知道你的 AI 技能行不行
A test runner for agentskills.io-style AI agent skills
