
RSIBench-Data
一键生成代码评测数据并在沙箱里跑分
RSIBench-Data 是一个面向代码智能体(coding agent)评测的数据集与配套基础设施项目,核心是围绕 E2B 沙箱环境构建合成数据生成、模型后训练以及基准测试评估的完整流程。它解决的是当前代码智能体评测缺乏统一、可复现、可扩展数据管线的问题:开发者往往需要自己拼凑任务生成、环境隔离和结果打分环节。该项目提供 Shell 脚本驱动的自动化流程,能够批量生成合成任务、在隔离沙箱中执行模型输出、并汇总评测指标,从而让研究者可以快速对比不同模型或训练策略在代码任务上的表现。它同时兼顾数据生成与后训练两个阶段,适合需要自建评测闭环的团队。项目语言以 Shell 为主,说明其定位偏工程化编排,而非算法实现,上手门槛相对可控,但需要熟悉 E2B 沙箱和基础命令行操作。
项目数据
使用教程
核心亮点
- 把合成数据生成、后训练和 E2B 沙箱评测串成一条可复现的 Shell 流水线,省去自己搭评测环境
- 基于 E2B 隔离沙箱执行代码,评测结果更接近真实运行环境而非静态匹配
- 同时覆盖数据生成与模型后训练两个环节,适合做端到端的代码智能体迭代实验
不足之处
- 项目处于早期阶段,星标仅 153,文档和示例可能不够完整
- 强依赖 E2B 沙箱服务,离线或自建环境使用成本较高
适用场景
- 研究团队需要快速搭建代码智能体基准评测闭环
- 模型后训练阶段批量生成合成代码任务数据
- 对比不同代码模型在隔离沙箱中的真实执行表现
替代项目
SWE-bench、HumanEval
项目介绍
上一篇:GraphGen
同类项目推荐
X-AnyLabeling
开源
一站式AI辅助标注,图像视频文本通吃,导出格式随心配
X-AnyLabeling: A lightweight, efficient, and unified cross-platform desktop applicat···
distilabel
开源
基于论文的合成数据流水线,快速生成高质量 AI 反馈数据。
Distilabel is a framework for synthetic data and AI feedback for engineers who need ···
DataGen
开源
用大模型一键生成定制化训练数据,告别数据荒
[ICLR'25] DataGen: Unified Synthetic Dataset Generation via Large Language Models
stopes
开源
一键准备多语言翻译数据,从清洗到挖掘平行语料
A library for preparing data for machine translation research (monolingual preproces···