openbench

同一模型,不同封装,一测便知谁更省更快更准。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 10 🐛 待处理 14
GitHub ↗
GitHub 星标 ★ 137
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,无付费版本。

项目预览

openbench 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队minghinmatthewlam
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai-agents,benchmark,coding-agents,evals,llm,open-models
GitHub 星标★ 137
上线时间2026-06-19 00:00:00
代码更新2026-08-27
仓库体积16.6 MB
本站数据更新2026-11-10
维护状态维护中
收录时间2026-08-10
浏览次数9

项目介绍

openbench 是一个从零构建的基准测试项目,用于横向对比不同编码智能体框架(如 codex、pi、opencode、cursor、devin)以及开放模型在代码生成任务上的表现。它解决的核心问题是:同一模型在不同封装下,实际编码效果、速度和 Token 成本差异巨大,但缺乏客观、可复现的评测数据。项目通过统一的任务集和评估流程,量化各智能体在正确性、执行速度和 Token 消耗三个维度的表现,帮助开发者或团队选择最适合自身需求的智能体框架。其核心能力包括自动化运行测试、标准化评分、成本统计,以及支持自定义模型和框架接入。作为早期项目,它聚焦于评测透明化,为 AI 编码工具选型提供数据支撑。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 137

核心亮点

  • 从零构建,不依赖现有评测库,测试逻辑透明可控
  • 统一对比多个主流编码智能体(codex、cursor、devin等),选型参考价值高
  • 同时评估正确性、速度和Token成本,兼顾质量与经济效益

不足之处

  • 项目处于早期阶段,测试任务集覆盖场景可能有限
  • 文档和社区生态尚待完善,上手使用需一定技术背景

适用场景

  • 企业评估不同编码智能体框架,选择性价比最高的方案
  • 开发者对比同一模型在不同工具下的实际表现,优化个人工作流
  • 研究机构或评测团队建立编码智能体的标准化评测体系

替代项目

SWE-bench、HumanEval、BigCodeBench

上一篇:AgentEval

下一篇:evals

同类项目推荐

RAGElo 开源

用 Elo 对战排名,快速选出最强 RAG 智能体

RAGElo is a set of tools that helps you selecting the best RAG-based LLM agents by u···

★ 133 2026-10-02
aws-bench 开源

给AI智能体在真实AWS云上打分的基准测试

aws-bench measures how well AI agents and model combinations perform on real AWS wor···

★ 145 2026-08-09
evals-skills 开源

跟着课程搭 LLM 评测体系,把主观质量变成可复现指标

Skills for AI Evals to compliment the course: AI Evals For Engineers & PMs

★ 1674 2026-09-14
lm_understand-logs 开源

把神经网络权重当文本,让大模型读懂并生成

Complete logs of the experiments in the blog post 'LLMs can understand and write neu···

★ 1170 2026-11-07
diffusers-interpret 开源

给扩散模型生成图像做“X光”,看清AI为何这么画

Diffusers-Interpret ️‍♀️: Model explainability for Diffusers. Get explanations ···

★ 277 2026-08-09
Video-MME 开源

测一测你的多模态模型,视频理解能力到底行不行

✨✨[CVPR 2025] Video-MME: The First-Ever Comprehensive Evaluation Benchmark of Mult···

★ 802 2026-08-09
AISafetyHot-Hub 开源

每天一份 AI 安全论文清单,md/bib/json 直接喂给 Agent

Safety News & Research Monitor. https://aisafetyhot.com

★ 2117 2026-10-10
Woodpecker 开源

给多模态模型装上纠错器,让AI描述图片不再瞎编。

✨✨Woodpecker: Hallucination Correction for Multimodal Large Language Models

★ 649 2026-08-09
secure-ai-agent-boundary 开源

给 AI 代理划数据红线,越界访问直接拦住

Secure AI Engineering Framework 2026: Data-Boundary Security for Frontier Models

★ 114 2026-10-27