llm-coding-benchmark

自动跑编码题,横向比出哪个大模型写代码更强

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 46 👀 关注 9
GitHub ↗
GitHub 星标 ★ 370
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费

项目预览

llm-coding-benchmark 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队akitaonrails
定价模式🏷️完全免费
价格说明开源免费
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
GitHub 星标★ 370
上线时间2026-04-05 00:00:00
代码更新2026-10-28
仓库体积13.0 MB
本站数据更新2026-11-03
维护状态活跃
收录时间2026-09-16
浏览次数2

项目介绍

llm-coding-benchmark 是一个用 Python 编写的轻量级评测工具,专门用来横向对比主流开源与商用大模型在真实编码任务上的表现。它通过自动化驱动 OpenCode(终端里的 AI 编程助手)来执行统一的编码题目,把不同模型放到同一套流程里跑,从而减少人工测试带来的主观偏差。项目解决的核心问题是:开发者想选一个写代码靠谱的模型时,往往只能看厂商宣传或零散测评,缺少可复现、可自己跑的对比数据。它的能力包括自动调用模型、执行编码任务、收集结果并生成对比,让用户用较低成本得到一份贴近实际使用场景的模型排名。整体定位偏工具和参考,适合想快速了解哪个模型写代码更强、或想搭建自己评测流程的人。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 370

核心亮点

  • 用 OpenCode 自动化执行,减少人工逐题测试的重复劳动
  • 同时覆盖开源与商用模型,便于横向对比选型
  • Python 实现,代码轻量,方便按自己需求改题目和模型列表

不足之处

  • 项目早期,星标和生态规模有限,评测题目与模型覆盖可能不够全
  • 依赖 OpenCode 等外部工具,环境配置和结果复现存在门槛

适用场景

  • 团队选型时快速对比多个大模型的编码能力
  • 个人开发者想验证某模型写代码是否靠谱
  • 研究者搭建可复现的编码评测流程做二次扩展

替代项目

SWE-bench、HumanEval、LiveCodeBench

上一篇:ollama-benchmark

下一篇:LiveBench

同类项目推荐

Tracely-ai 开源

把线上 agent 失败轨迹变成 CI 回归测试,退化就拦 PR

Trace-native CI/CD for AI agents: grade production traces, cluster failures, freeze ···

★ 1213 2026-10-22
MMAD 开源

用统一基准测出多模态大模型在工业质检中的真实水平

The Codes and Data of A Comprehensive Benchmark for Multimodal Large Language Models···

★ 278 2026-10-28
seismometer 开源

在 Notebook 里做医疗 AI 模型的分组评测与可视化

AI model evaluation with a focus on healthcare

★ 272 2026-11-03
WatermarkDM 开源

给AI生成的图像打上隐形水印,一键溯源防滥用

[Tech report]: A Recipe for Watermarking Diffusion Models

★ 155 2026-08-09
botsim 开源

自动仿真对话,快速揪出聊天机器人短板

BotSIM - a data-efficient end-to-end Bot SIMulation toolkit for evaluation, diagnosi···

★ 116 2026-08-09
search-arena 开源

量化分析搜索增强大模型,看清能力边界

⚔️ [ICLR 2026] Official code of "Search Arena: Analyzing Search-Augmented LLMs".

★ 62 2026-08-09
guidellm 开源

给 LLM 推理服务做真实压测,选型调优有数可依

Evaluate and Enhance Your LLM Deployments for Real-World Inference Needs

★ 1743 2026-10-14
ai-privacy-toolkit 开源

给 AI 模型做隐私体检,快速发现合规风险

A toolkit for tools and techniques related to the privacy and compliance of AI model···

★ 113 2026-08-09