ArtifactsBenchmark

一键跑分,量化 AI 生成工件质量

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 21 🐛 待处理 2 👀 关注 3
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 282
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,无在线服务,需自行部署,完全免费。

项目预览

ArtifactsBenchmark 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队Tencent-Hunyuan
定价模式🏷️完全免费
价格说明开源项目,无在线服务,需自行部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型artifacts,benchmark,large-language-models,llm,mllm,reward-model
GitHub 星标★ 282
上线时间2025-06-26 00:00:00
代码更新2025-12-30
仓库体积240.7 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

ArtifactsBenchmark 是一个用于评估和比较 AI 生成工件(如代码、文档、设计稿等)质量的基准测试框架。它解决了当前 AI 模型在生成复杂、多步骤工件时缺乏统一、客观评估标准的问题。该项目提供了一套标准化的测试用例、评估指标和自动化评分流程,支持多种主流 AI 模型,能够量化模型在生成代码、文本、图表等不同类别工件时的准确性、完整性和实用性。其核心能力包括:可扩展的测试集、灵活的评估插件、以及详细的报告生成,帮助开发者快速对比不同模型的优劣,推动 AI 生成质量的持续改进。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 282

核心亮点

  • 提供标准化测试集,覆盖代码、文档、设计等多类工件,评估维度全面
  • 自动化评分流程,减少人工干预,结果可复现
  • 支持插件化扩展,方便接入新模型和自定义评估指标

不足之处

  • 早期项目,测试集覆盖场景有限,可能无法反映真实复杂任务
  • 文档和社区生态尚不完善,上手门槛较高

适用场景

  • AI 模型选型时对比不同模型的生成质量
  • 研究机构评估最新生成模型的性能
  • 开发团队在集成 AI 生成功能前进行质量验收

替代项目

HELM、lm-evaluation-harness、Big-Bench

同类项目推荐

SECA 开源

用语义等价攻击,自动逼出 LLM 的幻觉破绽

[NeurIPS 2025] SECA: Semantically Equivalent and Coherent Attacks for Eliciting LLM ···

★ 73 2026-08-09
eval-assist 开源

用网页交互调教 LLM 当裁判,迭代出靠谱评估标准

EvalAssist is an open-source project that simplifies using large language models as ···

★ 103 2026-09-25
CS-Eval 开源

给网络安全大模型打分,快速找出安全能力短板

CS-Eval is a comprehensive evaluation suite for fundamental cybersecurity models or ···

★ 68 2026-08-09
litmus 开源

拖拽式搭建 LLM 测试,快速看清模型表现

Litmus is a comprehensive LLM testing and evaluation tool designed for GenAI Applica···

★ 52 2026-08-09
guardrail 开源

用 GPT 快速做情感分析和内容审核

GuardRail: Advanced tool for data analysis and AI content generation using OpenAI GP···

★ 156 2026-09-16
GenExam 开源

用跨学科考题给文生图模型打分,测出真实知识水平。

[ICML 2026] GenExam: A Multidisciplinary Text-to-Image Exam

★ 74 2026-08-09
guardian-sdk 开源

给 AI 应用装上安全气囊,防住提示注入和越狱攻击。

Ethicore Engine® is an AI safety, ethics, and compliance platform. This repo consis···

★ 123 2026-08-26
OpenART 开源

万级场景压测 AI Agent,提前揪出越权与投毒风险

OpenART is an open-source framework designed to evaluate the safety and robustness o···

★ 273 2026-10-10