UltraText_Bench

给文生图模型做中英文写字能力体检

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 1 🐛 待处理 1
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 112
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源基准,免费使用

项目预览

UltraText_Bench 项目界面预览图
图片来源:项目官网

项目数据

分类评测安全
开发团队LINs-lab
定价模式🏷️完全免费
价格说明开源基准,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
GitHub 星标★ 112
上线时间2026-10-08 00:00:00
代码更新2026-10-21
仓库体积46.5 MB
本站数据更新2026-10-23
维护状态活跃
收录时间2026-10-23
浏览次数0

项目介绍

UltraText Bench 是一个面向图像生成模型的双语评测基准,专门衡量模型在生成图片时渲染文字的能力。现有文生图模型常出现拼写错误、字符残缺、排版混乱等问题,而此前缺乏系统、可复现的评测手段。该项目构建了覆盖中英文的测试集与评测流程,从文字准确性、可读性、布局合理性等维度对生成结果打分,帮助研究者和开发者量化比较不同模型或版本的视觉文本渲染水平。项目以 Python 实现,提供数据组织与评测脚本,便于接入自有模型或复现实验。适合作为文生图模型文字能力的标准化体检工具,也可用于训练数据筛选与模型迭代验证。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-23 · 当前星标 ★ 112

核心亮点

  • 同时覆盖中文和英文,弥补多数基准只测英文的空白
  • 聚焦视觉文本渲染这一具体痛点,评测维度针对性强
  • 提供可复现的评测流程与脚本,便于横向比较不同模型

不足之处

  • 早期项目,星标仅112,社区规模与生态尚小
  • 评测集规模与覆盖场景的广度有待观察

适用场景

  • 评估新发布的文生图模型在图片中写中英文的准确率
  • 对比同一模型不同版本在文字渲染上的退化或提升
  • 为训练数据筛选提供文字生成质量的量化依据

替代项目

OCRBench、TextVisionBench

上一篇:dep-scan

下一篇:lighteval

同类项目推荐

Awesome-MLLM-Uncertainty 开源

一页看尽多模态模型不确定性研究,快速定位关键论文

✨A curated list of papers on the uncertainty in multi-modal large language model (M···

★ 59 2026-08-09
eva 开源

给肿瘤AI模型打分,让对比评测不再抓瞎

Evaluation framework for oncology foundation models (FMs)

★ 172 2026-08-09
compute-eval 开源

用真实编译运行测大模型写 CUDA 代码行不行

Evaluating Large Language Models for CUDA Code Generation ComputeEval is a framework···

★ 149 2026-09-24
VIEScore 开源

用视觉指令让AI解释图像生成好坏,评估不再黑盒。

Visual Instruction-guided Explainable Metric. Code for "Towards Explainable Metrics ···

★ 69 2026-08-09
autoguardrails 开源

用 policy.md 自动搜索最优 LLM 护栏策略

Alignment-research scaffold (autoresearch-style) for LLM guardrails: search over a s···

★ 129 2026-08-10
benchmark-qed 开源

自动跑分 RAG 系统,选型调参不再拍脑袋

Automated benchmarking of Retrieval-Augmented Generation (RAG) systems

★ 102 2026-10-15
trustmebro 开源

伪造工具输出,测出模型护栏会不会被骗

Bypass llm guardrails by confusing it with fabricated tool output.

★ 539 2026-09-16
awesome-security-for-ai 开源

一站式导航AI安全工具,快速选型不踩坑

Awesome products for securing AI systems includes open source and commercial options···

★ 91 2026-08-09
MemoryAgentBench 开源

多轮对话里测 Agent 记不记得住、找不找得回

Open source code for ICLR 2026 Paper: Evaluating Memory in LLM Agents via Incrementa···

★ 478 2026-10-23