LLM-KG-Bench

一键评测大模型在知识图谱任务上的表现

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 5 🐛 待处理 13 👀 关注 25
GitHub ↗
GitHub 星标 ★ 60
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目,MPL-2.0许可证,可免费使用和修改,无付费版本。

项目预览

LLM-KG-Bench 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队AKSW
定价模式🏷️完全免费
价格说明开源项目,MPL-2.0许可证,可免费使用和修改,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MPL-2.0
主要语言Python
技术栈/模型knowledge-graph,large-language-models,llm,llm-benchmarking,rdf,sparql
GitHub 星标★ 60
上线时间2023-05-24 00:00:00
代码更新2026-10-06
仓库体积27.9 MB
本站数据更新2026-11-08
维护状态维护中
收录时间2026-08-09
浏览次数8

项目介绍

LLM-KG-Bench 是一个用于自动化评估大语言模型在知识图谱相关任务上表现的开源框架和任务集合。它解决的是当前 LLM 在知识图谱领域(如实体识别、关系抽取、图谱问答等)缺乏统一、可复现评测标准的问题。该框架提供了一套标准化的任务定义、数据加载和评估流程,支持用户自定义任务和数据集,能够自动运行测试并生成对比报告。其核心能力包括:模块化设计,便于扩展新任务;与主流 LLM API 集成,简化调用;提供多种知识图谱任务模板,覆盖常见场景;以及结果可视化,方便分析模型优劣。项目处于早期阶段,但为知识图谱与 LLM 交叉领域的研究和开发提供了实用的评测工具。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 60

核心亮点

  • 提供标准化的知识图谱任务集,覆盖实体、关系、问答等核心场景,省去自建评测集的时间
  • 模块化框架设计,支持自定义任务和数据集,能灵活适配不同评测需求
  • 自动运行评测并生成对比结果,方便横向比较不同 LLM 在知识图谱上的能力

不足之处

  • 项目处于早期阶段,文档和社区支持尚不完善,上手可能需要自行摸索
  • 目前支持的 LLM 接口有限,可能无法覆盖所有主流模型

适用场景

  • 研究知识图谱与大模型结合方向的学者,需要标准化评测基准
  • 企业在选型 LLM 用于知识图谱应用时,进行性能对比测试
  • 开发者想要评估自家微调模型在知识图谱任务上的效果

替代项目

KGBench、GraphQA、LLM-KG-Bench(自身)

上一篇:axbench

下一篇:circle-guard-bench

同类项目推荐

blacksmith 开源

多智能体分工,自动跑完渗透测试全流程

BlacksmithAI is an OPEN-SOURCE advanced penetration testing framework that leverages···

★ 268 2026-10-27
Awesome-LLM-Reasoning 开源

一份清单,看懂 LLM 推理从 CoT 到 o1 的进化史

From Chain-of-Thought prompting to OpenAI o1 and DeepSeek-R1

★ 3709 2026-08-09
ProteinWorkshop 开源

统一蛋白质表示学习的数据、模型与评测流程

Benchmarking framework for protein representation learning. Includes a large number ···

★ 280 2026-10-31
arksim 开源

模拟真实用户对话,上线前自动揪出智能体错误。

Find your agents errors be fore your real users do

★ 235 2026-08-09
HallusionBench 开源

测出多模态模型的视觉幻觉,看清谁在瞎猜

[CVPR'24] HallusionBench: You See What You Think? Or You Think What You See? An Imag···

★ 346 2026-08-09
vulnhuntr 开源

让LLM自动帮你扫代码找漏洞,零样本开箱即用

Zero shot vulnerability discovery using LLMs

★ 2815 2026-08-09
system_prompts_leaks 开源

扒开各家 AI 的底牌,看清它怎么想、怎么答

Leaked system prompts of ChatGPT, Claude, Gemini and more. The hidden system prompt ···

★ 70984 2026-08-09