athina-evals

给 LLM 响应做质检,快速发现模型输出问题

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 23 🐛 待处理 6 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 302
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,可自行部署使用,无付费版本。

项目预览

athina-evals 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队athina-ai
定价模式🏷️完全免费
价格说明开源项目,可自行部署使用,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型evaluation,evaluation-framework,evaluation-metrics,llm-eval,llm-evaluation,llm-evaluation-toolkit,llm-ops,llmops
GitHub 星标★ 302
上线时间2023-11-22 00:00:00
代码更新2025-06-06
仓库体积1.9 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

athina-evals 是一个用于评估大语言模型(LLM)生成响应的 Python SDK。它解决了开发者在构建 LLM 应用时难以系统化、自动化评估输出质量的问题。该工具提供了一套丰富的评估指标和测试用例,支持对响应进行多维度检测,包括事实一致性、相关性、有害性、幻觉等。开发者可以轻松集成到现有测试流程中,通过简单的 API 调用运行评估,并获取详细的报告,从而快速定位模型输出的薄弱环节。核心能力包括:预置多种评估模板、支持自定义评估逻辑、与主流 LLM 框架兼容、提供本地和云端两种运行模式。它旨在帮助团队在开发周期中持续监控和提升 LLM 应用的可靠性。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 302

核心亮点

  • 提供开箱即用的多种评估指标,覆盖事实性、相关性、有害性等关键维度
  • API 设计简洁,几行代码即可集成到现有测试流程
  • 支持自定义评估逻辑,灵活适配不同业务场景

不足之处

  • 项目处于早期阶段,文档和社区支持尚待完善
  • 评估指标依赖外部 LLM 调用,可能产生额外成本

适用场景

  • 在 CI/CD 流程中自动评估模型输出质量,防止回归
  • 对比不同 Prompt 或模型版本的效果,辅助调优
  • 对生产环境中的 LLM 响应进行抽样监控,发现潜在风险

替代项目

LangChain Evals、Promptfoo、DeepEval

上一篇:llm-leaderboard

下一篇:prometheus-eval

同类项目推荐

uqlm 开源

量化 LLM 不确定性,精准识别幻觉,提升 AI 输出可信度。

[JMLR 2026] UQLM: A Python package for LLM hallucination detection using uncertainty···

★ 1217 2026-08-10
rsi_eval 开源

一条命令跑通 agent 自我改进的多轮基准评测

A lightweight Python SDK and CLI for evaluating recursive self-improvement (RSI) met···

★ 469 2026-11-05
GLM-5.3-Flash-J-Space-Capability··· 开源

把大模型智能体能力评测做成可读报告,一眼看清真实水平

GLM-5.3-Flash × J-Space capability realization — benchmark presentation of the J-S···

★ 1016 2026-09-25
parea-sdk-py 开源

一站式搞定 LLM 应用的测试、评估与监控

Python SDK for experimenting, testing, evaluating & monitoring LLM-powered applicati···

★ 82 2026-08-09
AgentHound 开源

像 BloodHound 一样测绘 AI 智能体攻击路径,快速发现安全弱点。

Offensive security framework for AI agent infrastructure - recon, credential looting···

★ 462 2026-08-09
tifa 开源

用问答方式自动检查AI画图是否忠实于文字描述

TIFA: Accurate and Interpretable Text-to-Image Faithfulness Evaluation with Question···

★ 191 2026-08-09
awesome-jev-tools 开源

一页清单,快速找到 Jev 类型化决策的现成工具

A curated list of tools built for Jev — TypeSafe AI's System One model for typed d···

★ 733 2026-10-04
rhesis 开源

让领域专家给AI当教练,用标注反馈驱动智能体快速进化

The collaboration layer for teams building AI agents. Test, simulate, and trace your···

★ 404 2026-08-09
agentevals 开源

用追踪数据评估智能体,无需绑定框架

agentevals is a framework-agnostic evaluations solution based on OpenTelemetry trace···

★ 169 2026-08-10