athina-sdk

写测试、跑监控,让 LLM 应用在生产环境不翻车

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 1 🐛 待处理 2 👀 关注 2
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 131
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源SDK,本地部署使用,无在线服务,完全免费。

项目预览

athina-sdk 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队athina-ai
定价模式🏷️完全免费
价格说明开源SDK,本地部署使用,无在线服务,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型aiops,llm,llm-test,llmops,mlops,monitoring,testing-tools
GitHub 星标★ 131
上线时间2023-07-02 00:00:00
代码更新2024-01-22
仓库体积122 KB
本站数据更新2026-11-07
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

athina-sdk 是一个用于 LLM 应用生产环境监控与测试的 Python SDK。它主要解决大语言模型应用在真实使用中出现的性能退化、输出质量不稳定、成本失控等问题。核心能力包括:编写和运行针对 LLM 输出的自动化测试,支持断言、回归测试和阈值检查;提供生产环境的实时监控,追踪提示词、模型响应、延迟和成本等关键指标;支持多种主流 LLM 提供商,并允许自定义评估逻辑。通过集成测试与监控,帮助开发者在模型更新或提示词调整后快速发现异常,确保应用输出符合预期。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 131

核心亮点

  • 提供声明式测试断言,可快速验证 LLM 输出是否包含关键信息或符合格式
  • 内置生产监控仪表盘,实时追踪调用量、延迟和成本
  • 支持与主流 LLM 提供商(如 OpenAI、Cohere)无缝集成,降低接入成本

不足之处

  • 项目处于早期阶段,文档和社区支持相对有限
  • 部分高级监控功能可能需要配套后端服务,本地使用受限

适用场景

  • LLM 应用上线前编写回归测试,防止提示词调整导致输出质量下降
  • 生产环境中持续监控模型响应质量,及时发现异常输出
  • 对比不同模型或提示词版本的成本与性能,辅助选型决策

替代项目

LangSmith、PromptLayer、Helicone

上一篇:vigil-llm

下一篇:spelltest

同类项目推荐

www-project-agent-memory-guard 开源

给AI智能体记忆加把锁,防投毒防操控

Runtime defense against memory poisoning in AI agents (OWASP ASI06). Drop-in for Lan···

★ 198 2026-08-09
guidellm 开源

给 LLM 推理服务做真实压测,选型调优有数可依

Evaluate and Enhance Your LLM Deployments for Real-World Inference Needs

★ 1762 2026-10-14
LiveBench 开源

每月换新题,测出模型真实水平

LiveBench: A Challenging, Contamination-Free LLM Benchmark

★ 1351 2026-09-16
svelte-bench 开源

专测大模型写 Svelte 5 代码行不行

An LLM benchmark for Svelte 5 based on the OpenAI methodology from OpenAIs paper "Ev···

★ 190 2026-09-15
PySODEvalToolkit 开源

一行命令批量算齐 SOD/COD 全部指标

PySODEvalToolkit: A Python-based Evaluation Toolbox for Salient Object Detection and···

★ 352 2026-09-20
awesome-llm-agent-papers 开源

200+篇LLM智能体论文,按主题分类,助你快速掌握前沿。

LLM agents: curated papers on planning, memory, tool use, multi-agent systems, evalu···

★ 113 2026-08-09
ollama-benchmark 开源

一键测本地大模型吞吐,选模型不靠猜

LLM Benchmark for Throughput via Ollama (Local LLMs)

★ 397 2026-09-16
model-serving-minefield 开源

按症状查 LLM 服务陷阱,避免自信的错误测量

Community registry of LLM serving-path traps that produce confidently wrong measurem···

★ 174 2026-09-14