trulens

给LLM应用装上仪表盘,量化评估效果,快速定位问题。

TruLens 是一个面向 LLM 实验和 AI Agent 的评估与追踪工具,旨在解决大模型应用开发中‘效果难衡量、问题难定位’的痛点。它提供了一套统一的反馈函数机制,允许用户对模型输出进行多维度的质量评估,包括答案相关性、有害性、偏见等,并支持自定义评估逻辑。同时,TruLens 能够对 LLM 应用的调用链进行细粒度的追踪,记录输入/输出、中间步骤、成本与延迟,并以可视化仪表盘呈现,帮助开发者快速定位性能瓶颈或逻辑错误。其核心能力包括:基于反馈函数的可解释评估、与主流框架(如 LangChain、LlamaIndex)的深度集成、以及针对 RAG 和 Agent 架构的专用追踪模式。通过将评估与实验追踪结合,TruLens 让开发者能够系统性地迭代提示词或模型,从而提升应用质量。

开源 unknown 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 3571
维护状态 活跃
是否开源 是
定价模式 unknown

项目数据

分类基础设施
开发团队truera
所属国家
定价模式unknown
价格说明官网存在但未明确展示定价信息,需进一步查看。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型agent-evaluation,agentops,ai-agents,ai-monitoring,ai-observability,evals,explainable-ml,llm-eval,llm-evaluation,llmops,llms,machine-learning,neural-networks
GitHub 星标★ 3571
30天Star增速
HF 下载量
上线时间2020-11-02 00:00:00
最近更新2026-09-23 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数10

使用教程

难度:入门 约 10 分钟 部署方式:库/依赖 5 步

环境要求

  • 已安装 Python 环境,可使用 pip 安装包
  • 需要一个可用的 LLM 提供商(如 OpenAI、LiteLLM、Google 等)用于反馈评估
  • 如需与 LangChain/LlamaIndex 集成,需先有对应的应用框架环境

安装与启动步骤

  1. 1安装核心包

    从 PyPI 安装 TruLens 主包,这是所有功能的基础依赖。

    pip install trulens
  2. 2安装提供商包

    按你实际使用的 LLM 提供商选择一个安装,用于运行反馈评估(judges)。

    pip install trulens trulens-providers-openai
  3. 3安装框架集成包

    如果你的应用基于 LangChain/LangGraph 或 LlamaIndex,按需安装对应集成包。

    pip install trulens trulens-apps-langchain
  4. 4在线记录一次调用

    用 tru_recorder 上下文管理器包裹应用调用,评估随应用运行实时进行。

    with tru_recorder as recording:
        response = my_app.query("What is TruLens?")
  5. 5批量评估数据集

    用 Run API 对已收集的数据集做批量评估,需先构造 RunConfig 并添加到 app。

    from trulens.core.run import RunConfig
    
    run_config = RunConfig(
        run_name="batch_eval_v1",
        dataset_name="eval_questions",
        source_type="TABLE",
        dataset_spec={"input": "QUESTION"},
        invocation_max_workers=8,
        metric_max_workers=4,
    )
    run = tru_app.add_run(run_config=run_config)
    run.start()
    run.compute_metrics([relevance, groundedness])

关键配置

配置项必填说明示例
run_name是本次批量评估运行的名称,用于区分不同批次结果batch_eval_v1
dataset_name是要评估的数据集名称eval_questions
source_type是数据集来源类型,README 示例为 TABLETABLE
dataset_spec是指定数据集中的输入字段映射{"input": "QUESTION"}
invocation_max_workers否调用应用的最大并发数8
metric_max_workers否计算指标的最大并发数4

如何确认成功

执行 with 语句后能正常返回 response,且 run.start() 与 compute_metrics() 调用无报错,说明安装与接入成功。

常见问题

Q:该装哪个提供商包?

A:OpenAI/Azure OpenAI 用 trulens-providers-openai;Anthropic、Cohere、Mistral 等用 trulens-providers-litellm;此外还有 google、bedrock、cortex、huggingface、langchain 等可选包。

Q:在线评估和批量评估有什么区别?

A:在线评估用 with tru_recorder 随应用运行实时打分;批量评估用 RunConfig + Run API,对预先收集好的数据集事后统一计算指标。

Q:可以和已有框架一起用吗?

A:可以。LangChain/LangGraph 安装 trulens-apps-langchain,LlamaIndex 安装 trulens-apps-llamaindex。

Q:怎么快速上手完整示例?

A:README 提供了 quickstart Colab 笔记本,可跟着走一遍从零搭建 RAG 并做插桩与评估的流程。

注意事项

  • 安装时把 trulens 与所需的 providers/apps 包写在同一条 pip install 命令里,避免版本不一致。
  • TruLens 的追踪基于 OpenTelemetry 原生实现,trace 可导出到任意 OTLP 后端。
  • 评估会调用 LLM 提供商,运行前请确保对应提供商的密钥已正确配置。
  • README 未给出具体的 Python 版本要求、端口或仪表盘启动命令,请以官方文档 www.trulens.org 为准。

核心亮点

  • 反馈函数机制灵活,支持自定义评估维度,不局限于内置指标。
  • 与 LangChain、LlamaIndex 等主流框架无缝集成,接入成本低。
  • 可视化追踪调用链,能清晰展示 RAG 检索和 Agent 决策过程。

不足之处

  • 文档偏学术化,新手快速上手有一定门槛。
  • 社区活跃度一般,问题响应速度可能不如商业产品。

适用场景

  • 大模型应用开发中的效果评估与回归测试。
  • RAG 系统的检索质量监控与调优。
  • AI Agent 的决策过程追踪与故障排查。

替代项目

LangSmith、W&B Weave、PromptLayer

项目介绍

trulens 是评测安全领域的开源项目,由 truera 开发,2020 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(3,571)位列前 30%,在评测安全分类的 466 个项目里位列前 8%。

近 42 天,它的 GitHub 星标从 3,507 增加到 3,571,净增 64。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-23。官网存在但未明确展示定价信息,需进一步查看。从国内网络环境看,可直接访问。

它主要面向的使用场景是:大模型应用开发中的效果评估与回归测试。同类可对比的替代方案包括 LangSmith、W&B Weave、PromptLayer。

上一篇:giskard-oss

下一篇:langwatch

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12