项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 3632
使用教程
环境要求
- 已安装 Python 环境,可使用 pip 安装包
- 需要一个可用的 LLM 提供商(如 OpenAI、LiteLLM、Google 等)用于反馈评估
- 如需与 LangChain/LlamaIndex 集成,需先有对应的应用框架环境
安装与启动步骤
-
1安装核心包
从 PyPI 安装 TruLens 主包,这是所有功能的基础依赖。
pip install trulens -
2安装提供商包
按你实际使用的 LLM 提供商选择一个安装,用于运行反馈评估(judges)。
pip install trulens trulens-providers-openai -
3安装框架集成包
如果你的应用基于 LangChain/LangGraph 或 LlamaIndex,按需安装对应集成包。
pip install trulens trulens-apps-langchain -
4在线记录一次调用
用 tru_recorder 上下文管理器包裹应用调用,评估随应用运行实时进行。
with tru_recorder as recording: response = my_app.query("What is TruLens?") -
5批量评估数据集
用 Run API 对已收集的数据集做批量评估,需先构造 RunConfig 并添加到 app。
from trulens.core.run import RunConfig run_config = RunConfig( run_name="batch_eval_v1", dataset_name="eval_questions", source_type="TABLE", dataset_spec={"input": "QUESTION"}, invocation_max_workers=8, metric_max_workers=4, ) run = tru_app.add_run(run_config=run_config) run.start() run.compute_metrics([relevance, groundedness])
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
run_name | 是 | 本次批量评估运行的名称,用于区分不同批次结果 | batch_eval_v1 |
dataset_name | 是 | 要评估的数据集名称 | eval_questions |
source_type | 是 | 数据集来源类型,README 示例为 TABLE | TABLE |
dataset_spec | 是 | 指定数据集中的输入字段映射 | {"input": "QUESTION"} |
invocation_max_workers | 否 | 调用应用的最大并发数 | 8 |
metric_max_workers | 否 | 计算指标的最大并发数 | 4 |
如何确认成功
执行 with 语句后能正常返回 response,且 run.start() 与 compute_metrics() 调用无报错,说明安装与接入成功。
常见问题
Q:该装哪个提供商包?
A:OpenAI/Azure OpenAI 用 trulens-providers-openai;Anthropic、Cohere、Mistral 等用 trulens-providers-litellm;此外还有 google、bedrock、cortex、huggingface、langchain 等可选包。
Q:在线评估和批量评估有什么区别?
A:在线评估用 with tru_recorder 随应用运行实时打分;批量评估用 RunConfig + Run API,对预先收集好的数据集事后统一计算指标。
Q:可以和已有框架一起用吗?
A:可以。LangChain/LangGraph 安装 trulens-apps-langchain,LlamaIndex 安装 trulens-apps-llamaindex。
Q:怎么快速上手完整示例?
A:README 提供了 quickstart Colab 笔记本,可跟着走一遍从零搭建 RAG 并做插桩与评估的流程。
注意事项
- 安装时把 trulens 与所需的 providers/apps 包写在同一条 pip install 命令里,避免版本不一致。
- TruLens 的追踪基于 OpenTelemetry 原生实现,trace 可导出到任意 OTLP 后端。
- 评估会调用 LLM 提供商,运行前请确保对应提供商的密钥已正确配置。
- README 未给出具体的 Python 版本要求、端口或仪表盘启动命令,请以官方文档 www.trulens.org 为准。
核心亮点
- 反馈函数机制灵活,支持自定义评估维度,不局限于内置指标。
- 与 LangChain、LlamaIndex 等主流框架无缝集成,接入成本低。
- 可视化追踪调用链,能清晰展示 RAG 检索和 Agent 决策过程。
不足之处
- 文档偏学术化,新手快速上手有一定门槛。
- 社区活跃度一般,问题响应速度可能不如商业产品。
适用场景
- 大模型应用开发中的效果评估与回归测试。
- RAG 系统的检索质量监控与调优。
- AI Agent 的决策过程追踪与故障排查。
替代项目
LangSmith、W&B Weave、PromptLayer
上一篇:giskard-oss
下一篇:langwatch
同类项目推荐
rsi_eval
开源
一条命令跑通 agent 自我改进的多轮基准评测
A lightweight Python SDK and CLI for evaluating recursive self-improvement (RSI) met···
awesome_LLM-harmful-fine-tuning-···
开源
一页看全有害微调攻防论文,快速摸清 LLM 安全风险
A survey on harmful fine-tuning attack for large language model (ACM CSUR)
auto_eval
开源
让机器人策略评估全自动,省时省力又客观
AutoEval: Autonomous Evaluation of Generalist Robot Manipulation Policies in the Rea···
evals
开源
配置驱动的 Agent 评测,批量跑完直接看结果
Fast, robust, configurable agent evals
ai-jailbreaks
开源
现成越狱提示词库,快速测模型安全边界
AI jailbreaks: 35 paste-ready AI jailbreak prompts for 25+ frontier and open-weight ···
lmring
开源
自建 LLM 竞技场,让真实用户投票选出最强模型
Open-source, self-hostable LLM arena with model compare, voting, and leaderboards
www-project-machine-learning-sec···
开源
给机器学习系统做安全体检,照着清单防十大风险。
OWASP Machine Learning Security Top 10 Project
power-pwn
开源
给 AI 助手做安全体检,防黑客钻空子
An offensive/defense security toolset for discovery, recon and ethical assessment of···
watchtower
开源
用 LLM 编排本地网站渗透测试,自动出报告
Watchtower - AI-powered penetration testing automation CLI tool that leverages LLMs ···
