langfuse

一站式搞定 LLM 应用调试、评估和提示词管理

开源 🏷️基础免费,高级付费 ✅ 目前可打开 基础设施 🍴 复刻 4186 🐛 待处理 1178 👀 关注 111
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 37187
维护状态 活跃
是否开源 开源
定价模式 🏷️基础免费,高级付费 支持限时试用 · 开源核心可自托管,云服务提供免费额度,付费升级获取更多功能与支持。

项目预览

langfuse 项目界面预览图
图片来源:项目官网

项目数据

分类基础设施
开发团队langfuse
定价模式🏷️基础免费,高级付费
价格说明开源核心可自托管,云服务提供免费额度,付费升级获取更多功能与支持。
访问状态✅ 目前可打开
是否开源是
开源协议NOASSERTION
主要语言TypeScript
技术栈/模型analytics,autogen,evaluation,langchain,large-language-models,llama-index,llm,llm-evaluation,llm-observability,llmops,monitoring,observability,open-source,openai,playground,prompt-engineering,prompt-management,self-hosted,ycombinator
GitHub 星标★ 37187
上线时间2023-05-18 00:00:00
代码更新2026-11-09
仓库体积265.6 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数10

项目介绍

Langfuse 是一个开源的 AI 工程平台,专注于 LLM 应用的可观测性、评估与提示词管理。它解决了 LLM 应用开发中调试困难、质量评估主观、提示词迭代混乱等痛点。核心能力包括:追踪 LLM 调用链(支持 LangChain、OpenAI SDK、LiteLLM 等),提供详细的 token 使用与成本分析;内置评估工具,可对输出进行在线评分或离线批量评估;提供提示词版本管理与在线调试工作台;支持数据集管理,便于回归测试。与 OpenTelemetry 集成,可作为自托管或云服务部署。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 37187

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 10 分钟 部署方式:Docker 7 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已注册 Langfuse Cloud 账号,或准备好自托管环境(需按官方 self-host 文档部署)
  • Python 环境(可执行 pip),用于安装 Python SDK
  • Node.js 环境(可执行 npm),用于安装 JS/TS SDK
  • 待接入的 LLM 应用代码(如 LangChain、OpenAI SDK、LiteLLM 等)

安装与启动步骤

  1. 1选择部署方式

    Langfuse 提供 Langfuse Cloud 托管服务与 Self Host 自托管两种方式,按团队运维能力选择其一。

  2. 2注册云服务账号

    若选择托管方案,直接访问 Langfuse Cloud 注册即可开始使用,无需自己部署服务端。

  3. 3查阅自托管文档

    若选择自托管,请按官方 self-host 文档操作;README 未给出具体部署命令,请勿凭猜测执行。

  4. 4体验官方 Demo

    部署前可先打开官方 Demo 页面,了解追踪、评估、提示词管理等界面形态。

  5. 5安装 Python SDK

    Python 项目通过 PyPI 上的 langfuse 包接入,命令在没有虚拟环境的终端中执行会装到全局。

    pip install langfuse
  6. 6安装 JS/TS SDK

    TypeScript/JavaScript 项目通过 npm 上的 langfuse 包接入,注意在项目根目录执行。

    npm install langfuse
  7. 7埋点并上报 Trace

    在你的应用中初始化 SDK 并埋点,让 LLM 调用、检索、嵌入、Agent 动作等逻辑上报到 Langfuse。

如何确认成功

运行应用后,在 Langfuse 界面中能看到新产生的 trace 记录,并能查看 LLM 调用日志与用户会话,即表示接入成功。

常见问题

Q:不想自己运维服务器怎么办?

A:直接使用官方托管的 Langfuse Cloud,访问 cloud.langfuse.com 注册账号即可,无需部署任何服务端组件。

Q:如何自托管部署 Langfuse?

A:README 给出了自托管文档入口 https://langfuse.com/docs/deployment/self-host,具体 Docker 命令、端口与依赖以该文档为准。

Q:支持哪些语言的 SDK?

A:README 中标注了 PyPI 上的 langfuse(Python)和 npm 上的 langfuse(JS/TS)两个官方包,并有 Docker Hub 镜像 langfuse。

Q:部署前想先看看效果?

A:可访问 https://langfuse.com/demo 使用官方演示环境,直观了解追踪、评估与提示词管理功能。

Q:遇到问题去哪里反馈?

A:README 提供了 Report Bug(langfuse.com/issues)与 Feature Request(langfuse.com/ideas)入口。

注意事项

  • README 节选未给出具体安装命令、端口与环境变量,自托管实际部署务必以官方 self-host 文档为准。
  • 本教程中的 pip/npm 命令仅依据 README 标注的 PyPI 与 npm 包名推断,执行前建议核对官方文档。
  • 自托管通常需配套数据库等依赖并由自己维护,请评估运维成本后再决定。
  • 版本变更记录见 https://langfuse.com/changelog,升级前建议先阅读。

核心亮点

  • 追踪链路完整,从用户请求到 LLM 响应全链路可视化,支持多框架集成
  • 内置评估体系,支持在线评分和离线批量评估,可自定义指标
  • 提示词版本管理+在线调试,方便团队协作和快速迭代

不足之处

  • 自托管部署有一定复杂度,需维护数据库和队列
  • 文档/社区待观察

适用场景

  • LLM 应用开发调试,快速定位 token 消耗和响应异常
  • 团队协作管理提示词版本,统一评估标准
  • 生产环境监控 LLM 调用质量,设置告警和成本控制

替代项目

LangSmith、Phoenix (Arize)、Helicone

上一篇:litellm

下一篇:phoenix

同类项目推荐

llmaz 开源

在 K8s 上一键部署多种 LLM 推理服务

☸️ Easy, advanced inference platform for large language models on Kubernetes. Sta···

★ 313 2026-09-15
dstack 开源

一套编排,跑遍所有GPU环境,训练推理不发愁

A unified orchestration layer for heterogeneous AI compute. It standardizes how to m···

★ 2310 2026-08-10
gpt2giga 开源

改个地址,现有 LLM 客户端直接接 GigaChat

FastAPI proxy for OpenAI, Anthropic and Gemini compatible clients backed by the Giga···

★ 144 2026-10-31
DeepCache 开源

免训练加速扩散模型,生成速度翻倍,画质不掉线。

[CVPR 2024] DeepCache: Accelerating Diffusion Models for Free

★ 965 2026-08-09
SageAttention 开源

渲染提速好几倍,出片快人一步

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention achieves speedup of ···

★ 4002 2026-08-09
mosec 开源

动态批处理+流水线,榨干GPU,提升模型服务吞吐量

A high-performance ML model serving framework, offers dynamic batching and CPU/GPU p···

★ 903 2026-08-09
claude-tap 开源

本地拦截 AI 编程代理流量,可视化调试每个 API 调用

Intercept and inspect Coding Agent API traffic from Claude Code, Codex CLI, Gemini C···

★ 3329 2026-08-09
stable-diffusion-nodejs 开源

在 Node.js 里直接跑 Stable Diffusion,GPU 加速出图

GPU-accelerated javascript runtime for StableDiffusion. Uses modified ONNX runtime t···

★ 58 2026-08-09
agent-vibes 开源

让 Claude Code 和 Cursor 免费接入更多 AI 后端

Unified Agent Gateway — Enables Claude Code CLI and Cursor IDE to use free AI backe···

★ 360 2026-08-09