langfuse

一站式搞定 LLM 应用调试、评估和提示词管理

Langfuse 是一个开源的 AI 工程平台,专注于 LLM 应用的可观测性、评估与提示词管理。它解决了 LLM 应用开发中调试困难、质量评估主观、提示词迭代混乱等痛点。核心能力包括:追踪 LLM 调用链(支持 LangChain、OpenAI SDK、LiteLLM 等),提供详细的 token 使用与成本分析;内置评估工具,可对输出进行在线评分或离线批量评估;提供提示词版本管理与在线调试工作台;支持数据集管理,便于回归测试。与 OpenTelemetry 集成,可作为自托管或云服务部署。

开源 freemium 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 34944
维护状态 活跃
是否开源 是
定价模式 freemium

项目数据

分类基础设施
开发团队langfuse
所属国家
定价模式freemium
价格说明开源核心可自托管,云服务提供免费额度,付费升级获取更多功能与支持。
访问状态
是否开源是
开源协议NOASSERTION
主要语言TypeScript
技术栈/模型analytics,autogen,evaluation,langchain,large-language-models,llama-index,llm,llm-evaluation,llm-observability,llmops,monitoring,observability,open-source,openai,playground,prompt-engineering,prompt-management,self-hosted,ycombinator
GitHub 星标★ 34944
30天Star增速
HF 下载量
上线时间2023-05-18 00:00:00
最近更新2026-09-22 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数7

使用教程

难度:入门 约 10 分钟 部署方式:Docker 7 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已注册 Langfuse Cloud 账号,或准备好自托管环境(需按官方 self-host 文档部署)
  • Python 环境(可执行 pip),用于安装 Python SDK
  • Node.js 环境(可执行 npm),用于安装 JS/TS SDK
  • 待接入的 LLM 应用代码(如 LangChain、OpenAI SDK、LiteLLM 等)

安装与启动步骤

  1. 1选择部署方式

    Langfuse 提供 Langfuse Cloud 托管服务与 Self Host 自托管两种方式,按团队运维能力选择其一。

  2. 2注册云服务账号

    若选择托管方案,直接访问 Langfuse Cloud 注册即可开始使用,无需自己部署服务端。

  3. 3查阅自托管文档

    若选择自托管,请按官方 self-host 文档操作;README 未给出具体部署命令,请勿凭猜测执行。

  4. 4体验官方 Demo

    部署前可先打开官方 Demo 页面,了解追踪、评估、提示词管理等界面形态。

  5. 5安装 Python SDK

    Python 项目通过 PyPI 上的 langfuse 包接入,命令在没有虚拟环境的终端中执行会装到全局。

    pip install langfuse
  6. 6安装 JS/TS SDK

    TypeScript/JavaScript 项目通过 npm 上的 langfuse 包接入,注意在项目根目录执行。

    npm install langfuse
  7. 7埋点并上报 Trace

    在你的应用中初始化 SDK 并埋点,让 LLM 调用、检索、嵌入、Agent 动作等逻辑上报到 Langfuse。

如何确认成功

运行应用后,在 Langfuse 界面中能看到新产生的 trace 记录,并能查看 LLM 调用日志与用户会话,即表示接入成功。

常见问题

Q:不想自己运维服务器怎么办?

A:直接使用官方托管的 Langfuse Cloud,访问 cloud.langfuse.com 注册账号即可,无需部署任何服务端组件。

Q:如何自托管部署 Langfuse?

A:README 给出了自托管文档入口 https://langfuse.com/docs/deployment/self-host,具体 Docker 命令、端口与依赖以该文档为准。

Q:支持哪些语言的 SDK?

A:README 中标注了 PyPI 上的 langfuse(Python)和 npm 上的 langfuse(JS/TS)两个官方包,并有 Docker Hub 镜像 langfuse。

Q:部署前想先看看效果?

A:可访问 https://langfuse.com/demo 使用官方演示环境,直观了解追踪、评估与提示词管理功能。

Q:遇到问题去哪里反馈?

A:README 提供了 Report Bug(langfuse.com/issues)与 Feature Request(langfuse.com/ideas)入口。

注意事项

  • README 节选未给出具体安装命令、端口与环境变量,自托管实际部署务必以官方 self-host 文档为准。
  • 本教程中的 pip/npm 命令仅依据 README 标注的 PyPI 与 npm 包名推断,执行前建议核对官方文档。
  • 自托管通常需配套数据库等依赖并由自己维护,请评估运维成本后再决定。
  • 版本变更记录见 https://langfuse.com/changelog,升级前建议先阅读。

核心亮点

  • 追踪链路完整,从用户请求到 LLM 响应全链路可视化,支持多框架集成
  • 内置评估体系,支持在线评分和离线批量评估,可自定义指标
  • 提示词版本管理+在线调试,方便团队协作和快速迭代

不足之处

  • 自托管部署有一定复杂度,需维护数据库和队列
  • 文档/社区待观察

适用场景

  • LLM 应用开发调试,快速定位 token 消耗和响应异常
  • 团队协作管理提示词版本,统一评估标准
  • 生产环境监控 LLM 调用质量,设置告警和成本控制

替代项目

LangSmith、Phoenix (Arize)、Helicone

项目介绍

langfuse 是基础设施领域的开源项目,由 langfuse 开发,2023 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(34,944)位列前 2%,在基础设施分类的 1,132 个项目里位列前 3%。

近 41 天,它的 GitHub 星标从 32,983 增加到 34,944,净增 1,961。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-22。开源核心可自托管,云服务提供免费额度,付费升级获取更多功能与支持。从国内网络环境看,可直接访问。

它主要面向的使用场景是:LLM应用开发调试,快速定位token消耗和响应异常。同类可对比的替代方案包括 LangSmith、Phoenix (Arize)、Helicone。

上一篇:litellm

下一篇:phoenix

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09