helicone

一行代码接入,实时监控和评估你的 LLM 应用

Helicone 是一个开源的 LLM 可观测性平台,旨在帮助开发者监控、评估和优化大语言模型应用。它通过一行代码集成,即可捕获所有 LLM 请求的日志、成本、延迟和 token 用量,并提供可视化仪表盘、请求追踪、自定义属性过滤等功能。同时,Helicone 支持基于真实流量的批量评估(如 A/B 测试、质量评分),以及 prompt 实验和回归检测,帮助团队在开发和生产环境中持续改进模型性能。其技术栈覆盖主流框架(LangChain、LlamaIndex 等),并提供 API 和 SDK,便于自动化集成。项目由 YC W23 孵化,社区活跃,适合从原型到生产规模的 LLM 应用团队使用。

开源 freemium 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 6176
维护状态 活跃
是否开源 是
定价模式 freemium

项目数据

分类基础设施
开发团队Helicone
所属国家
定价模式freemium
价格说明开源可自托管,同时提供托管云服务,有免费额度,付费解锁更多功能与支持。
访问状态
是否开源是
开源协议Apache-2.0
主要语言TypeScript
技术栈/模型agent-monitoring,analytics,evaluation,gpt,langchain,large-language-models,llama-index,llm,llm-cost,llm-evaluation,llm-observability,llmops,monitoring,open-source,openai,playground,prompt-engineering,prompt-management,ycombinator
GitHub 星标★ 6176
30天Star增速
HF 下载量
上线时间2023-01-31 00:00:00
最近更新2026-09-22 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

难度:入门 约 10 分钟 部署方式:云服务 5 步

环境要求

  • 一个 Helicone 账号(用于获取 API Key)
  • 账号内需有可用额度(credits)
  • 代码中原先调用 LLM 的 OpenAI SDK(示例使用 TypeScript/Node 版 openai 包)
  • 可访问 https://ai-gateway.helicone.ai 的网络环境

安装与启动步骤

  1. 1注册并获取API Key

    打开 https://helicone.ai/signup 注册账号,注册完成后在控制台获取你的 Helicone API Key。

  2. 2为账号添加额度

    前往 https://us.helicone.ai/credits 添加 credits,否则通过网关发出的请求会因额度不足而失败。

  3. 3修改baseURL接入网关

    把代码里的 baseURL 指向 Helicone 网关,apiKey 传入你的 Helicone API Key,其余调用逻辑不用改。

    import OpenAI from "openai";
    
    const client = new OpenAI({
      baseURL: "https://ai-gateway.helicone.ai",
      apiKey: process.env.HELICONE_API_KEY,
    });
    
    const response = await client.chat.completions.create({
      model: "gpt-4o-mini",  // claude-sonnet-4, gemini-2.0-flash or any model from https://www.helicone.ai/models
      messages: [{ role: "user", content: "Hello!" }]
    });
  4. 4查看日志与用量

    请求发出后,登录 https://us.helicone.ai/dashboard 查看日志、成本、延迟和 token 用量。

  5. 5可选:Docker自托管

    README 提到可用官方 docker-compose 文件本地自托管,但未给出具体命令,需按官方文档操作。

关键配置

配置项必填说明示例
baseURL是把请求转发到 Helicone AI Gateway,替代 OpenAI 官方地址。https://ai-gateway.helicone.ai
apiKey是你的 Helicone API Key,示例中通过环境变量读取。process.env.HELICONE_API_KEY
HELICONE_API_KEY是存放 Helicone API Key 的环境变量名。sk-xxxxxxxx
model否要调用的模型名,可换成 Helicone 支持的任一模型。gpt-4o-mini
messages是标准 OpenAI 格式的消息数组,保持原有写法即可。[{ role: "user", content: "Hello!" }]

如何确认成功

在 https://us.helicone.ai/dashboard 中能看到刚发出的请求日志、成本与延迟,即接入成功。

常见问题

Q:如何获取 Helicone API Key?

A:在 https://helicone.ai/signup 注册账号后即可拿到 API Key,并在 https://us.helicone.ai/credits 添加额度后使用。

Q:通过 Helicone 网关能调用哪些模型?

A:README 说明可通过一个 API 访问 100+ 模型,示例包括 gpt-4o-mini、claude-sonnet-4、gemini-2.0-flash,完整列表见 https://www.helicone.ai/models。

Q:可以自己本地部署 Helicone 吗?

A:可以,README 提到项目支持简单自托管和更新,需使用官方 docker-compose 文件,具体步骤见 https://docs.helicone.ai/getting-started/self-deploy-docker。

Q:在哪里查看请求日志?

A:登录 https://us.helicone.ai/dashboard 即可查看日志,并按自定义属性过滤和查看成本、延迟等指标。

注意事项

  • README 示例基于 OpenAI 官方 TypeScript SDK(import OpenAI from "openai"),使用前请确保项目中已安装并可用该依赖。
  • 接入方式是替换 baseURL 为 https://ai-gateway.helicone.ai,而不是替换整个模型调用代码。
  • API Key 建议通过环境变量 HELICONE_API_KEY 传入,不要硬编码在源码里。
  • Docker 自托管部分 README 只给出 docker-compose 文档链接,未提供具体命令,请以官方文档为准。

核心亮点

  • 一行代码集成,支持多种语言和框架,接入成本极低
  • 内置成本与延迟追踪,可精确到每次请求,便于优化
  • 支持基于真实流量的批量评估和实验,提升模型迭代效率

不足之处

  • 自托管部署配置相对复杂,需依赖 Docker 和外部数据库
  • 高级评估功能可能需付费版,开源版功能有限

适用场景

  • 生产环境 LLM 应用监控与成本管理
  • Prompt 版本迭代与回归测试
  • 多模型或 A/B 测试的在线评估

替代项目

Langfuse、LangSmith、Phoenix (Arize)

项目介绍

helicone 是基础设施领域的开源项目,由 Helicone 开发,2023 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(6,176)位列前 8%,在基础设施分类的 1,130 个项目里位列前 11%。

近 44 天,它的 GitHub 星标从 6,048 增加到 6,176,净增 128。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-22。开源可自托管,同时提供托管云服务,有免费额度,付费解锁更多功能与支持。从国内网络环境看,可直接访问。

它主要面向的使用场景是:生产环境LLM应用监控与成本管理。同类可对比的替代方案包括 Langfuse、LangSmith、Phoenix (Arize)。

上一篇:clearml

下一篇:coze-loop

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09